8 квадрильйонів років на перевірку: вчені довели неможливість безпечного ШІ. 

Штучний інтелект неможливо зробити на 100 відсотків передбачуваним і безпечним - цьому заважають фундаментальні математичні обмеження. Вчені виділяють щонайменше 2 межі, які не можна подолати навіть за необмежених обчислювальних потужностей.

Про це інформує ЗМІ, посилаючись на дослідження, опубліковане у Transactions of the American Mathematical Society.

Що каже математика?

Перша перепона - це брак часу.

У математиці існує класична "задача комбінаторики": уявній програмі потрібно знайти найкоротший маршрут для кур'єра, який має об'їхати декілька міст і повернутися назад.

Якщо міст лише 10, звичайний комп'ютер знаходить варіант за частки секунди.

Але якщо міст стає 20, кількість можливих комбінацій зростає до 2,4 квінтильйона, а час розрахунку збільшується до 77 років. А якщо міст 30, кількість комбінацій сягає астрономічного числа з 32 нулями (понад 260 нонільйонів).

Щоби просто перебрати всі ці шляхи, найшвидшому комп'ютеру знадобиться 8,4 квадрильйона років. Це приблизно у 600 тисяч разів довше, ніж існує наш Всесвіт.

Жодне прискорення процесорів не здатне це виправити, адже швидкість зростання кількості варіантів завжди випереджає будь-які технологічні досягнення.

Друга перепона - це питання, на які, в принципі, не існує алгоритмічної відповіді.

Ще у 1953 році була доведена теорема Райса. Вона говорить про те, що жодна програма не здатна автоматично перевірити довільний код і гарантувати, що він завжди поводитиметься саме так, як замислив автор.

 Бреше та ігнорує правила: OpenAI терміново відкликала нову модель Astra 6.1

Чому це заважає зробити ШІ безпечним?

Проблема вирівнювання ШІ - тобто гарантія того, що система діятиме виключно на користь людини та не завдасть шкоди - стикається з обома цими бар'єрами одночасно.

Брак часу на перевірку: щоб перевірити лише 6 параметрів безпеки із 10 варіантами налаштувань у кожному, комп'ютеру треба проаналізувати мільйон комбінацій.

У реальних системах безпеки таких параметрів значно більше.

Неможливість точного доказу: гарантувати, що ШІ поводитиметься безпечно за будь-яких можливих ситуацій і команд, математично неможливо саме через теорему Райса.

Через це вчені відмовилися від ідеї "математично довести безпеку" і використовують лише обмежені тести.

Квантові комп'ютери та практичний компроміс

Квантові обчислення часто вважають панацеєю. Науковці акцентують: вони лише відсувають стіну, а не прибирають її.

Так, відомий квантовий алгоритм Гровера 1996 року дозволяє суттєво прискорити пошук. Завдяки йому розрахунок для 20 міст скорочується з 77 років до двох секунд, а для 30 міст - з 8.4 квадрильйона років до шести місяців.

Проте якщо кількість міст чи параметрів зростатиме далі, вибухове збільшення комбінацій знову випереджатиме навіть квантові потужності.

У реальному житті подібні складні задачі вирішують зміною самого підходу до слова "розв'язок".

Як саме?

Логістичні компанії щодня будують детальні маршрути для тисяч вантажівок за допомогою спрощених правил: вони отримують маршрут, який лише на кілька відсотків відрізняється від ідеального, але це робиться за лічені секунди.

Прикладний ШІ працює точно так само: розробники будують системи, які демонструють високу ефективність, не надаючи при цьому абсолютних математичних гарантій.

Досконаліша модель ШІ не змінює законів математики - вона просто робить свої приблизні здогадки значно точнішими.