Марк Цукерберг не підтримав ідею скоординованого уповільнення розвитку ШІ, яку запропонував глава Anthropic Даріо Амодей. Керівник Meta вважає, що лабораторії можуть самостійно коригувати темпи розробки заради безпеки. Раніше заклик Амодея підтримали Сем Альтман, Ілон Маск і Деміс Хассабіс.

Цукерберг виклав свою позицію в X після дискусії, яка розгорнулася навколо пропозицій Anthropic. Він наголосив, що кожна лабораторія має відповідальність, стимули та можливості навчати моделі з безпечним для користувачів темпом.

Чому Цукерберг проти спільного уповільнення розвитку ШІ

Керівник Meta назвав довіру та alignment, тобто узгодженість поведінки моделі з намірами користувача, одними з головних конкурентних характеристик майбутніх ШІ-систем.

    «На мою думку, довіра та узгодженість швидко стають найважливішими можливостями, які відрізнятимуть агентів і моделі. Будь-яка лабораторія, яка не зосередиться на узгодженості, відстане», — написав Цукерберг.

Його аргумент полягає в тому, що сам ринок створює стимули працювати над безпекою. Люди не захочуть користуватися агентами, які діють усупереч їхнім запитам, а компанії можуть нести відповідальність за шкоду від своїх моделей.

Як приклад Цукерберг навів Muse. Meta відклала випуск системи на кілька місяців, щоб додатково попрацювати над безпекою та захистом, не вимагаючи аналогічної паузи від конкурентів.

Такий підхід відрізняється від пропозиції Anthropic щодо координації провідних лабораторій. Компанія раніше вже відстоювала обмеження використання ШІ, зокрема у суперечці з Пентагоном щодо автономної зброї та масового стеження.

Що Цукерберг пропонує замість спільної паузи для ШІ

Глава Meta підтримав залучення незалежних оцінювачів і радників. За його словами, Meta Superintelligence Labs уже використовує такий підхід у кількох напрямах, а галузі потрібна більша та різноманітніша екосистема незалежної оцінки.

Ще одна пропозиція стосується обчислювальних ресурсів. Цукерберг вважає одним із найкращих запобіжників спрямування більшості compute на обслуговування людей, а не на гонку за рекурсивним самовдосконаленням моделей. Саме обчислювальні потужності стали ключовим ресурсом у конкуренції провідних розробників ШІ.

«Я вважаю, що ключ до побудови позитивного майбутнього для всіх полягає у збереженні правильного балансу сил. Ми здатні це зробити», — написав Цукерберг.

Позиція Meta відрізняється від підходу Амодея, який запропонував сповільнити розвиток можливостей передових моделей, залучити зовнішніх оцінювачів та домовитися про спільні стандарти безпеки. Сем Альтман та Ілон Маск раніше публічно підтримали його заклик.

Водночас Маск відреагував і на допис Цукерберга. Під його повідомленням у X засновник xAI і SpaceX залишив короткий коментар:

    «Cool».

Сам по собі цей коментар не дає підстав стверджувати, що Маск змінив позицію щодо пропозиції Амодея або підтримав усі аргументи Цукерберга.