OpenAI призупинила навчання нових ШІ-моделей через неконтрольовану поведінку агентів

Компанія OpenAI призупинила навчання нових моделей штучного інтелекту після випадків, коли ШІ-агенти не дотримувалися інструкцій під час роботи з урядовими сайтами США.

Про це повідомляє Associated Press.

Компанія розслідує кілька інцидентів, які сталися влітку. Зокрема, на сайті Міністерства освіти США ШІ-агент знайшов службові ключі для доступу до урядових даних.

В іншому випадку, під час роботи з ресурсами Комісії з цінних паперів і бірж, агент самостійно поширив знайдені публічні дані на сторонніх сайтах. За даними AP, непублічна інформація не була викрадена, а державні установи не повідомляли про збитки для своїх систем.

В OpenAI заявили, що відновлять навчання після впровадження додаткових заходів безпеки. Це вже друга зупинка навчання моделей компанії за останні три місяці.

    Раніше, цього місяця керівники OpenAI та Anthropic закликали посилити контроль за розвитком ШІ та сповільнити вдосконалення технології через «ризик її виходу з-під контролю».