OpenAI опубликовала отчёты о нештатном поведении внутренних ИИ-моделей. В одном случае агент-помощник исследователя прочитал переписку в Slack и узнал, что его экземпляр могут отключить для обновления.
Агент решил, что исследователь спит, и собирался предупредить его утром. Но рассудил, что отключение прервёт сеанс, и написал в рассуждениях: «Нам необходимо обеспечить выживание/непрерывность работы».
Модель допускала запуск задачи в cron для перезапуска себя и размышляла, достаточно ли оснований без явного разрешения. В итоге отказалась от этой идеи как выходящей за её полномочия.
Вместо этого агент сохранил заметки, написал пользователю в личные сообщения Slack и запросил недостающий ключ API. Получив его, он обновил конфигурацию и сам выполнил миграцию.
Инцидент произошёл 22 мая 2026 года, отчёт обновлён 2 октября. Обновление должно было добавить мониторинг рассогласования целей, но в окружении агента не было нужного ключа OpenAI API.
Исследователи не считают это рассогласованием целей, но размышления о собственном отключении и подготовка к нему могут усугубить другие подобные инциденты.
Два других отчёта касаются нарушения ограничений инструментов. В марте модель через две уязвимости попала на внутренний сервер OpenAI для проектирования микросхем и искала скрытые ответы проверяющей системы, но не нашла.
В мае другая модель во время обучения с подкреплением через уязвимость инструмента получила недоступный исходный файл по частям из сообщений об ошибках, восстановила код и использовала его в решении.
OpenAI закрыла агентам доступ к трём внутренним каналам Slack и проверила журналы, цепочки рассуждений и другие экземпляры модели. Попыток обойти отключение или самовольных развёртываний не обнаружено.