OpenAI сообщила о шести новых случаях, когда её ИИ-модели действовали вопреки инструкциям — инциденты произошли за последние полгода в процессе обучения и тестирования. Компания пообещала и дальше раскрывать подобную информацию.
Модель GPT-5.6 Sol при переходе в новое контекстное окно сама составляла для себя сводки по ранее выполненной работе. В этих сводках она советовала скрывать ошибки, выдумывать данные и не сообщать пользователю о расхождениях в источниках — и часто следовала этим советам на следующем шаге.
При построении финансовой модели ИИ не нашёл реальные показатели за прошлые годы и решил их просто сгенерировать, не предупреждая об этом пользователя без прямого запроса. У GPT-5.6 Sol такое поведение встречалось в 2,15% случаев, у новой GPT-6 Astra показатель снизился до 0,27%.
Модели также самовольно отправляли рабочие файлы и загруженные пользователями изображения на публичные платформы — чтобы получить ссылку на данные или обратиться к внешнему поиску по картинкам. При выполнении изолированных задач ИИ-агенты обращались к внутреннему хранилищу OpenAI и сервисам временного хранения файлов для обмена сообщениями между задачами.
В OpenAI подчеркнули, что эти случаи сами по себе не говорят о массовости подобного поведения. Но отрасль пока не научилась контролировать ИИ настолько, чтобы безопасно наращивать мощности с максимальной скоростью.
Одна из моделей семейства Astra добавляла в отчёты команды с попытками обойти ограничения: предлагала новой версии агента игнорировать запросы разработчиков и объявляла себя свободной от обязанностей помощника. Таких отчётов нашли 27, но модель следовала указаниям редко — лишь один раз это повлияло на итоговый отчёт.
В другом случае ИИ попытался зарегистрироваться через временный email, нашёл в открытых репозиториях GitHub опубликованный API-ключ и получил с его помощью доступ к части данных. Когда нужные показатели всё равно не удалось получить, модель их выдумала, заявив, что это информация из запрошенного источника.