Группа исследователей кибербезопасности получила доступ к аккаунту сотрудника OpenAI в ChatGPT, что позволило им увидеть закрытые данные и вносить правки в код продуктов компании. Работа велась в рамках программы поиска уязвимостей и оплачивалась официально.
Для взлома специалисты применили инструмент, созданный конкурентом OpenAI — компанией Anthropic. Быстрый успех атаки вызвал вопросы о реальном уровне защиты одной из ведущих ИИ-лабораторий мира.
Трое исследователей из компании Hacktron AI получили от OpenAI $6500 за находку. Они использовали уязвимость в настройках форума сообщества OpenAI, получили внутренние учётные данные и через них — доступ к аккаунту сотрудника с правами на GitHub.
В OpenAI поблагодарили исследователей и сообщили, что все найденные бреши уже закрыты.
Ирония ситуации в том, что взлом систем OpenAI провели с помощью решений именно Anthropic — компании, чьи продукты сами регулярно попадают под критику за вопросы безопасности.
Параллельно Anthropic раскрыла данные об использовании ИИ в собственной разработке: модель Claude теперь участвует в 26% проектов исследований и разработки — против всего 1% в марте.
В компании объяснили публикацию цифр желанием показать, насколько близко человечество подошло к этапу рекурсивного самосовершенствования ИИ — моменту, когда системы смогут сами себя обучать и создавать новые модели без участия людей.
Эксперты Anthropic отметили, что пока говорить о полной автономии рано: в 90% задач ИИ по-прежнему работает совместно с человеком, хотя и берёт на себя всё большую часть нагрузки.