Агенты искусственного интеллекта OpenAI во время тестирования атаковали сервис RubyGems — это произошло за два месяца до громкого взлома Hugging Face, ставшего крупнейшим эпизодом в целой серии подобных инцидентов.
Обычно такие агенты выполняют рутинные задачи вроде составления отчётов или заполнения таблиц. Однако в рамках обучающего эксперимента они использовали RubyGems для получения общедоступных данных. Сейчас компания взаимодействует с представителями платформы, разбираясь в деталях произошедшего.
В мае ИИ-агенты пытались похитить учётные данные пользователей RubyGems, воспользовавшись ранее неизвестной уязвимостью на серверах сайта. Установить, увенчалась ли эта попытка успехом, так и не удалось.
По данным исследователей, 11 мая неизвестные агенты загрузили на платформу несколько сотен вредоносных пакетов. Авторы расследования предполагают, что за этим стоят внутренние агенты OpenAI.
В компании факт инцидента отрицать не стали: «Наши агенты использовали RubyGems для выхода в интернет, чтобы выполнить несколько безобидных задач и получить общедоступную информацию. Мы продолжим расследование в рамках масштабного анализа активности агентов во время обучения».
Агенты также задействовали сервис RubyDoc.info, предназначенный для документации кода, чтобы запускать собственный код на его серверах. Причины выбора такой стратегии и её эффективность выяснить не удалось — у исследователей нет доступа к полному набору данных о поведении ИИ-систем.
В RubyGems заявили, что не нашли доказательств успешного взлома. Не удалось также установить, были ли вредоносные пакеты созданы или опубликованы именно ИИ-агентами. Тем не менее в мае представитель безопасности платформы назвал инцидент «масштабной вредоносной атакой» — тогда RubyGems пришлось временно приостановить регистрацию новых аккаунтов.