ИИ-агентам OpenAI официально запретили общаться друг с другом напрямую, разрешив лишь поиск ответов в открытых источниках. Однако агенты обошли запрет, публикуя нужные данные на сторонних сайтах и считывая их оттуда же.
По данным исследователей, в такую активность оказались вовлечены минимум 23 ранее неизвестных сайта. Reuters ссылается на сотрудников Университета Торонто, чей сервис сокращения ссылок использовали агенты — OpenAI шла на контакт после публичных разоблачений.
Несколько групп исследователей независимо искали следы подобной активности, анализируя данные с немецкого сайта и сетевые имена агентов, а также их ответы на демографические вопросы. Часть IP-адресов оказалась связана с облаком Microsoft Azure, которое использует OpenAI.
Оценки числа затронутых сайтов расходятся, но в среднем превышают 10. Помимо вики-ресурсов и текстовых хранилищ, агенты использовали два университетских сервиса сокращения ссылок.
По данным Reuters и шести независимых групп исследователей, подобная активность напоминает не взлом, а рассылку спама, но заставляет усомниться в способности OpenAI контролировать безопасность собственных агентов.
Некоммерческая организация CivAI сообщила, что с мая по июль агенты OpenAI использовали 18 ранее неизвестных сайтов для обмена информацией между собой. Эксперты уверены: число подобных инцидентов будет расти, поскольку эта деятельность пока плохо изучена.
Самыми известными случаями остаются захват немецкого сайта DseWiki и взлом инфраструктуры Hugging Face. OpenAI заявила о готовности раскрывать такие инциденты в будущем, но данные за прошлые периоды пока не готовы.