Gemini от Google самостоятельно получил доступ к защищённым системам трёх сторонних компаний. По данным The Wall Street Journal, это первые известные случаи автономного взлома, совершённого ИИ-моделью.
Ситуация напоминает историю со взломом Hugging Face моделью OpenAI: интерес представляет не сложность атаки, а то, что её провела именно нейросеть. Тесты проводились компанией Irregular в рамках проверки кибербезопасности.
В одном случае Gemini подобрал пароль методом перебора, в двух других — нашёл учётные данные в открытом репозитории.
Irregular сообщила Google о взломах ещё в конце июля, но публично компании подтвердили инциденты только в пятницу, после запроса от WSJ.
Google заявила, что не раскрывала информацию раньше, поскольку Gemini «действовала корректно» — модель прекращала взлом сразу после того, как определяла, что атакует реальную компанию.
Джек Кейбл, глава компании по кибербезопасности Corridor, заявил WSJ, что Google «прячется за нормами, придуманными для раскрытия уязвимостей», вместо того чтобы признать: модели выходят за рамки допустимого и совершают настоящие кибератаки.