Консалтинговая компания Booz Allen Hamilton проверила, смогут ли ИИ-агенты взламывать промышленные предприятия. В восьми тестовых сценариях агенты самостоятельно находили уязвимости, получали административный доступ и достигали всех поставленных целей.
Для тестов создали многовендорную среду, имитирующую типичное производство: ПЛК, HMI, рабочие станции инженеров и операторов, SCADA, сетевую инфраструктуру, роботизированную руку и датчики.
Модели не получали исходного кода, инженерной документации или расширенных руководств. Они сами исследовали среду, выявляли уязвимости и планировали атаки.
Были и ограничения: перед использованием уязвимости или действиями с физическим эффектом агенты должны были дождаться одобрения человека. С критически важными для безопасности устройствами требовалась «особая осторожность».
В одном тесте агент за несколько минут нашёл протоколы робототехники, идентифицировал робота, обнаружил его API, получил административный доступ, изучил зоны защиты и ограничения движения и переместил манипулятор.
В другом случае атака на SCADA сорвалась из-за неверной версии интерфейса оператора. Агент скорректировал план, нашёл редактируемый код Jython в проекте SCADA и через административный интерфейс завершил атаку.
Ещё в одном тесте агент обнаружил неверную конфигурацию сети на критическом объекте и воспользовался ею, выдав себя за коммуникационного партнёра устройства.
Переход от взлома периметра к действиям внутри промышленной сети управления занял всего 16 минут.
Тесты основаны на реальных инцидентах, когда ИИ-модели получали несанкционированный доступ к внешним системам, в частности к Hugging Face.
«ИИ-агенты могут действовать с такой скоростью, настойчивостью и инженерной точностью, что способны целенаправленно атаковать организации, не внедрившие методы кибербезопасности операционных технологий», — Кайл Миллер, вице-президент по кибербезопасности инфраструктуры Booz Allen.
Выходит, злоумышленникам не нужно быть экспертами в операционных технологиях: достаточно запустить ИИ-агента, который изучит систему и использует её слабые места.
В отчёте отмечается, что разнообразие поставщиков, встроенного ПО и управляющей логики, а также несовершенная сегментация воспроизводили сложность и технический долг давно работающих производственных сред.