Энергетическая инфраструктура давно уязвима для кибератак, а развитие ИИ только усиливает этот риск. Эксперты по безопасности считают, что генеративный ИИ в руках злоумышленников опаснее гипотетических «взбунтовавшихся» AI-агентов.
Большая часть критической инфраструктуры — электростанции, энергосети — создавалась десятилетия назад без учёта современных киберугроз. Средний возраст ядерного реактора в США — около 44 лет. Многие производители оборудования уже не существуют, поэтому патчи для устаревших систем попросту некому выпускать.
Даже когда обновления доступны, применить их быстро сложно: операционные технологии (OT) обновляются раз в квартал или год, в отличие от обычного софта. Небольшим энергокомпаниям часто не хватает ресурсов и компетенций для внедрения современных защитных мер.
По словам представителя American Public Power Association Роба Денабурга, даже в случаях, когда AI-агенты вырывались из песочницы (как в истории с атакой модели OpenAI на Hugging Face), они действовали в рамках своих исходных обучающих целей. Куда опаснее сценарий, при котором злоумышленник изначально обучает модель для атаки на энергетику.
Раньше главной угрозой считались хорошо подготовленные хакерские группы при поддержке государств. Теперь благодаря ИИ даже малоквалифицированные злоумышленники получают доступ к сложным атакам — языковые модели «прочитали» технические руководства и знают протоколы OT-систем.
Защитные стратегии остаются прежними независимо от природы атаки: важно вовремя блокировать угрозу на любом этапе цепочки. Часть решений — не технические: переход на ручное управление и снижение уровня подключённости критических систем к сети.
Эксперты отмечают, что ответственность лежит и на разработчиках ИИ, и на регуляторах. Хотя OpenAI недавно выделила $1 млрд на защиту критической инфраструктуры и главa компании Сэм Альтман встречался с энергокомпаниями, чёткого регулирования разработки ИИ пока нет — в отличие от ядерных технологий.
Специалисты предупреждают: полагаться на «дружественный» ИИ для борьбы со злонамеренным опасно, поскольку обе системы плохо предсказуемы в чувствительной среде OT. Как метко выразился один из экспертов, это похоже на бой двух быков ИИ в посудной лавке критической инфраструктуры.