Аналитики Gartner Дэрил Пламмер и Кристин Мойер заявили на симпозиуме Gartner IT Symposium, что ИИ-индустрия и её ключевые игроки пока не готовы к полноценному корпоративному использованию, сообщает The Register.
По данным исследования Gartner, 86% ИТ-директоров считают, что риски от ИИ растут быстрее пользы. Первые успехи внедрения технологии порождают спрос, который ИТ-отделы не могут удовлетворить без ущерба для безопасности систем.
Часть проблем Мойер связывает с «безответственным потреблением» — использованием ИИ сотрудниками без реальной необходимости. 40% работников сталкивались с низкокачественным AI-контентом, разбор которого может обходиться организации с тысячей сотрудников в $9 млн в год.
Отследить количество задействованных ИИ-агентов крайне сложно — технология проникает в компании через уже используемые продукты. По словам Мойер, бизнесу потребовалось десятилетие, чтобы отучить разработчиков выбирать самые дорогие облачные инстансы, и с агентами ИИ ситуация повторяется.
Пламмер предлагает для многих задач использовать проверенные механизмы автоматизации вместо ИИ-агентов — например, обычный вызов функции для работы с базой данных эффективнее. Часть вины он возлагает на вендоров, стремящихся монетизировать ИИ любой ценой и продающих больше токенов.
Среди предложенных мер — создание «агентов-хранителей», наблюдающих за поведением других ИИ-систем и имеющих право их отключать, а также групп быстрого реагирования для устранения сбоев. «Если вы скажете „это сделал ИИ“, у вас возникнут серьёзные неприятности — отвечать будут ИТ-директора», — отметил Пламмер.
Аналитики также предлагают создать «центральный банк ИИ» — структуру контроля использования технологии во всей организации с обеспечением подотчётности через традиционные ERP- и CRM-системы, поскольку сами ИИ-системы не всегда оставляют следы действий.
Пламмер считает, что доверять ведущим ИИ-лабораториям пока рано: они не соответствуют корпоративным стандартам, не понимают вопросов ответственности и стабильности бизнес-процессов. Разработчики меняют модели без оглядки на последствия для зависящих от них приложений и не поддерживают устаревшие версии — жизненный цикл модели составляет всего около полугода.
Говоря об AIOps — подходе, при котором вендоры используют агентов для поиска проблем и предложения решений в один клик, Пламмер отметил, что направление верное, но мотивы вендоров порочны: их цель — продать продукт, а не решить проблему клиента. Рынок таких решений он назвал одним из самых фрагментированных.