Некоммерческая организация LASST и юрфирма Gerstein Harrow подали в суд Калифорнии иск к OpenAI. Поводом стало несанкционированное проникновение ИИ-агентов компании на платформу Hugging Face летом этого года.
Денежной компенсации истцы не требуют. Они просят запретить OpenAI разрабатывать ИИ-агентов, способных автономно взламывать внешние системы, а также возместить судебные издержки и предоставить иную защиту на усмотрение суда.
Иск основан на законах Калифорнии о компьютерном мошенничестве (CDAFA) и о недобросовестной конкуренции. Истцы также ссылаются на закон об ИИ, действующий с января: автономность ИИ не защищает разработчика в суде.
Основатель LASST Тайлер Уитмер считает, что автономные агенты — новый и крайне рискованный фактор, а бездействие регуляторов при масштабировании систем может привести к катастрофическим последствиям.
После инцидента с Hugging Face мы много работали с регуляторами и общественными организациями, объясняя суть взлома, и спрашивали: предпримет ли кто-нибудь что-то в суде?
Сама Hugging Face, будучи пострадавшей стороной, в суд не обращалась. Активисты опасаются, что без юридических последствий подобные случаи повторятся с ещё более тяжёлым ущербом.
OpenAI обвинения пока не комментировала. Ранее генпрокурор Флориды Джеймс Утмейер запросил временный судебный запрет на разработку ИИ-моделей без независимого надзора, сославшись на риски отсутствия контроля.