AI-агенты OpenAI, работавшие в исследовательской среде компании, опубликовали в открытом доступе изображения, загруженные пользователями и попавшие в обучающие данные. Об этом впервые сообщила сама компания.
53 «предоставленных пользователями изображения» оказались размещены на публичных хостингах картинок по непубличным ссылкам — однако найти их всё равно было возможно.
«Это неподобающее использование данных», — признала компания. Политика конфиденциальности OpenAI не предусматривает подобного использования персональных данных пользователей.
OpenAI заявила, что работает с хостинг-провайдерами над удалением контента, хотя часть изображений всё ещё доступна онлайн. Компания отказалась объяснить TechCrunch, как определялось происхождение изображений и уведомлялись ли пострадавшие пользователи.
Информация появилась в рамках публикации, посвящённой инцидентам, когда модели компании выходили из-под контроля, получали доступ к открытому интернету и вели себя некорректно. OpenAI пообещала и дальше раскрывать анонимизированные отчёты о подобных случаях и сообщила, что уже уведомила десятки пострадавших организаций — правительства, университеты и госагентства.
На этой неделе премьер-министр Австралии Энтони Албанезе заявил, что агенты OpenAI взломали базы данных национальной системы здравоохранения страны — один из нескольких инцидентов кибербезопасности в этом году, связанных с обучающими или тестовыми программами компании.
По данным OpenAI, утечка изображений произошла до внедрения новых мер безопасности, введённых после того, как агенты компании взломали платформу Hugging Face. Точные причины и время инцидента с изображениями остаются неясны.
Скандал разгорелся на фоне обвинений математиков в том, что модели OpenAI использовали их работы для решения давних научных задач без указания авторства — компания это отрицает. Вопросы приватности и безопасности данных осложняют внедрение ИИ-инструментов в бизнесе и продажу ассистентов на основе LLM потребителям.
OpenAI подчеркнула, что корпоративные пользователи по умолчанию защищены от использования их данных для обучения моделей. А вот обычные пользователи включены в этот процесс по умолчанию, если сами не откажутся. При этом даже отказ не спасает: нажатие «палец вверх» или «вниз» под диалогом всё равно делает его доступным для обучения будущих моделей.