OpenAI представила классификатор для выявления материалов сексуального насилия над детьми. Инструмент также отмечает изображения, созданные ИИ; проверенные организации получат к нему бесплатный доступ.
По данным OpenAI, классификатор помечает на 48% меньше изображений, а среди отмеченных материалов изображения с насилием встречаются вдвое чаще.
В 2025 году американская служба CyberTipline получила 400 000 сообщений, связанных с генеративным ИИ, против 67 000 в 2024 году.
При первой попытке создать такие материалы в ChatGPT доступ к сервису приостановят на 24 часа. Пользователя предупредят о возможной постоянной блокировке аккаунта и предложат ресурсы помощи.
OpenAI также выпускает рекомендации для разработчиков и помогает обучать правоохранителей использованию ИИ в расследованиях. Компания заявляет, что сообщает обо всех случаях обнаружения таких материалов в NCMEC.
