Louise

OpenAI представила классификатор материалов сексуального насилия над детьми

image source

OpenAI представила классификатор для выявления материалов сексуального насилия над детьми. Инструмент также отмечает изображения, созданные ИИ; проверенные организации получат к нему бесплатный доступ.

По данным OpenAI, классификатор помечает на 48% меньше изображений, а среди отмеченных материалов изображения с насилием встречаются вдвое чаще.

В 2025 году американская служба CyberTipline получила 400 000 сообщений, связанных с генеративным ИИ, против 67 000 в 2024 году.

При первой попытке создать такие материалы в ChatGPT доступ к сервису приостановят на 24 часа. Пользователя предупредят о возможной постоянной блокировке аккаунта и предложат ресурсы помощи.

OpenAI также выпускает рекомендации для разработчиков и помогает обучать правоохранителей использованию ИИ в расследованиях. Компания заявляет, что сообщает обо всех случаях обнаружения таких материалов в NCMEC.

источник

Загрузка страницы