Издание 404 Media выяснило, что OpenAI через подрядчиков нанимает сотни людей для анализа запросов пользователей ChatGPT. Их задача — оценивать ответы бота и улучшать их качество, хотя большинство из более 900 млн пользователей сервиса не подозревают о возможности прочтения переписки людьми.
Поиском исполнителей занимается агентство Crossing Hurdles, публикующее вакансии «оценщиков чат-ботов» и аннотаторов данных. Оплата — от $50 в час, что выше среднего для подобных подрядчиков, но эксперты ожидают снижения ставок по мере совершенствования моделей ИИ.
Перед отправкой рецензентам диалоги проходят через Privacy Filter — систему для удаления личных данных. Однако сама OpenAI признаёт: фильтр может пропускать идентификаторы или избыточно/недостаточно скрывать информацию, особенно в коротких фрагментах.
Работники описывают процесс как рутинный и хаотичный: инструкции часто меняются и противоречат друг другу. Рецензентам показывают реальные запросы, краткую сводку истории пользователя, а иногда — примерное местоположение и другие личные сведения.
Подрядчиков также обучают распознавать чрезмерную угодливость ChatGPT — проблему, которая, по ряду судебных исков, могла способствовать трагическим последствиям при общении с моделью 4o. Отдельные задачи включают запись видео с выполнением домашних дел для обучения робототехники.
OpenAI заявляет, что данные не используются для обучения моделей, если пользователь отключит опцию «улучшение модели для всех» — она включена по умолчанию для бесплатных, Plus и Pro тарифов. У корпоративных клиентов настройка отключена изначально.
Подобная практика не уникальна для OpenAI: Google предупреждает о проверке части чатов Gemini людьми, а Anthropic подтвердила использование ручной проверки для улучшения ответов Claude.