Издание 404 Media получило доступ к внутренним документам Microsoft: инструкциям, реальным запросам пользователей Copilot и переписке подрядчиков-модераторов, которые оценивают качество работы ИИ-сервиса.
Когда пользователь просит отредактировать изображение, подрядчику показывают исходный запрос, загруженное фото и два варианта результата от Copilot. Нужно выбрать лучший из них по нескольким критериям.
Многие пользователи рассчитывают, что их фото останутся конфиденциальными. На деле изображения и запросы видят сотни модераторов, включая лица людей — без какой-либо цензуры.
«Многие запросы носят интимный характер и вызывают сомнения в добровольности действий на изображениях», — рассказал один из подрядчиков.
В инструкции подрядчикам советуют полагаться на интуицию: сравнивать два варианта и выбирать тот, что кажется удачнее с первого взгляда. Однако работникам сложно сохранять серьёзность, когда материалы слишком откровенны.
В задачи подрядчиков не входит фильтрация оскорбительного контента — им платят только за оценку качества генераций, включая изображения интимного характера. «Меня передёрнуло», — признался один из работников.
Microsoft, как и OpenAI, нанимает сотни людей для анализа переписок пользователей с Copilot ради улучшения сервиса. Работники регулярно сталкиваются с непристойными запросами на редактирование чувствительных фото.
В компании заявили: «Microsoft использует данные клиентов в соответствии с условиями использования, в том числе для улучшения продуктов и соблюдения этического кодекса».
Операторы жаловались на задания с откровенным, небезопасным или потенциально незаконным контентом — иногда приходилось просить руководство пометить материал как небезопасный.
Подрядчиков нанимает компания Prolific, предлагающая услуги оценки безопасности ИИ. В её инструкции признаётся: полностью оградить работников от шокирующего контента невозможно, поскольку исследователи не контролируют, что именно видят участники.