Подрядчики, нанятые для обучения моделей OpenAI, сами тайно используют ИИ в работе — и массово получают за это увольнения. Один из них показал уведомление об увольнении: работодатель заподозрил его в «неподлинности» выполненных заданий.
«Мне требовалась небольшая помощь, и я обратился к ИИ, что в итоге и привело к моему увольнению, — рассказал он. — Я не чувствовал, что приношу пользу обществу». По его словам, использование ИИ — практически единственная причина немедленного увольнения, и в группе из тысяч человек нашлось множество нарушителей.
Эксперты отмечают иронию: модели ИИ уже демонстрируют признаки «коллапса модели» — деградации качества при обучении на текстах, сгенерированных другим ИИ. Именно люди, нанятые для предотвращения этой проблемы, используют ответы нейросетей для обучения.
Издание 404 Media получило доступ к внутренним документам OpenAI и пообщалось с тремя подрядчиками из проектов, где могут быть задействованы более десяти тысяч человек. Всем проверяющим запрещено применять ИИ — это подтверждается документами компании.
Подрядчиков, оценивающих работу других исполнителей, учат замечать признаки использования ИИ: повторы слов, характерную пунктуацию (например, избыток длинного тире) и подозрительно быструю скорость выполнения заданий. При этом инструкция запрещает объяснять исполнителям причину подозрений — «иначе им будет проще скрыть нарушение».
OpenAI нанимает сотни людей для анализа запросов к ChatGPT и улучшения качества ответов. По данным 404 Media, многих из них уже уволили именно за использование ИИ при выполнении этой работы — при том что сама компания продвигает применение ИИ повсеместно.
Подбором исполнителей для OpenAI занимается компания Mercor. Её представитель заявил: «Контракты категорически запрещают использование больших языковых моделей. Мы инвестируем в инструменты выявления нарушений и немедленно отстраняем экспертов, уличённых в применении ИИ».
В документах также указано: «Не используйте инструменты для обнаружения ИИ вроде GPTZero — они ненадёжны. Рецензентам запрещено использовать ИИ, включая Grammarly и переводчики, для проверки материалов и написания отзывов».
Отдельно сообщается об исполнителях, намеренно саботирующих обучение моделей, выбирая худшие варианты ответов. «Поначалу я чувствовал вину, — признался один из них. — Теперь либо выбираю наугад, либо специально худший вариант. Ощущение, что мне платят за то, чтобы делать ИИ хуже».