OpenAI начинает внедрять невидимый машиночитаемый водяной знак в текстовые ответы ChatGPT и Codex. Сначала он появится только у пользователей из Европейского союза.
Технология называется textGrain. По словам OpenAI, она «соответствует или превосходит» другие подходы, например SynthID от Google DeepMind. На SynthID основан и водяной знак, о котором Anthropic объявила в августе.
Обе компании пошли на этот шаг ради требований европейского закона об ИИ (AI Act). Но не все пользователи обрадовались такому нововведению.
OpenAI приводит результаты бенчмарков: у текста с водяным знаком и без него качество схожее. При этом компания подчёркивает, что textGrain «не гарантирует надёжного обнаружения».
По словам OpenAI, водяной знак не подтверждает точность текста, не определяет владельца, не показывает вклад человека и не доказывает авторство человека.
Что именно планируется:
В ближайшие недели водяные знаки получат подходящие пользователи ChatGPT и Codex на всех тарифах, но только в ЕС. Глобальным по умолчанию это не станет: компания хочет собрать отзывы и опыт реального использования.
API-клиенты по всему миру уже сегодня могут включить водяные знаки для отдельных моделей и сами решить, как это вписывается в их обязательства по прозрачности. Облачные партнёры подключат функцию в ближайшие недели.
Одобренные исследователи и экспертные организации могут подать заявку на доступ к детектору. Согласно Code of Practice, доступ выдаётся индивидуально.
Детектор лишь сообщает, обнаружен ли водяной знак OpenAI, и не раскрывает пользователя, его запросы или переписку. Из-за риска пропусков и ложных срабатываний публично его не откроют.