Anthropic заявила, что новая защита Claude от дистилляции сработала: объём данных, которые конкуренты могут извлечь для обучения своих моделей, сократился в 10–100 раз.
Компания усложнила работу прокси-сетей, с помощью которых ранее многократно считывали защищённые рассуждения Claude. Это блокирует попытки извлечения данных и мешает масштабным атакам.
По словам Anthropic, система почти так же надёжна, как защита, не позволяющая Claude помогать в создании биологического оружия. Доля ложноположительных срабатываний — менее 0,1 %.
Новые механизмы помогли выявить и заблокировать несколько десятков тысяч аккаунтов, связанных с дистилляцией.
В качестве примера Anthropic назвала китайский стартап Z.ai (Zhipu): при разработке модели GLM-5.3 он якобы перехватывал ответы Claude. Компания считает такие действия угрозой национальной безопасности. Z.ai обвинения не прокомментировала.
Дистилляция стала серьёзной проблемой для ведущих ИИ-разработчиков на фоне конкуренции США и Китая. Anthropic, OpenAI и Google отмечают, что практика позволяет быстрее и дешевле воспроизводить возможности передовых систем.
Число токенов рассуждений, извлекаемых в ходе дистилляции, стало в 10–100 раз меньше, чем раньше.