OpenAI защищает свои модели от дистилляции, скрывая цепочки рассуждений. Операторы, связанные с Moonshot, обошли защиту: скопировали зашифрованные данные цепочек из одного диалога и попросили модель расшифровать их в отдельном запросе.
Версию алгоритма рассуждений, которая работает только на серверах OpenAI, расшифровать не удалось. По мнению компании, эволюция атак после усиления защиты доказывает ценность этих данных для обучения китайских моделей.
С начала июля OpenAI видела тысячи попыток извлечь скрытые данные о рассуждениях моделей, в пике июля — 16 тысяч запросов. Не все операторы обязательно действовали в интересах Moonshot, но стартап сыграл ключевую роль.
Быстрый рост Kimi K3 уже вызывал вопросы у американских чиновников. Moonshot подозревают в дистилляции моделей OpenAI, Anthropic и Google. OpenAI считает это нарушением правил, но поддерживает экосистему моделей с открытыми весами.
По отчёту Anthropic за август, Moonshot по числу попыток дистилляции её моделей на втором месте после Alibaba, третья — DeepSeek. В прошлом месяце Anthropic обвинила Moonshot в обучении Kimi на ответах Claude: речь о миллионах запросов.
Китайские разработчики ищут доступ к вычислениям на чипах Nvidia за пределами страны: поставки ускорителей в Китай ограничены экспортным контролем США. Alibaba договорилась предоставить Moonshot AI доступ примерно к 20 000 чипов Nvidia.
OpenAI хочет закрепить на законодательном уровне стандарты обмена данными об угрозах и рассчитывает на участие сторонников открытых весов. Для постоянного обмена, как отмечает Bloomberg, нужно изменить антимонопольное законодательство США.
Китайские чиновники неоднократно отвергали обвинения в недобросовестной конкуренции. На этой неделе американские техногиганты подписали соглашение о саморегулировании отрасли, включающее независимый аудит моделей на безопасность.