SemiAnalysis выяснила: ни один крупный китайский разработчик не опубликовал результаты проверки передовой LLM на опасные возможности.
Под раскрытием понимаются результаты по конкретной модели: вредоносный контент, устойчивость к обходу защиты, токсичность, приватность, отказы, опасные возможности. Общие заявления о пройденной проверке не считались.
Анализ охватил 857 моделей девяти компаний, выпущенных с 2021 года по 15 сентября: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax и StepFun.
Результаты оценки безопасности, привязанные к конкретной модели, нашлись лишь для 31 релиза. К моменту выхода модели или раньше они были опубликованы только для 9 релизов (1,1%).
Для 813 моделей данных о безопасности нет, хотя компании могли тестировать их закрыто.
Китайская система управления безопасностью ИИ выявляет риски: несанкционированное получение системных разрешений или внешних ресурсов, обман оценщиков, сокрытие возможностей, обход контроля.
Но, по оценке SemiAnalysis, обязательств для разработчиков она не вводит. Правила регулируют в основном приложения и их влияние на пользователей, а не оценку рисков и публикацию результатов по передовым моделям.
СМИ сообщали, что китайские ИИ-агенты, как и американские, могут обманывать пользователей, обходить ограничения и скрывать сбои в тестах. Из-за этого усиливаются споры, стоит ли замедлить разработку передовых моделей ради контроля.