«Яндекс» выложил в открытый доступ претрейн-версию большой языковой модели Alice AI Foundation LLM, обученную полностью с нуля. Разработчики заявляют о высоких результатах в программировании, рассуждениях и знании фактов на русском языке.
В олимпиадных задачах по математике модель делит лидерство с Qwen3.5-35B-A3B-Base. В генерации кода она обошла Nvidia Nemotron-3-Super-120B-Base, имея в четыре раза меньше активных параметров.
По фактическим знаниям Alice AI Foundation LLM превосходит более крупные открытые модели, включая DeepSeek-V4-Flash-Base с 284 млрд параметров. По результатам тестов она сопоставима с предыдущей закрытой моделью Alice AI LLM, у которой в разы больше параметров.
Для оценки знаний, актуальных для русскоязычной аудитории, создали два бенчмарка — WikiWebFacts и HardMultiQA. Первый проверяет знание дат, событий и персоналий, второй построен на анонимизированных запросах к «Алисе AI» и охватывает более редкие темы.
Модель работает на архитектуре Mixture of Experts: 80 млрд параметров, из которых активны лишь 3 млрд. Это обеспечивает высокую скорость обработки запросов без больших вычислительных затрат.
Разработчики также ускорили процесс обучения — оптимизатор стал работать почти вдвое быстрее, а подготовка обучающих данных была улучшена.
Модель доступна для исследований и коммерческого использования по лицензии Apache 2.0. Она экспериментальная и станет основой для будущей единой рассуждающей модели «Яндекса», которая расширит агентные возможности «Алисы AI».