Sonata

Mistral выпустила Large 4 на триллион параметров с открытием весов через три недели

image source

Французская Mistral AI выпустила мультимодальную модель Mistral Large 4 (ML4) на один триллион параметров. Компания позиционирует её как «третий путь» между американскими закрытыми и китайскими открытыми моделями.

Пока модель доступна только через публичный API с защитными ограничениями. Веса откроют примерно через три недели, после завершения проверок безопасности.

До этого Mistral работает с доверенными партнёрами и правительствами, чтобы открытые веса использовали для защиты, а не для атак, сказал вице-президент по науке Пьер Сток.

Безопасность беспокоит корпоративных клиентов Mistral, но, по словам Стока, открытые веса проще аудировать.

ML4 обучали целиком на собственных мощностях, на 4000 GPU NVIDIA. Это в два-три раза меньше, чем у китайских конкурентов, и значительно меньше, чем у разработчиков закрытых моделей.

Результатов бенчмарков пока нет. Mistral рассчитывает, что ML4 станет лучшей среди открытых моделей, особенно за пределами Китая, а в отдельных задачах превзойдёт и закрытые аналоги.

Целевые сценарии: кибербезопасность, финансы и проектирование чипов. Последнее важно для инвесторов: ASML возглавила раунд C, Samsung в прошлом месяце возглавила раунд D при оценке €21 млрд (около $24,39 млрд).

Размещение китайских моделей, по словам компании, не превращает её в обычного провайдера инференса. С ML4 Mistral хочет сохранить статус frontier-лаборатории.

источник

Загрузка страницы