Sonata

Microsoft представила ИИ-чип Maia 300 для инференса с запуском в 2027 году

image source

Microsoft представила собственный ИИ-чип третьего поколения Maia 300. Он станет основной системой инференса для продуктов и сервисов компании. Чип лучше справляется с современными reasoning-моделями и агентными задачами.

В производство Maia 300 запустят в 2027 году. По словам Скотта Гатри, главы облачного подразделения, чип даст на 40% больше токенов на мегаватт, чем ведущие GPU-системы.

В полной конфигурации из 96 ускорителей пропускная способность на уровне стойки достигает 7x от Maia 200.

Это позволит Microsoft в основном обходиться своими чипами вместо решений Nvidia и AMD. С 2027 года семейство Azure Maia начнут масштабировать до мультигигаваттных развёртываний.

Предшественник, Maia 200, анонсировали только в январе. Он уже работает в Microsoft Copilot, GitHub Copilot, Microsoft Foundry и собственных моделях компании.

image source

Maia 300 рассчитан на новые типы нагрузок:

  • рассуждения с длинным контекстом

  • диалоговые сервисы с чувствительностью к задержкам

  • длительные многошаговые агентные задачи

Эффективность обеспечивает chiplet-архитектура на техпроцессе TSMC N2P. Вычисления, контроллер памяти и ввод-вывод разделены, поэтому больше площади кремния идёт на вычисления, а каждая функция использует наиболее подходящую технологию.

Maia 300 важен и для собственных моделей Microsoft. Глава Microsoft AI Мустафа Сулейман говорит, что на таком масштабе нужна собственная платформа, которую разрабатывают совместно с моделями. Это поможет догнать Google DeepMind, OpenAI и Anthropic.

источник

Загрузка страницы