Apple разработала внутреннюю систему Minions, которая объединяет простаивающие GPU компьютеров Mac для задач инференса, то есть запуска уже обученных ИИ-моделей. Цель — дать сотрудникам более широкий доступ к графическим ресурсам.
TokenSpeed — открытый движок инференса LLM, ориентированный на агентные нагрузки. Разработчики заявляют производительность уровня TensorRT-LLM при удобстве использования на уровне vLLM. Цель проекта — стать самым производительным движком для продакшена.
Архитектура строится на разделении плоскостей. Управляющая часть написана на C++ как конечный автомат: жизненный цикл запросов и состояние KV-кэша контролируются системой типов на этапе компиляции. Исполнительная часть написана на Python, что ускоряет итерации.
Intel представила на саммите Open Compute Project 2026 ускорители серии D. Ранее известный как Crescent Island, он теперь называется Intel GPU D270. Он построен на архитектуре Xe3P и предназначен для инференса ИИ, а не для игр.
Microsoft представила собственный ИИ-чип третьего поколения Maia 300. Он станет основной системой инференса для продуктов и сервисов компании. Чип лучше справляется с современными reasoning-моделями и агентными задачами.
OpenAI готова делиться опытом, полученным при разработке собственного ИИ-чипа Jalapeno, с другими участниками рынка. Компания заинтересована в более быстром выходе новых моделей чипов от других поставщиков, которые тоже применяются в её инфраструктуре.
Провайдер AI-инфраструктуры для инференса Modal Labs близок к закрытию раунда финансирования на $750 млн под руководством Accel при оценке компании в $15,75 млрд с учётом инвестиций. Об этом сообщил источник, знакомый с ходом сделки.
Рынок ИИ-чипов за последние годы пополнился новыми разработчиками, но никто из них не смог приблизиться к Nvidia по масштабам продаж. Компании, которым удалось выжить, теперь должны либо объединяться с конкурентами, либо искать узкие ниши, свободные от доминирования Nvidia.
Нидерландский стартап Axelera AI начал отгрузки чипов Europa — специализированных ИИ-ускорителей нового поколения (AIPU), заточенных под энергоэффективный инференс.
Qualcomm планирует активно использовать облачную платформу AWS при разработке новых чипов — это должно ускорить циклы проектирования. Компания предоставила Amazon опцион на покупку своих акций примерно на $4 млрд в рамках партнёрства по созданию ИИ-чипов для дата-центров.
Южнокорейский стартап HyperAccel представил линейку специализированных ускорителей Bertha для ИИ-инференса, сделав ставку на экономическую эффективность решений.