Sonata

Бизнес в США массово переходит на open-source ИИ-модели ради экономии

image source

Американский корпоративный сектор всё активнее переходит на ИИ-модели с открытым исходным кодом или открытыми весами. По данным Financial Times, с августа по сентябрь упоминания этих терминов в публичных выступлениях руководителей компаний выросли в шесть раз год к году.

Интерес к открытым моделям проявляют не только IT-компании, но и представители финансовых услуг, логистики и тяжёлого машиностроения.

Директор AT&T по данным и ИИ Энди Маркус сообщил, что компания уже покрывает 40% ИИ-нагрузок открытыми моделями и планирует довести долю до 70% в течение года. Компания обрабатывает до 45 млрд токенов в день, поэтому расходы играют ключевую роль.

Внутренние тесты AT&T показали, что открытые модели порой не уступают, а иногда превосходят закрытые аналоги по эффективности и скорости. Их также можно запускать в собственной инфраструктуре, что повышает безопасность.

Технический директор Tinder Винай Курувила заявил, что компания начала перенаправлять часть второстепенных запросов на открытые модели. Расходы выросли с $1 млн в год в январе до десятикратного значения к июлю.

Представитель Match Group отметил, что модели Astra и Claude покрывают 90% потребностей компании, но если открытые модели достигнут того же уровня, необходимость в дорогих закрытых решениях снизится.

OpenAI и Anthropic на прошлой неделе снизили цены на свои модели, пытаясь противостоять экспансии открытых конкурентов.

Американские лидеры рынка, готовящиеся к IPO, заинтересованы в росте выручки, но китайские конкуренты не дают им поднимать цены. Корпоративные пользователи в США всё чаще выбирают открытые модели ради экономии.

В сегменте открытых моделей доминируют китайские компании, но схожую стратегию используют Nvidia, Mistral, Reflection AI и Thinking Machines Lab.

По данным Vercel, доля открытых моделей в использовании токенов выросла с 7% в декабре до 56% к августу. Китайские ИИ-лаборатории, по данным OpenRouter, уже входят в десятку крупнейших по объёму использования токенов.

источник

Загрузка страницы