WSJ сравнила две модели Google на одном запросе. Gemini 3.1 Pro справилась за 85 шагов и $1, а Gemini 3 Flash потратила почти 1000 шагов и $14, но так и не решила задачу.
Исследование учёных из США и Microsoft Research на 6800 задачах показало: расход токенов крайне непредсказуем. Модели с дорогими токенами нередко оказываются выгоднее дешёвых.
Даже одна модель тратит разное число токенов при повторных запусках одной задачи. Разброс сильно зависит от версий моделей, которые быстро обновляются.
Если дешёвую модель применяют для неподходящих задач, она обходится дороже сильной модели. Так происходит в 32% случаев, поэтому цена за токен не годится для расчёта общих расходов.
В Google говорят, что вариативность свойственна ИИ, а точную сумму предсказать сложно. Компания сглаживает колебания лимитами и разными тарифами, а сотрудников нужно учить эффективно работать с ИИ.
Бизнес, которого призывали активнее внедрять ИИ, столкнулся с огромными счетами и трудностью доказать отдачу. По опросу 400 компаний в апреле–мае лишь 11% уложились в бюджет с допуском превышения в 10%.
Остальные превысили бюджет так:
11–25% — 39% опрошенных
26–50% — 35%
более 50% — 13%
2% вовсе не прогнозировали такие расходы