5 C
Sevastopol
7 ноября, 2026
СЕВОБОРОНА
Технологии

790 трлн токенов за октябрь: OpenRouter опубликовали новые данные об использовании LLM

790 трлн токенов за октябрь: OpenRouter опубликовали новые данные об использовании LLM

В отчёте можно посмотреть, кто потребляет эти токены, как изменилось использование кэша и что происходит с открытыми и закрытыми моделями. Ниже основные цифры.

На агентов приходится 76% токенов. За октябрь это около 600 трлн. Годом ранее доля агентного трафика составляла 8%. OpenRouter определяет тип использования по поведению API-ключей: частоте вызова инструментов, длине цепочек взаимодействий, интервалам между запросами и другим сигналам.

790 трлн токенов за октябрь: OpenRouter опубликовали новые данные об использовании LLM

Здесь считаются входные и выходные токены. Поэтому 76% не означает, что агенты создают столько же уникального текста: в длинной сессии один и тот же контекст может отправляться модели много раз.

Кэш стал работать заметно лучше. Медианная доля попаданий в кэш у провайдеров выросла с 76,1% в июне до более 90% в октябре. Показатель отражает долю входных токенов, обслуженных из кэша, в агентном трафике вошедших в выборку провайдеров.

790 трлн токенов за октябрь: OpenRouter опубликовали новые данные об использовании LLM

Доля открытых моделей просела до 52%, но быстро восстановилась. Просадка в платных токенах пришлась на неделю 28 сентября, когда вышли Opus 5.5, Sonnet 5.5 и GPT-6.1 Sol. Через две недели доля снова превысила 70%. Восстановиться помог DeepSeek V4.1 Flash.

790 трлн токенов за октябрь: OpenRouter опубликовали новые данные об использовании LLM

Средняя стоимость токенов падает и у открытых, и у закрытых моделей. С января фактические расходы на миллион токенов закрытых моделей снизились с до 0,52, открытых с до 0,084. Это снижение примерно на 57% и 70% соответственно.

790 трлн токенов за октябрь: OpenRouter опубликовали новые данные об использовании LLM

Речь о суммарных начислениях, разделённых на объём входных и выходных токенов. На результат влияют тарифы, попадания в кэш и выбор моделей. Отдельная модель может подорожать, а средняя стоимость миллиона токенов на платформе при этом снизиться. Для оценки стоимости конкретного проекта всё равно нужно учитывать его модели и характер нагрузки.

790 трлн токенов за октябрь: OpenRouter опубликовали новые данные об использовании LLM

По росту объёма впереди Z.ai и DeepSeek. С мая месячное потребление токенов их моделей выросло примерно в 20 и 12 раз соответственно. База сравнения здесь именно май: переносить эти коэффициенты на начало года нельзя.

Для сравнения: прошлогоднее исследование было основано на 100 трлн токенов. А сейчас только за октябрь через платформу прошло почти 800 трлн!

Если новость понравилась, приглашаю в канал AI for Devs. Каждый день публикую похожие материалы: новые модели, агенты, практические кейсы и новости из мира AI.

Источник