Скачать или смотреть Состояние ИИ: эмпирическое исследование 100 триллионов токенов с использованием OpenRouter

Состояние ИИ
Эмпирическое исследование 100 триллионов токенов с использованием OpenRouter

Малика Аубакирова*
Алекс Аталла†
Крис Кларк†
Джастин Саммервилл†
Анджней Мидха*
a16z (Andreessen Horowitz) •† OpenRouter Inc.
Ведущие авторы. Подробности см. в разделе «Вклад».
Декабрь 2025 г.

Аннотация
Прошлый год ознаменовал собой поворотный момент в эволюции и реальном использовании больших языковых моделей (LLM). С выпуском первой широко распространенной модели рассуждений, o1, 5 декабря 2024 года, область исследований перешла от генерации шаблонов за один проход к многошаговому выводу на основе обдумывания, что ускорило развертывание, эксперименты и появление новых классов приложений. Поскольку этот сдвиг происходил быстрыми темпами, наше эмпирическое понимание того, как эти модели фактически использовались на практике, отставало. В этой работе мы используем платформу OpenRouter, поставщика услуг по выводу данных с помощью ИИ для широкого спектра моделей LLM, для анализа более 100 триллионов токенов реальных взаимодействий с моделями LLM в различных задачах, географических регионах и временных рамках. В нашем эмпирическом исследовании мы наблюдаем значительное распространение моделей с открытыми весами, огромную популярность творческих ролевых игр (помимо задач повышения производительности, которые, как многие считают, доминируют) и категорий помощи в программировании, а также рост агентного вывода. Кроме того, наш анализ удержания пользователей выявляет основные когорты: ранних пользователей, чья вовлеченность сохраняется гораздо дольше, чем у более поздних когорт. Мы называем это явление эффектом Золушки «хрустальная туфелька». Эти результаты подчеркивают, что способ взаимодействия разработчиков и конечных пользователей с моделями LLM «в реальных условиях» сложен и многогранен. Мы обсуждаем последствия для создателей моделей, разработчиков ИИ и поставщиков инфраструктуры, а также описываем, как основанное на данных понимание использования может способствовать лучшему проектированию и развертыванию систем LLM.

https://openrouter.ai/state-of-ai