Скачать или смотреть Новый ИИ от Meta изменил всё: конец токен-ориентированных моделей?

Современный ИИ имеет огромную проблему неэффективности. Годами мы строили интеллект на основе «предсказания следующего токена», заставляя модели зацикливаться на конкретных словах, а не на их истинном значении. Этот подход медленный, ресурсоемкий и совершенно не подходит для приложений реального времени, таких как робототехника. Но Meta FAIR, возглавляемая Яном Лекуном, представила архитектуру, которая может сделать нынешнюю парадигму LLM устаревшей.

В этом видео мы разбираем VL-JEPA (Vision-Language Joint Embedding Predictive Architecture). В отличие от традиционных моделей, которые предсказывают следующий пиксель или слово, VL-JEPA предсказывает эмбеддинги — абстрактные векторы, непосредственно представляющие значение. Отказавшись от необходимости декодировать текст на каждом шаге, Meta создала систему, которая «мыслит» концепциями, а не языком.

Мы подробно рассмотрим четыре компонента этой архитектуры: визуальный кодировщик, мощный предсказатель и уникальный способ обработки декодирования только при необходимости. Результаты поразительны. Имея всего 1,6 миллиарда параметров, VL-JEPA превосходит такие масштабные модели, как GPT-4o, Gemini 1.5 Pro и Claude 3.5, в сложных тестах обработки изображений и языка.

Последствия этого огромны. Поскольку модель работает в «пространстве встраивания», она обеспечивает снижение вычислительных затрат в 2,85 раза во время инференции, сохраняя при этом высочайшую точность. Это не просто обновление; это фундаментальный сдвиг в том, как машины воспринимают реальность, переход от генерации текста к истинному семантическому моделированию мира. Посмотрите видео, чтобы понять, почему этот эффективный, негенеративный подход является ключом к следующему поколению агентов ИИ и робототехники.

Если вы хотите быть в курсе последних тенденций в области ИИ и понимать технологии, которые заменят сегодняшние модели, подпишитесь на канал и включите уведомления!

#ai #metaai #YannLeCun #VLJEPA #искусственныйинтеллект #машинноеобучение #технологическиеновости #глубокоеобучение #робототехника #технологиибудущего

@airevolutionx @TheAiGrid @AI.Uncovered @TwoMinutePapers @Fireship @WesRoth @mreflow @matthew_berman @JuliaMcCoy @theAIsearch @MattVidPro @TinaHuang1