Скачать или смотреть Как ИИ «постигает» реальность | Объяснение геометрии понимания (исследовательская работа для маги...

Ссылка на статью Substack: https://richardaragon.substack.com/p/...

Как ИИ «понимает» реальность | Объяснение геометрии понимания (научная статья о больших языковых моделях)
В этом видео мы разбираем научную статью:

«Влияют ли личностные черты на восприятие реальности? Геометрические ограничения управления в больших языковых моделях».

Можно ли действительно управлять большими языковыми моделями (LLM) для формирования стабильных личностных черт — или в их представлениях заложены геометрические ограничения?

Мы исследуем:

• Как LLM представляют концепции в многомерном пространстве
• Геометрическую структуру, лежащую в основе «понимания»
• Почему управление личностью может вызывать внутренние конфликты
• Механистические аспекты интерпретируемости
• Что это означает для согласования и управляемости

Эта статья дает глубокий анализ геометрии представления в трансформерных моделях и раскрывает структурные ограничения, влияющие на то, как системы ИИ кодируют смысл.


Временные метки

00:00 Обзор
02:10 Что значит для ИИ «понять»?

05:40 Геометрическое представление в LLM
11:25 Эксперименты по управлению личностью
18:50 Ключевые ограничения
23:10 Последствия для выравнивания ИИ

Если вам нравятся подробные технические разборы исследовательских работ по ИИ с практическими экспериментами, подпишитесь.

Что вы думаете — являются ли черты личности принципиально ограниченными в LLM?

#LLM #AIResearch #MechanisticInterpretability #MachineLearning #TransformerModels #AIAlignment
Присоединяйтесь к этому каналу, чтобы получить доступ к бонусам:
   / @richardaragon8471