От T9 до ChatGPT/ ML-инженер о том, как работают языковые модели и мифах вокруг AI

На Highload++ после доклада о языковых моделях к Ире выстроилась огромная очередь желающих задать вопросы. Кажется, в 2023 все только и говорили о ChatGPT, но никто так и не разобрался что у LLM под капотом.

Поймали Иру в студии kotelov podcast, чтобы поболтать о её приключениях в мире Data Science — узнали как она файнтюнит AI, разобрали в каких вопросах можно доверять ChatGPT и узнали как взломать языковую модель

Валерий Котелов пригласил в гости Ирину Николаеву — лид ML-направления в Raft, где она интегрирует LLM-модели в реальные продукты

Озвучка заставки - диктор, питч-тренер Димитрий Чумак https://t.me/+uM_zjrPjiadmYTky

Подписаться на невероятные новости, супервакансии и стажировки https://t.me/+MXmuoFyL5hxiOWVi

Обсудить проект https://t.me/kotelov_com

Отправить CV [email protected] или https://kotelov.com/hr/

Магазин мерча https://kotelov.com/merch/

Телега Иры - https://t.me/pansy_77

Блог компании https://habr.com/ru/companies/raft/ar...
Тг-канал Рафт про AI - https://t.me/kokuykin
https://huggingface.co/spaces/lmsys/c...

Внутри:
00:00 Начало
01:23 Как изменились языковые модели: От Т9 до ChatGPT
06:49 Откуда тренд на языковые модели LLM
11:37 Может ли нейросеть быть врачом?
17:11 Преимущества языковых моделей больших языковых моделей перед другими технологиями
20:22 Тест Тьюринга: как понять, что ты общаешься с нейронкой
22:56 Как персональные данные могут утечь из языковой модели
27:46 Тюнинг языковой модели: какие фичи можно прикрутить к LLM
29:19 Как один дата-сайентист может собрать свой колл-центр из нейронок
46:15 Переход с ChatGPT и Llama: разница промтинга языковых моделей
49:12 В чем разница ChatGPT и Llama
50:04 Бенчмарки для языковых моделей. Как понять какая LLM-модель лучше
51:37 Защита данных с помощью LLM-модели
54:47 Про файнтюнинг LLM
56:32 Может ChatGPT слить данные?
58:57 Внедрение LLM в реальное производство
01:09:38 Оптимизация существующих языковых моделей
01:17:02 Какое образование у Иры
01:19:23 Нужно ли образование дата-сайентисту?


| #нейросеть #chatgpt #интервью #chatgpt #llm #llama #chatgptplugins #нейросеть #промтинг #валерийкотелов #kotelov #котелов #чатбот #языковыемодели