Скачать или смотреть Фреймворки AI/ML для облачных TPU

Изучите разнообразие фреймворков искусственного интеллекта и машинного обучения, включая PyTorch, JAX и Keras. В этом видео рассказывается об этих фреймворках, их отличиях и о том, когда следует выбирать тот или иной фреймворк для обучения моделей, вывода и тонкой настройки. Мы также рассмотрим специализированные фреймворки, такие как Triton Inference Server от Nvidia и TGI и PEFT от Hugging Face, давая представление об их сильных сторонах для создания и развертывания эффективных моделей искусственного интеллекта.

Главы:
0:00 — Введение в фреймворки AI/ML
0:34 — Определение моделей: конструкторы
0:57 — Keras: удобный API
1:30 — PyTorch и JAX: детальное управление и производительность
2:23 — Вывод: применение моделей
3:38 — vLLM для обслуживания LLM
4:13 — Тонкая настройка: процесс обучения
4:58 — Заключение и обзор

Ресурсы:
Обзор Keras → https://goo.gle/3JOiCCX
Обзор PyTorch → https://goo.gle/3LyarLE
Начало работы с JAX → https://goo.gle/3LUjlTK
Начало работы с vLLM → https://goo.gle/47xuYbQ
Документация Hugging Face PEFT → https://goo.gle/49MZyzz
Сервер вывода NVIDIA Triton → https://goo.gle/4qTBv8f

Подпишитесь на Google Cloud Tech → https://goo.gle/GoogleCloudTech

#GoogleCloud #AIFrameworks

Докладчик: Дункан Кэмпбелл
Упомянутые продукты: ИИ-инфраструктура, JAX, PyTorch, Keras, облачные TPU