Скачать или смотреть Магистратура по производству и разработке

Ссылки
https://www.pretty-prompt.com/
https://chromewebstore.google.com/det...

Соучредители Pretty Prompt Илай Шпезак и Чарли Дэй из Pretty Prompt рассказывают о своём опыте, опыте обработки более 200 миллионов токенов и технических сложностях создания инструмента на основе LLM в рабочей среде, включая наблюдаемость, обработку ошибок, структурированный вывод, поддержку различных языков и кэширование. Илья и Чарли также демонстрируют Pretty Prompt.

Маркеры глав
0:15 Введение в Pretty Prompt
0:32 Что такое pretty Prompt?
1:08 Pretty prompt как контекстный слой
2:03 Путь компании и рост числа пользователей
2:30 Обработка 200 миллионов токенов
3:10 Органический рост и первые признаки соответствия продукта рынку
4:10 Интеграция Stripe и получение права на оптимизацию
6:05 Стартап как видеоигра
6:54 Эксперименты с ценообразованием Stripe
7:21 Уроки, полученные при запуске LLM в продакшене
7:50 Наблюдаемость и отладка
8:40 Детерминированный и стохастический вывод
9:08 Обработка ошибок и поставщики резервного копирования
9:51 Языковые модели и языки, не содержащие латиницу
11:05 Создание модуля перевода
11:05 Кэширование и контроль затрат
11:48 Ограничение скорости и потоковая передача
12:49 Краткое изложение уроков по производству LLM
13:52 Демонстрация расширения Chrome
14:54 Интеграция с рабочим столом и запросы пользователей
16:04 Демонстрация Pretty prompt
18:33 История буфера обмена