Компьютер для нейросетей. 5x3090ti, 48cpu, 512gb ram.

Последние нейросети требуют большого количества вычислений и для этой задачи я решил пересобрать свой сервер. Сейчас используется серверная материнская плата, процессор на 48 ядер, 512гб оперативной памяти и 5 видеокарт nvidia rtx 3090 ti. Сервер подходит для запуска нейросетей с количеством параметров около 100 миллиардов(Llama 70b, Mistral Large 2407, NVLM ...)

GPU сервера immers.cloud. Использую их для тестирования видеокарт.
https://immers.cloud/signup/r/2024052...

Мой телеграм канал:
https://t.me/vitaly_kuliev_it

В rutube дублирую видео. Подписывайтесь на случай замедления ютуба:
https://rutube.ru/channel/23479346/

Таймкоды:
0:00 обзор сервера
0:55 процессор
1:53 материнская плата
2:35 оперативная память
3:35 видеокарты
5:30 райзеры, диск
6:05 блоки питания
6:58 общая стоимость

Реклама. ООО «ДТЛ». ИНН 9717073792. erid: LjN8KayRm