Скачать или смотреть Сборка сервера для ИИ: DeepSeek локально на H100 и EPYC

Собираем сервер для ИИ на двух процессорах AMD EPYC и видеокарте NVIDIA H100. Это мощная рабочая станция, созданная для задач обучения и инференса нейросетей. Демонстрируем процесс сборки, организацию охлаждения, кабель-менеджмент и установку компонентов внутри корпуса.

В конце запускаем DeepSeek локально и проверяем, как конфигурация справляется с современными моделями. Сервер ориентирован на работу с тяжёлыми AI нагрузками, но при этом остаётся тихим, аккуратным и визуально продуманным.

Конфигурация подходит для работы с крупными языковыми моделями, системами инференса и локальными LLM. В сборке используется серверная плата Gigabyte MZ73 с двумя процессорами AMD EPYC, отлично подходящими для задач инференса. В качестве ускорителя установлена NVIDIA H100 — один из самых продвинутых GPU для вычислений и нейросетевых нагрузок.

Телега - https://t.me/serverflowofficial
Блог ServerFlow - https://serverflow.ru/blog/

00:00 Вступление
00:21 Материнская плата
01:07 SSD
01:39 CPU
02:48 RAM
03:29 Куллеры
04:59 Корпус
05:54 Блок питания
07:24 GPU Nvidia H100
10:40 DeepSeek локально
13:24 AIDA64 Memory Benchmark
13:49 GeekBench
13:56 Cinebench R23
14:06 Cinebench 2024
14:13 vRay Benchmark
14:21 Corona Benchmark