Скачать или смотреть Ollama с поддержкой AMD в Windows

Узнайте, как запустить Ollama с графическим ускорением на интегрированной видеокарте AMD (680M, 780M, 890M) в Windows!

Руководство LocalHake: https://docs.localhake.com/artificial...

По умолчанию Ollama работает в режиме CPU only с большинством интегрированных видеокарт AMD. Это полное руководство покажет вам, как собрать пользовательскую версию Ollama с использованием последней версии HIP SDK, чтобы включить полноценное графическое ускорение на интегрированной видеокарте AMD Radeon.

Что вы узнаете:
Установка всех необходимых инструментов разработки (Go, MinGW, CMake, Build Tools)
Настройка AMD HIP SDK 6.4.2 для поддержки графических процессоров
Замена файлов библиотеки ROCm для неподдерживаемых графических процессоров
Создание собственного установщика Ollama, оптимизированного для вашего встроенного графического процессора AMD
Настройка моделей для полной разгрузки графического процессора

Требования:
Интегрированный графический процессор AMD Radeon (680M, 780M, 890M и т. д.)
Windows 10/11
16 ГБ ОЗУ (больше рекомендуется для более мощных моделей)
~20 ГБ свободного места

Важные примечания:
Это создаст пользовательскую сборку — НЕ обновляйте Ollama при появлении соответствующего запроса, иначе поддержка графических процессоров будет нарушена
Внимательно следуйте каждому шагу, особенно при редактировании JSON/TXT-файлов
Перезагрузите Windows после установки Build Tools

Необходимые файлы для загрузки:
Перейти: https://go.dev/dl/
MinGW: https://github.com/niXman/mingw-build...
Драйверы AMD Adrenaline: https://www.amd.com/en/support/downlo...
Git: https://git-scm.com/install/windows
HIP SDK 6.4.2: https://www.amd.com/en/developer/reso...
Библиотеки ROCm (для 680M/780M): https://github.com/likelovewant/ROCmL...
Инструменты сборки: https://visualstudio.microsoft.com/vi...
CMake: https://cmake.org/download/
Inno Настройка: https://jrsoftware.org/isdl.php

Использованное оборудование:
Мини-ПК GMKTec M7 с процессором AMD Ryzen 7 PRO 6850H (Radeon 680M): https://amzn.to/43yfgKZ
(Партнёрская ссылка — поддержка этого контента без дополнительных затрат с вашей стороны)

Найдите код вашей видеокарты:
Кодовые названия видеокарт AMD Wiki: https://github.com/likelovewant/ollam...
База данных видеокарт TechPowerUp: https://www.techpowerup.com

#Ollama #AMD #AI #LLM #LocalAI #MachineLearning #RadeonGPU #WindowsAI #TechTutorial #OpenSource