勝手に解説 QNAP QTS 5.2.0 オープンソースのAIプラットフォームであるOllamaを使ってQNAP NASをチャットボックス化　できるか・・・？

Описание к видео 勝手に解説 QNAP QTS 5.2.0 オープンソースのAIプラットフォームであるOllamaを使ってQNAP NASをチャットボックス化　できるか・・・？

QNAPさんの勉強会で「Ollamaをコンテナで動かすことができる。」という情報がありましたので、挑戦してみました。
Ollamaを動かすことができれば、オンプレミスで学習が可能なチャットボックス化が可能！となります。

とはいえ、手元にあるのは比較的エントリーモデルであるTS-264.
GPUもなしで果たしてどういった速度で動作するのか？というあたりもしっかり動画の中に入ってます。
ぜひご確認ください！

GPUカードがあればもう少し早くなりそうです・・・だれかA4000あたりで使ってもいいカードないでしょうか？？

動画内で実行しているコマンドは下記になります。

Ollamaインストール用
docker run -d -v ollama:/root/.ollama --name ollama ollama/ollama

Ollama実行用
docker exec -it ollama ollama run llama3.1:8b


背景音楽："walk on the grass road" by shimtone様 (https://dova-s.jp/bgm/,   / shimtone_  )

何かご質問ありましたら、コメント、Twitterでお気軽に。
TW :   / spikespiegel623  

Комментарии

Информация по комментариям в разработке

Похожие видео