GMKtec EVO-X2をUbuntuへ換装しOllama導入

· ·

tl;dr 🔗

同一ネットワーク上のマシンからUbuntuのOllamaへアクセスする場合、ollama.serviceに以下設定を追加する

1
2
3

[Service]
OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=192.168.1.*

イントラ経由のOllamaアクセスに躓いた 🔗

GMKtecのEVO-X2をオフィシャルサイトで購入するとWindowsマシン限定となるが色々思うところがあってUbuntu化した。LLM専用で利用する事を考えていたのでデュアルブートではなくUbuntuのみの単独として全て入れ替えた。

Ubuntu化自体はサクッと終わって、ほぼ環境が整ったもののOllamaのイントラ経由アクセスに躓いた。

Ollamaの外部からのアクセス許可ということで.bashrcファイルに設定を追加するだけで問題ないと思っていたけど、全然アクセスが出来なかった。

1
2
3

    echo "export OLLAMA_HOST=0.0.0.0" >> ~/.bashrc
    source ~/.bashrc

ChatGPTなどにも聞きつつufw設定も変更してみたけど解決できなかった。

sudo ufw allow 11434/tcp

アクセス元のWindows側のPowershell実行結果でも接続先ipまでは疎通してるけどポートへのアクセスが出来ないという感じ。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

> Test-NetConnection -ComputerName 192.168.1.102 -Port 11434
WARNING: TCP connect to (192.168.1.102 : 11434) failed
ComputerName           : 192.168.1.102
RemoteAddress          : 192.168.1.102
RemotePort             : 11434
InterfaceAlias         : Wi-Fi
SourceAddress          : 192.168.1.101
PingSucceeded          : True
PingReplyDetails (RTT) : 7 ms
TcpTestSucceeded       : False

この解決に1時間くらいかかってしまったが、設定ファイル/etc/systemd/system/ollama.serviceに対してService設定をしないとダメだった。

1
2
3

[Service]
OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=192.168.1.*

.bashrc じゃダメなんですね。自分の環境が特殊とか、そういうことは無いと思うのですが。

参考 🔗

ollamaのリモートアクセスでハマった件

Ollama
comments powered by Disqus