Ollamaに外部からアクセスできるようにする

Ollamaに外部からアクセスできるようにする

趣旨

Ollamaはデフォルトでは外部からアクセスできないようになっています。そのため、外部からアクセスするためには設定を変更する必要があります。これはセキュリティ上の理由からデフォルトで制限されていますが、適切な設定を行えば安全に外部アクセスを許可することができます。

設定手順

外部からアクセスできるようにするためにnginxをリバースプロキシとして設定します。このリバースプロキシ設定により、特定のポートやパスでのみアクセスを許可し、セキュリティを確保しながら外部からのアクセスを実現します。以下では、nginxとOllamaの具体的な設定手順を説明します。

nginx

nginxの設定ファイルを以下のように編集します。通常、設定ファイルは/etc/nginx/sites-available/にあります。新しい設定ファイルを作成する場合は、適切な名前(例:ollama)をつけて保存します。設定後は必ずnginxの構文チェックを行い、エラーがないことを確認します。

server {
    listen 80;
    server_name your_domain.com;

    location /ollama/ {
        proxy_pass http://localhost:11434/;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
    }
}

Ollama

Ollamaのデフォルト設定では、localhost(127.0.0.1)からのアクセスのみを許可しています。外部からのアクセスを可能にするには、Ollamaの設定ファイルで待ち受けアドレスを変更する必要があります。以下のコマンドを使用して、Ollamaを起動する際に待ち受けアドレスを指定します:

OLLAMA_HOST=0.0.0.0 ollama serve

この設定により、Ollamaは全てのネットワークインターフェースでリクエストを待ち受けるようになります。ただし、必ずnginxのリバースプロキシを経由してアクセスするようにし、直接的な外部アクセスは制限することが推奨されます。