Ollama Ollama APIプロキシ on Ubuntu — OpenAI互換エンドポイントを本番公開
Ollamaをインストールすれば、自分のVPSでローカルLLM(大規模言語モデル)を動かせます。ただ、デフォルトのままでは localhost:11434 でしか使えません。「VPSに立てたOllamaをOpenAI SDKからそのまま叩き…
Ollama
Ollama
Ollama
Ollama