カスタムサーバーURLガイド
GramboをローカルまたはリモートのAIサービスに接続 — LM Studio、Ollama、LiteLLM、vLLM、またはOpenAI互換エンドポイント
📖 概要
GramboのカスタムサーバーURL機能を使用すると、OpenAI互換APIを公開するAIサービスに接続できます。これには、LM Studio、Jan、手動設定のOllamaなどのローカルAIツール、およびLiteLLM、vLLM、AnythingLLMなどのセルフホストまたはリモートサービスが含まれます。サーバーURL、モデル名、オプションのAPIキーを指定するだけで、Gramboが残りを処理します。
📡 OpenAI形式が必要:接続するサーバーはOpenAIチャット補完形式でレスポンスを返す必要があります。最新のローカルAIツールのほとんどはこれをネイティブでサポートしています。
⚙️ カスタムサーバーURLの設定方法
GramboをカスタムAIサーバーに接続するには、以下の手順に従ってください:
- Grambo設定を開く:MacでGramboを起動し、「設定」ボタンをクリックします。
- 「サービスタイプ」で「独自キーを使用(BYOK)」を選択します。
- モデル/プロバイダーオプションから「カスタムサーバーURL」を選択します。
-
サーバーURLを入力:AIサーバーのベースURL(パスを含む、例:
/v1)を貼り付けます:http://localhost:1234/v1 -
モデル名を入力:サーバーが実行しているモデルの正確な名前を入力します(例:
llama3、mistral、phi3):llama3 -
APIキーを入力(サーバーが必要とする場合)。サーバーが認証を必要としない場合は、
noneを入力するか空白のままにします:none - 設定を保存して、カスタムサーバーでGramboを使用し始めます。
✅ 完了!GramboはカスタムサーバーにGrammar修正リクエストを送信するようになります。すべての処理は選択したAIサービスを通じて行われます。
🔌 互換サービス
OpenAIチャット補完API形式を実装するサービスはすべて動作します。デフォルトURLを持つ人気のオプションをいくつか紹介します:
| サービス | デフォルトURL | APIキー |
|---|---|---|
| LM Studio | http://localhost:1234/v1 |
オプション |
| Ollama (manual) | http://localhost:11434/v1 |
不要 |
| Jan | http://localhost:1337/v1 |
オプション |
| LiteLLM | http://localhost:4000/v1 |
必要 |
| vLLM | http://localhost:8000/v1 |
オプション |
| AnythingLLM | http://localhost:3001/api/openai |
必要 |
| リモート/カスタムサーバー | https://your-server.com/v1 |
様々 |
💡 ヒント:Gramboの設定を保存する前に、ローカルAIサーバーが実行中であることを確認してください。
📡 OpenAIレスポンス形式の要件
Gramboはサーバーが標準のOpenAIチャット補完形式を使用して応答することを期待しています。これは公式OpenAI APIで使用されるのと同じ形式で、ローカルAIツールで広くサポートされています。
- エンドポイント:サーバーは
/chat/completions(指定したベースURLからの相対パス)でPOSTリクエストを受け入れる必要があります - リクエスト形式:Gramboはシステムプロンプトとユーザーテキストを含む標準の
messages配列を送信します - レスポンス形式:サーバーは修正されたテキストを含む
choices[0].message.contentを持つJSONオブジェクトを返す必要があります - モデルフィールド:設定で入力したモデル名はリクエストボディに
modelパラメータとして渡されます
⚠️ 互換性:サーバーがOpenAI形式でレスポンスを返さない場合、Gramboは修正を解析できません。サーバーのドキュメントを確認して、OpenAIチャット補完APIをサポートしていることを確認してください。
❓ よくある質問
カスタムサーバーURLと組み込みローカルAIの違いは何ですか?
組み込みローカルAIはGramboの自動セットアップを使用してOllamaをインストールおよび管理します。カスタムサーバーURLは、ローカルまたはリモートでAIサーバーをすでに実行しており、Gramboを手動で接続したい上級ユーザー向けです。
APIキーが必要ですか?
サーバーによって異なります。ほとんどのローカルサーバー(LM Studio、Ollama、Jan)はAPIキーを必要としません。サーバーが認証を必要とする場合は、APIキーフィールドにキーを入力します。そうでない場合は、「none」を入力するか空白のままにできます。
localhostだけでなく、リモートサーバーに接続できますか?
はい!ローカル(http://localhost:...)またはリモート(https://your-server.com/v1)の任意のURLを使用できます。サーバーがMacからアクセス可能で、OpenAI互換のレスポンスを返すことを確認してください。
どのモデル名を入力すればよいですか?
サーバーが期待する正確なモデル識別子を入力します。例えば、LM Studioではモデルドロップダウンに表示されます。Ollamaの場合は、プルしたモデルタグです(例:llama3、mistral、qwen2)。
GramboがサーバーからレスポンスをGramboが受け取れないのはなぜですか?
以下を確認してください:(1) サーバーが実行中で入力したURLでアクセス可能、(2) モデル名が正しい、(3) サーバーがOpenAI互換のJSONレスポンスを返す、(4) APIキーが必要な場合は正しく入力されている。
カスタムサーバーURLを他のBYOKプロバイダーと一緒に使用できますか?
はい。Gramboの設定でいつでもカスタムサーバーURL、OpenAI、Anthropic、Google Gemini、ローカルAIを切り替えることができます。各モードは独立しています。
📧 お困りですか?
カスタムサーバーへの接続に問題がある場合や互換性についてご質問がある場合は、こちらまでご連絡ください: support@gramboapp.com