カスタムサーバーURLガイド

GramboをローカルまたはリモートのAIサービスに接続 — LM Studio、Ollama、LiteLLM、vLLM、またはOpenAI互換エンドポイント

📖 概要

GramboのカスタムサーバーURL機能を使用すると、OpenAI互換APIを公開するAIサービスに接続できます。これには、LM Studio、Jan、手動設定のOllamaなどのローカルAIツール、およびLiteLLM、vLLM、AnythingLLMなどのセルフホストまたはリモートサービスが含まれます。サーバーURL、モデル名、オプションのAPIキーを指定するだけで、Gramboが残りを処理します。

📡 OpenAI形式が必要:接続するサーバーはOpenAIチャット補完形式でレスポンスを返す必要があります。最新のローカルAIツールのほとんどはこれをネイティブでサポートしています。

⚙️ カスタムサーバーURLの設定方法

GramboをカスタムAIサーバーに接続するには、以下の手順に従ってください:

  1. Grambo設定を開く:MacでGramboを起動し、「設定」ボタンをクリックします。
  2. 「サービスタイプ」で「独自キーを使用(BYOK)」を選択します。
  3. モデル/プロバイダーオプションから「カスタムサーバーURL」を選択します。
  4. サーバーURLを入力:AIサーバーのベースURL(パスを含む、例:/v1)を貼り付けます:
    http://localhost:1234/v1
  5. モデル名を入力:サーバーが実行しているモデルの正確な名前を入力します(例:llama3mistralphi3):
    llama3
  6. APIキーを入力(サーバーが必要とする場合)。サーバーが認証を必要としない場合は、noneを入力するか空白のままにします:
    none
  7. 設定を保存して、カスタムサーバーでGramboを使用し始めます。

✅ 完了!GramboはカスタムサーバーにGrammar修正リクエストを送信するようになります。すべての処理は選択したAIサービスを通じて行われます。

🔌 互換サービス

OpenAIチャット補完API形式を実装するサービスはすべて動作します。デフォルトURLを持つ人気のオプションをいくつか紹介します:

サービス デフォルトURL APIキー
LM Studio http://localhost:1234/v1 オプション
Ollama (manual) http://localhost:11434/v1 不要
Jan http://localhost:1337/v1 オプション
LiteLLM http://localhost:4000/v1 必要
vLLM http://localhost:8000/v1 オプション
AnythingLLM http://localhost:3001/api/openai 必要
リモート/カスタムサーバー https://your-server.com/v1 様々

💡 ヒント:Gramboの設定を保存する前に、ローカルAIサーバーが実行中であることを確認してください。

📡 OpenAIレスポンス形式の要件

Gramboはサーバーが標準のOpenAIチャット補完形式を使用して応答することを期待しています。これは公式OpenAI APIで使用されるのと同じ形式で、ローカルAIツールで広くサポートされています。

  • エンドポイント:サーバーは/chat/completions(指定したベースURLからの相対パス)でPOSTリクエストを受け入れる必要があります
  • リクエスト形式:Gramboはシステムプロンプトとユーザーテキストを含む標準のmessages配列を送信します
  • レスポンス形式:サーバーは修正されたテキストを含むchoices[0].message.contentを持つJSONオブジェクトを返す必要があります
  • モデルフィールド:設定で入力したモデル名はリクエストボディにmodelパラメータとして渡されます

⚠️ 互換性:サーバーがOpenAI形式でレスポンスを返さない場合、Gramboは修正を解析できません。サーバーのドキュメントを確認して、OpenAIチャット補完APIをサポートしていることを確認してください。

よくある質問

カスタムサーバーURLと組み込みローカルAIの違いは何ですか?

組み込みローカルAIはGramboの自動セットアップを使用してOllamaをインストールおよび管理します。カスタムサーバーURLは、ローカルまたはリモートでAIサーバーをすでに実行しており、Gramboを手動で接続したい上級ユーザー向けです。

APIキーが必要ですか?

サーバーによって異なります。ほとんどのローカルサーバー(LM Studio、Ollama、Jan)はAPIキーを必要としません。サーバーが認証を必要とする場合は、APIキーフィールドにキーを入力します。そうでない場合は、「none」を入力するか空白のままにできます。

localhostだけでなく、リモートサーバーに接続できますか?

はい!ローカル(http://localhost:...)またはリモート(https://your-server.com/v1)の任意のURLを使用できます。サーバーがMacからアクセス可能で、OpenAI互換のレスポンスを返すことを確認してください。

どのモデル名を入力すればよいですか?

サーバーが期待する正確なモデル識別子を入力します。例えば、LM Studioではモデルドロップダウンに表示されます。Ollamaの場合は、プルしたモデルタグです(例:llama3、mistral、qwen2)。

GramboがサーバーからレスポンスをGramboが受け取れないのはなぜですか?

以下を確認してください:(1) サーバーが実行中で入力したURLでアクセス可能、(2) モデル名が正しい、(3) サーバーがOpenAI互換のJSONレスポンスを返す、(4) APIキーが必要な場合は正しく入力されている。

カスタムサーバーURLを他のBYOKプロバイダーと一緒に使用できますか?

はい。Gramboの設定でいつでもカスタムサーバーURL、OpenAI、Anthropic、Google Gemini、ローカルAIを切り替えることができます。各モードは独立しています。

📧 お困りですか?

カスタムサーバーへの接続に問題がある場合や互換性についてご質問がある場合は、こちらまでご連絡ください: support@gramboapp.com