Guide URL de serveur personnalisé

Connectez Grambo à n'importe quel service d'IA local ou distant — LM Studio, Ollama, LiteLLM, vLLM ou tout endpoint compatible OpenAI

Retour au centre d'aide

📖 Aperçu

La fonctionnalité URL de serveur personnalisé de Grambo vous permet de vous connecter à n'importe quel service d'IA exposant une API compatible OpenAI. Cela inclut les outils d'IA locale comme LM Studio, Jan et Ollama configuré manuellement, ainsi que les services auto-hébergés ou distants comme LiteLLM, vLLM et AnythingLLM. Vous fournissez l'URL du serveur, le nom du modèle et une clé API optionnelle — Grambo s'occupe du reste.

📡 Format OpenAI requis : Le serveur auquel vous vous connectez doit retourner des réponses au format de complétions de chat OpenAI. La plupart des outils d'IA locale modernes le supportent nativement.

⚙️ Comment configurer l'URL de serveur personnalisé

Suivez ces étapes pour connecter Grambo à votre serveur IA personnalisé :

  1. Ouvrez les paramètres de Grambo : Lancez Grambo sur votre Mac et cliquez sur le bouton "Paramètres".
  2. Choisissez "Apportez votre propre clé (BYOK)" sous "Type de service".
  3. Sélectionnez "URL de serveur personnalisé" parmi les options de modèle/fournisseur.
  4. Entrez votre URL de serveur : Collez l'URL de base de votre serveur IA, y compris le chemin (ex. /v1) :
    http://localhost:1234/v1
  5. Entrez le nom du modèle : Tapez le nom exact du modèle que votre serveur exécute (ex. llama3, mistral, phi3) :
    llama3
  6. Entrez votre clé API (si votre serveur l'exige). Si votre serveur ne nécessite pas d'authentification, entrez none ou laissez vide :
    none
  7. Enregistrez vos paramètres et commencez à utiliser Grambo avec votre serveur personnalisé.

✅ C'est tout ! Grambo enverra désormais les demandes de correction grammaticale à votre serveur personnalisé. Tout le traitement se fait via votre service IA choisi.

🔌 Services compatibles

Tout service implémentant le format d'API de complétions de chat OpenAI fonctionnera. Voici quelques options populaires avec leurs URLs par défaut :

Service URL par défaut Clé API
LM Studio http://localhost:1234/v1 Optionnelle
Ollama (manual) http://localhost:11434/v1 Non requise
Jan http://localhost:1337/v1 Optionnelle
LiteLLM http://localhost:4000/v1 Requise
vLLM http://localhost:8000/v1 Optionnelle
AnythingLLM http://localhost:3001/api/openai Requise
Serveur distant / personnalisé https://your-server.com/v1 Variable

💡 Conseil : Assurez-vous que votre serveur IA local est en cours d'exécution avant d'enregistrer vos paramètres dans Grambo.

📡 Exigence de format de réponse OpenAI

Grambo s'attend à ce que le serveur réponde en utilisant le format standard de complétions de chat OpenAI. C'est le même format utilisé par l'API officielle OpenAI et largement supporté par les outils d'IA locale.

  • Endpoint : Votre serveur doit accepter les requêtes POST sur /chat/completions (relatif à l'URL de base que vous fournissez)
  • Format de requête : Grambo envoie un tableau messages standard avec un prompt système et le texte utilisateur
  • Format de réponse : Le serveur doit retourner un objet JSON avec choices[0].message.content contenant le texte corrigé
  • Champ modèle : Le nom du modèle que vous entrez dans les paramètres est passé dans le corps de la requête comme paramètre model

⚠️ Compatibilité : Si votre serveur ne retourne pas de réponses au format OpenAI, Grambo ne pourra pas analyser la correction. Consultez la documentation de votre serveur pour confirmer qu'il supporte l'API de complétions de chat OpenAI.

❓ Questions fréquemment posées

Quelle est la différence entre URL de serveur personnalisé et l'IA locale intégrée ?

L'IA locale intégrée utilise la configuration automatique de Grambo pour installer et gérer Ollama pour vous. L'URL de serveur personnalisé est pour les utilisateurs avancés qui ont déjà un serveur IA en cours d'exécution — local ou distant — et veulent connecter Grambo manuellement.

Ai-je besoin d'une clé API ?

Cela dépend de votre serveur. La plupart des serveurs locaux (LM Studio, Ollama, Jan) ne nécessitent pas de clé API. Si votre serveur requiert une authentification, entrez la clé dans le champ Clé API. Sinon, vous pouvez entrer "none" ou laisser vide.

Puis-je me connecter à un serveur distant, pas seulement localhost ?

Oui ! Vous pouvez utiliser n'importe quelle URL — locale (http://localhost:...) ou distante (https://votre-serveur.com/v1). Assurez-vous simplement que le serveur est accessible depuis votre Mac et retourne des réponses compatibles OpenAI.

Quel nom de modèle dois-je entrer ?

Entrez l'identifiant exact du modèle que votre serveur attend. Par exemple, dans LM Studio, il est affiché dans le menu déroulant du modèle. Pour Ollama, c'est le tag du modèle que vous avez téléchargé (ex. llama3, mistral, qwen2).

Pourquoi Grambo ne reçoit-il pas de réponse de mon serveur ?

Vérifiez que : (1) votre serveur est en cours d'exécution et accessible à l'URL entrée, (2) le nom du modèle est correct, (3) le serveur retourne des réponses JSON compatibles OpenAI, et (4) si une clé API est requise, elle est correctement entrée.

Puis-je utiliser l'URL de serveur personnalisé avec d'autres fournisseurs BYOK ?

Oui. Vous pouvez basculer entre URL de serveur personnalisé, OpenAI, Anthropic, Google Gemini et IA locale à tout moment dans les paramètres de Grambo. Chaque mode est indépendant.

📧 Besoin d'aide ?

Si vous avez des difficultés à vous connecter à votre serveur personnalisé ou des questions sur la compatibilité, contactez-nous à support@gramboapp.com