Guía de URL de servidor personalizado

Conecta Grambo a cualquier servicio de IA local o remoto — LM Studio, Ollama, LiteLLM, vLLM o cualquier endpoint compatible con OpenAI

Volver al centro de ayuda

📖 Descripción general

La función URL de servidor personalizado de Grambo te permite conectarte a cualquier servicio de IA que exponga una API compatible con OpenAI. Esto incluye herramientas de IA local como LM Studio, Jan y Ollama configurado manualmente, así como servicios autoalojados o remotos como LiteLLM, vLLM y AnythingLLM. Tú proporcionas la URL del servidor, el nombre del modelo y una clave API opcional — Grambo hace el resto.

📡 Formato OpenAI requerido: El servidor al que te conectas debe devolver respuestas en el formato de completaciones de chat de OpenAI. La mayoría de las herramientas de IA local modernas lo soportan de forma predeterminada.

⚙️ Cómo configurar la URL de servidor personalizado

Sigue estos pasos para conectar Grambo a tu servidor de IA personalizado:

  1. Abre los ajustes de Grambo: Inicia Grambo en tu Mac y haz clic en el botón "Ajustes".
  2. Elige "Trae tu propia clave (BYOK)" en "Tipo de servicio".
  3. Selecciona "URL de servidor personalizado" de las opciones de modelo/proveedor.
  4. Introduce tu URL de servidor: Pega la URL base de tu servidor de IA, incluyendo la ruta (p. ej. /v1):
    http://localhost:1234/v1
  5. Introduce el nombre del modelo: Escribe el nombre exacto del modelo que ejecuta tu servidor (p. ej. llama3, mistral, phi3):
    llama3
  6. Introduce tu clave API (si tu servidor la requiere). Si tu servidor no requiere autenticación, introduce none o déjalo en blanco:
    none
  7. Guarda tus ajustes y comienza a usar Grambo con tu servidor personalizado.

✅ ¡Todo listo! Grambo ahora enviará solicitudes de corrección gramatical a tu servidor personalizado. Todo el procesamiento ocurre a través de tu servicio de IA elegido.

🔌 Servicios compatibles

Cualquier servicio que implemente el formato de API de completaciones de chat de OpenAI funcionará. Aquí hay algunas opciones populares con sus URLs predeterminadas:

Servicio URL predeterminada Clave API
LM Studio http://localhost:1234/v1 Opcional
Ollama (manual) http://localhost:11434/v1 No requerida
Jan http://localhost:1337/v1 Opcional
LiteLLM http://localhost:4000/v1 Requerida
vLLM http://localhost:8000/v1 Opcional
AnythingLLM http://localhost:3001/api/openai Requerida
Servidor remoto / personalizado https://your-server.com/v1 Varía

💡 Consejo: Asegúrate de que tu servidor de IA local esté en ejecución antes de guardar tus ajustes en Grambo.

📡 Requisito de formato de respuesta OpenAI

Grambo espera que el servidor responda usando el formato estándar de completaciones de chat de OpenAI. Este es el mismo formato utilizado por la API oficial de OpenAI y es ampliamente compatible con herramientas de IA local.

  • Endpoint: Tu servidor debe aceptar solicitudes POST en /chat/completions (relativo a la URL base que proporcionas)
  • Formato de solicitud: Grambo envía un array estándar de messages con un prompt del sistema y texto del usuario
  • Formato de respuesta: El servidor debe devolver un objeto JSON con choices[0].message.content que contenga el texto corregido
  • Campo de modelo: El nombre del modelo que introduces en los ajustes se pasa en el cuerpo de la solicitud como parámetro model

⚠️ Compatibilidad: Si tu servidor no devuelve respuestas en formato OpenAI, Grambo no podrá analizar la corrección. Consulta la documentación de tu servidor para confirmar que soporta la API de completaciones de chat de OpenAI.

❓ Preguntas frecuentes

¿Cuál es la diferencia entre URL de servidor personalizado y la IA local integrada?

La IA local integrada usa la configuración automática de Grambo para instalar y gestionar Ollama por ti. La URL de servidor personalizado es para usuarios avanzados que ya tienen un servidor de IA en ejecución — local o remoto — y quieren conectar Grambo a él manualmente.

¿Necesito una clave API?

Depende de tu servidor. La mayoría de los servidores locales (LM Studio, Ollama, Jan) no requieren clave API. Si tu servidor requiere autenticación, introduce la clave en el campo de clave API. Si no, puedes introducir "none" o dejarlo en blanco.

¿Puedo conectarme a un servidor remoto, no solo a localhost?

¡Sí! Puedes usar cualquier URL — local (http://localhost:...) o remota (https://tu-servidor.com/v1). Solo asegúrate de que el servidor sea accesible desde tu Mac y devuelva respuestas compatibles con OpenAI.

¿Qué nombre de modelo debo introducir?

Introduce el identificador exacto del modelo que espera tu servidor. Por ejemplo, en LM Studio se muestra en el menú desplegable del modelo. Para Ollama, es la etiqueta del modelo que descargaste (p. ej. llama3, mistral, qwen2).

¿Por qué Grambo no recibe respuesta de mi servidor?

Verifica que: (1) tu servidor esté en ejecución y accesible en la URL introducida, (2) el nombre del modelo sea correcto, (3) el servidor devuelva respuestas JSON compatibles con OpenAI, y (4) si se requiere clave API, esté introducida correctamente.

¿Puedo usar la URL de servidor personalizado junto con otros proveedores BYOK?

Sí. Puedes cambiar entre URL de servidor personalizado, OpenAI, Anthropic, Google Gemini e IA local en cualquier momento en los ajustes de Grambo. Cada modo es independiente.

📧 ¿Necesitas ayuda?

Si tienes problemas para conectarte a tu servidor personalizado o preguntas sobre compatibilidad, contáctanos en support@gramboapp.com