ConfiguraciónUsar un LLM auto-hospedado
Usar un LLM auto-hospedado
Puedes utilizar un LLM auto-hospedado (p. ej.: mediante Ollama) para traducir contenido.
Ve a la página de Ajustes en Service Configuration > Self-hosted LLM y configura los valores.
| Ajuste | Descripción |
|---|---|
| Endpoint URL | URL del endpoint HTTP para tu modelo LLM auto-hospedado. Ver los ejemplos a continuación. |
| Compatible with API endpoint from | Con qué proveedor de servicio de IA es compatible tu endpoint personalizado: ChatGPT o Claude. |
| Model | Nombre del modelo LLM auto-hospedado a usar para traducir contenido. |
| Max tokens | Número máximo de tokens que el modelo puede generar en la respuesta. Déjalo vacío para no tener límite (ChatGPT) o utiliza el valor por defecto para Claude. |
Ejemplos de Endpoint URL:
| URL | Descripción |
|---|---|
http://localhost:11434/v1/chat/completions | Formato ChatGPT, Ollama en tu servidor |
http://localhost:11434/v1/messages | Formato Claude, Ollama en tu servidor |
https://ollama.com/v1/chat/completions | Formato ChatGPT, Ollama Cloud |
https://ollama.com/v1/messages | Formato Claude, Ollama Cloud |
Si estás alojando el LLM en tu propio servidor, no necesitarás la API key.
Si utilizas tu LLM auto-hospedado en la nube (p. ej.: al usar Ollama Cloud), es posible que tengas que proporcionar una API key mediante la pestaña API Keys > Self-hosted LLM en la página de Ajustes.
