Cómo montar tu propio ChatGPT privado con Open WebUI y Ollama

Open WebUI se ha convertido en una de las formas más sencillas de tener un asistente de inteligencia artificial al estilo de ChatGPT en un servidor propio. Es una interfaz web de código abierto que, combinada con Ollama, ejecuta modelos de lenguaje abiertos en local, de modo que las conversaciones y los documentos no salen de la infraestructura de la empresa. Con un servidor Linux con Docker y unos 8 GB de RAM ya se pueden usar modelos pequeños sin GPU.

Las claves de Open WebUI con Ollama en 20 segundos

  • Interfaz web tipo ChatGPT, de código abierto, que se instala en un servidor propio.
  • Con Ollama ejecuta modelos abiertos en local; también admite APIs compatibles con OpenAI.
  • Unos 8 GB de RAM bastan para modelos de 3.000 a 8.000 millones de parámetros sin GPU.
  • La seguridad importa: hay campañas activas que buscan instancias expuestas.

La propuesta encaja en la tendencia hacia la IA local: menos dependencia de servicios en la nube, costes previsibles y control sobre los datos, algo especialmente relevante para empresas sujetas al RGPD. A cambio, el rendimiento depende del hardware y los modelos que caben en un servidor modesto son más limitados que los grandes modelos comerciales.

Qué hace falta

Basta un servidor Linux con Docker; Ubuntu o Debian son las opciones más cómodas. Con unos 8 GB de RAM se pueden ejecutar a una velocidad razonable modelos de entre 3.000 y 8.000 millones de parámetros solo con CPU. Para modelos mayores hace falta una GPU o bastante más memoria. En disco, la imagen ocupa unos pocos GB y cada modelo suma entre 2 y 5 GB. Si se quiere acceder desde fuera, conviene tener un dominio para servirlo por HTTPS.

Despliegue con Docker Compose

La imagen ghcr.io/open-webui/open-webui:ollama incluye Open WebUI y Ollama en el mismo contenedor. Un docker-compose.yml mínimo sería este:

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:ollama
    restart: unless-stopped
    environment:
      WEBUI_SECRET_KEY: cambia-esto-por-un-valor-largo-y-aleatorio
      OLLAMA_BASE_URL: http://localhost:11434
    ports:
      - "127.0.0.1:3080:8080"
    volumes:
      - ollama:/root/.ollama
      - data:/app/backend/data

volumes:
  ollama:
  data:

Se arranca con docker compose up -d. WEBUI_SECRET_KEY firma las sesiones y debe ser un valor largo y aleatorio (por ejemplo, el resultado de openssl rand -hex 32). El puerto se publica solo en 127.0.0.1 para que la aplicación no quede expuesta directamente a internet: el acceso externo debe pasar por un proxy inverso con HTTPS, como Caddy o nginx. Con Caddy basta un bloque como chat.ejemplo.com { reverse_proxy 127.0.0.1:3080 } para obtener un certificado automáticamente.

Una vez dentro, se descarga un modelo desde el selector. Para servidores sin GPU funcionan bien modelos pequeños como llama3.2:3b, qwen3:4b o gemma3:4b. Desde los ajustes de administración también se pueden añadir conexiones a cualquier API compatible con OpenAI, y esos modelos aparecen en el mismo selector que los locales.

La seguridad, antes que el primer chat

El primer usuario que se registra se convierte en administrador, así que hay que crear la cuenta propia nada más arrancar y revisar después si los nuevos usuarios pueden registrarse libremente o necesitan aprobación. No es un detalle menor: Open WebUI y Ollama figuran entre los objetivos de la campaña de agentes de IA que Amazon ha detectado robando claves de servicios de IA en instalaciones expuestas y mal configuradas. Si se añaden claves de proveedores externos, conviene limitar quién tiene acceso y vigilar el consumo.

Para actualizar, basta con descargar la nueva imagen y reiniciar el contenedor; usuarios, chats y modelos se conservan en los volúmenes. La copia de seguridad importante es la del volumen data, que guarda usuarios y conversaciones; el de ollama contiene los modelos, que se pueden volver a descargar.

Preguntas frecuentes

¿Qué es Open WebUI?

Una interfaz web de código abierto, al estilo de ChatGPT, para usar modelos de lenguaje locales con Ollama o remotos mediante APIs compatibles con OpenAI.

¿Necesito GPU?

No para modelos pequeños: con unos 8 GB de RAM funcionan modelos de 3.000 a 8.000 millones de parámetros. Para modelos mayores, sí conviene.

¿Qué modelos uso en un servidor sin GPU?

Modelos pequeños como llama3.2:3b, qwen3:4b o gemma3:4b.

¿Cómo lo protejo?

Publicando el puerto solo en localhost, sirviendo por HTTPS con un proxy inverso, creando la cuenta de administrador de inmediato y controlando el registro de nuevos usuarios.

Fuentes:

Scroll al inicio