Stratum es un gateway de inteligencia artificial de código abierto, con licencia MIT, que se coloca entre las aplicaciones de una empresa y los proveedores de modelos de lenguaje para controlar quién usa qué modelo, cuánto gasta y qué datos salen de la red. Su autor, el arquitecto de soluciones Matías Mospan, acaba de publicar la versión 0.3.0, que añade una estimación del impacto ambiental de cada consulta.
Las claves de Stratum, el gateway de IA de código abierto, en 30 segundos
- Stratum se instala dentro de la red de la empresa y hace de intermediario con OpenAI, Anthropic, Gemini, Mistral, Ollama y otros proveedores.
- Aplica por equipo una política con modelos permitidos, cuota de tokens y un presupuesto máximo en dólares.
- Oculta datos personales y secretos antes de enviarlos al proveedor, o directamente rechaza la consulta.
- La versión 0.3.0 estima energía, agua y CO2e de cada petición con el método de EcoLogits.
Mospan, arquitecto de soluciones empresariales con experiencia en Red Hat y en entornos cloud native, presentó el proyecto en LinkedIn con un diagnóstico conocido en muchas empresas: cada vez más aplicaciones, agentes y scripts usan modelos de lenguaje, con claves de API repartidas y sin saber quién usa qué modelo, cuánto cuesta ni qué datos acaban en manos del proveedor. Stratum pretende centralizar ese tráfico sin sacarlo de la infraestructura propia: según el repositorio, las peticiones y respuestas no salen de la red salvo hacia el proveedor elegido.
Cómo funciona
El proyecto tiene dos piezas. El gateway, o plano de datos, es un binario de Go escrito solo con la biblioteca estándar, que corre junto a las aplicaciones y atiende las peticiones a partir de una copia de la configuración en memoria. El plano de control es una aplicación Next.js con PostgreSQL desde la que se gestionan equipos, claves, políticas y proveedores, y se consulta el uso. Los gateways descargan de ahí su configuración y devuelven solo metadatos de uso; los registros nunca guardan los prompts. Opcionalmente puede usar Valkey para compartir los contadores de cuota entre réplicas.
Cada equipo tiene una política con los proveedores y modelos permitidos, una cuota mensual de tokens, un límite de tokens por petición y un presupuesto en dólares que corta las consultas cuando se agota. Las aplicaciones internas pueden actuar en nombre de cada persona mediante una cabecera HTTP, de modo que se aplica la política de su equipo y el consumo queda a su nombre. La consola permite ver coste, tokens, errores, peticiones rechazadas y latencia por equipo, agente, persona, modelo, proveedor o etiqueta, con alertas por correo o Slack y métricas para Prometheus.
Privacidad e impacto ambiental
Antes de enviar una consulta, Stratum busca datos personales y secretos en el prompt y, según la política, los oculta o rechaza la petición. Es la parte pensada para quien teme que la información interna termine en los servidores de un proveedor externo sin control.
La novedad de la 0.3.0 es la estimación del impacto ambiental de cada consulta en energía, agua y emisiones de CO2 equivalente, con la metodología de EcoLogits. Mospan explica que se muestra como un rango, porque los modelos cerrados no publican su tamaño, y que lo que no se puede estimar aparece como dato faltante, «nunca como cero». Esa parte del código, adaptada de EcoLogits, se distribuye con licencia MPL-2.0.
Pruebas de resistencia y cómo probarlo
Según su autor, el gateway sigue respondiendo aunque caigan la base de datos, Valkey o el plano de control, siempre que el proveedor esté disponible. En las pruebas de fallos sobre Google Kubernetes Engine (pérdida de una zona, conmutación de la base de datos y caída del plano de control), Stratum registró 0 errores en 52.805 consultas, según el informe enlazado en el repositorio. El proyecto ofrece imágenes firmadas para varias arquitecturas, charts de Helm preparados para alta disponibilidad y una referencia en Terraform para Google Cloud.
Para probarlo basta con Docker: tras clonar el repositorio, make demo levanta la consola, un gateway y un modelo simulado con una organización de ejemplo y cuatro semanas de uso, sin claves de proveedores ni coste. El propio autor recuerda que el proyecto está en fase 0.x, que la API y la configuración pueden cambiar y que, por ahora, la consola solo está en español. Busca equipos que lo prueben y le cuenten qué falta. Stratum se suma a una categoría en crecimiento, la de las capas que median entre empresas y modelos, junto a servicios gestionados como el servicio de inferencia de Akamai.
Preguntas frecuentes
¿Qué es Stratum?
Un gateway de IA de código abierto (MIT) que se sitúa entre las aplicaciones y los proveedores de modelos para aplicar políticas, cuotas y presupuestos, y medir el consumo.
¿Con qué proveedores funciona?
OpenAI, Anthropic, Gemini, Mistral, Groq, Azure OpenAI, Ollama y otras API compatibles con OpenAI.
¿Cómo se prueba Stratum?
Con Docker: tras clonar el repositorio, make demo levanta una demostración con un modelo simulado, sin claves ni coste.
¿Está listo para producción?
Su autor lo presenta como versión 0.x: la API y la configuración pueden cambiar, y la consola solo está en español por ahora.
Fuentes:
