OpenPlayground: Una herramienta de código abierto para probar modelos IA

OpenPlayground es un entorno de código abierto para probar modelos de IA, que permite ejecutarlo en tu computadora portátil. Además de poder instalarlo en tu ordenador o un servidor basado en docker, también su autor tiene una versión de libre acceso en Nat.dev en la que te pide pagar 5$ para no arruinarse «regalando» tokens de generación de texto.

Algunas características clave incluyen:

  1. Compatible con modelos de OpenAI, Anthropic, Cohere, Forefront, HuggingFace, Aleph Alpha y llama.cpp.
  2. Interfaz de usuario completa para jugar con el modelo, incluido el historial, la afinación de parámetros, los atajos de teclado y los logprops.
  3. Comparación de modelos lado a lado con el mismo indicador, ajuste individual de parámetros del modelo y reintentos con diferentes parámetros.
  4. Detección automática de modelos locales en tu caché de HuggingFace e instalación de nuevos modelos.
  5. Funciona bien en dispositivos móviles.
  6. Probablemente no eliminará a todos.

Puedes probar la versión alojada en nat.dev, o instalar y ejecutarla con los siguientes comandos:

$ pip install openplayground
$ openplayground run

También puedes ejecutarlo como un contenedor de Docker:

$ docker run --name openplayground -p 5432:5432 -d --volume openplayground:/web/config natorg/openplayground

OpenPlayground está diseñado para ser fácil de modificar y ampliar, con varias ideas para contribuciones listadas en la documentación. Además, permite agregar modelos fácilmente a través de su archivo de configuración y proporciona ejemplos de cómo agregar modelos locales y modelos de proveedores de API.

El proyecto fue iniciado por Nat Friedman, con la implementación inicial realizada por Zain Huda como parte de un programa de recompensas en Repl.it. Alex Lourenco contribuyó con muchas características y refactorizaciones extensas.

Más información en GitHub.

Últimos artículos

Scroll al inicio