ECO-LLM: la revolución en el despliegue eficiente de modelos de lenguaje entre la nube y el edge
Un nuevo sistema optimiza en tiempo real la ejecución de modelos de lenguaje en escenarios como hogares y vehículos inteligentes, superando a soluciones como GPT-4o en precisión, coste y latencia. Investigadores de Carnegie Mellon University y Microsoft Research han presentado ECO-LLM, un innovador sistema de orquestación diseñado para ejecutar modelos de lenguaje de manera más eficiente entre el edge y



