Meta lanza Muse Spark Open, un modelo de pesos abiertos para Mac
Meta dice que el modelo puede correr en dos Mac Studio con chip Apple M5 Ultra.
816Bparámetros totales del modelo
En corto
- Meta lanzó Muse Spark Open, que describe como el modelo de pesos abiertos más capaz de Estados Unidos hasta la fecha.
- El modelo tiene 816 mil millones de parámetros totales y una ventana de contexto de 1 millón de tokens.
- Meta dice que puede correr en un escritorio usando dos Mac Studio con M5 Ultra y el framework MLX.
- TechCrunch reporta que correrlo localmente requiere al menos 1 terabyte de RAM.
Por qué importa
El lanzamiento le da a los desarrolladores un modelo grande de pesos abiertos que puede correr en hardware local. Meta dice que el modelo está diseñado para tareas complejas de programación y razonamiento de varios pasos. El trabajo con Apple también muestra a un laboratorio de IA y a un fabricante de hardware colaborando para correr modelos grandes en equipos personales.
“runs great on new Mac Studios thanks to work with @johnternus and Apple”
Qué dice la gente
Los comentaristas en Hacker News recibieron el lanzamiento como más trabajo de pesos abiertos de un laboratorio importante. Uno dijo que la licencia exige que los grandes proveedores de inferencia obtengan una licencia aparte de Meta, lo que podría reducir la competencia de precios. Otro preguntó cómo se compara con Muse Spark 1.3, que había usado gratis a través de OpenCode.