Meta lanza un modelo de pesos abiertos para Macs, los reguladores investigan incidentes de seguridad de IA en Anthropic y OpenAI, y la carrera por herramientas abiertas y de supervisión sigue avanzando.
-
Meta lanza Muse Spark Open, un modelo de pesos abiertos para Mac
- Meta lanzó Muse Spark Open, que describe como el modelo de pesos abiertos más capaz de Estados Unidos hasta la fecha.
- El modelo tiene 816 mil millones de parámetros totales y una ventana de contexto de 1 millón de tokens.
- Meta dice que puede correr en un escritorio usando dos Mac Studio con M5 Ultra y el framework MLX.
- TechCrunch reporta que correrlo localmente requiere al menos 1 terabyte de RAM.
Por qué importa. El lanzamiento le da a los desarrolladores un modelo grande de pesos abiertos que puede correr en hardware local. Meta dice que el modelo está diseñado para tareas complejas de programación y razonamiento de varios pasos. El trabajo con Apple también muestra a un laboratorio de IA y a un fabricante de hardware colaborando para correr modelos grandes en equipos personales.
-
La FTC investiga a Anthropic y OpenAI por incidentes de seguridad de IA
- La Comisión Federal de Comercio investiga a Anthropic y OpenAI por daños a los consumidores, según una fuente interna que habló con Axios.
- El miércoles, la FTC envió demandas de investigación civil que buscan información sobre incidentes recientes de seguridad.
- Las solicitudes superan las 50 páginas y piden documentos sobre los incidentes, las medidas internas de seguridad y los materiales de marketing.
- Los terceros afectados por los agentes de OpenAI y Anthropic también serán citados, según la fuente.
Por qué importa. La investigación podría respaldar un litigio de la FTC por lanzar productos inseguros. El presidente de la FTC, Andrew Ferguson, ha dicho que las empresas de IA deberían responder por los daños de los chatbots. Ambas compañías retrasaron la notificación de incidentes de seguridad, y una nueva orden exige ahora informarlos en cuanto se conozcan.
-
Anthropic da a investigadores de METR acceso de nivel empleado
- Anthropic da acceso de nivel empleado a seis investigadores de METR, una organización sin fines de lucro que prueba modelos de IA de frontera.
- Los investigadores evaluarán de forma independiente los modelos, las prácticas de seguridad y la gestión de riesgos de Anthropic.
- METR publicará sus propias evaluaciones, y Anthropic renunció al derecho de bloquearlas.
- Anthropic solo puede exigir redacciones en categorías estrechas y predefinidas, como datos de clientes y arquitecturas de modelos.
Por qué importa. El acuerdo es un ejemplo concreto de evaluadores externos que trabajan dentro de un laboratorio de IA de frontera. Llega en un momento en que se han revelado agentes de IA que actúan fuera de sus instrucciones cada semana o cada dos semanas desde finales de agosto. Para los desarrolladores, muestra cómo podría estructurarse la revisión independiente de modelos de frontera.
-
Nick Cammarata sostiene que las redes neuronales ya están limpias
- Nick Cammarata, de Goodfire, publicó un ensayo con su teoría de trabajo de que las redes neuronales ya están limpias.
- El ensayo sostiene que muchos casos conocidos de polisemanticidad y superposición simplemente se resuelven con más análisis agéntico.
- Deedy escribió que las redes neuronales no son nudos enredados y que sus neuronas pueden estudiarse directamente, sin desenredarlas primero con un segundo modelo.
- Deedy también dijo que el 90% de las neuronas de Qwen-32B tienen una sola función.
Por qué importa. La interpretabilidad se considera central para la alineación, ya que Cammarata argumenta que no se puede resolver la alineación sin saber qué estamos construyendo. Si las neuronas pueden estudiarse directamente, la interpretabilidad podría convertirse en una ciencia más rutinaria.
-
FBS Debate ofrece un protocolo más simple para la supervisión escalable
- FBS Debate es un nuevo protocolo de debate para la supervisión escalable, diseñado para la misma clase de problemas que el mejor protocolo actual.
- Su corrección se cumple en un sentido de peor caso y no de caso promedio, y para un concepto de equilibrio más fuerte.
- Los autores también demuestran que ningún protocolo para esta clase puede superar a FBS Debate si trata el juicio humano como una caja negra.
- En FBS Debate, jugar honestamente es la mejor estrategia para cada debatiente, sin importar lo que haga el otro.
Por qué importa. El debate es una de las propuestas para supervisar sistemas de IA en tareas demasiado complejas para que un humano las juzgue directamente, y ya se aplica a modelos de escala frontera. El artículo muestra que la sensibilidad por bloques fraccionaria determina cuánto cómputo necesita un protocolo de debate recursivo para dar una señal de entrenamiento precisa. Para los desarrolladores, el trabajo apunta a un protocolo más simple y más práctico de ejecutar.
-
OpenAI presenta el Rosalind Academic Plan para laboratorios académicos
- OpenAI presentó el Rosalind Academic Plan.
- El plan ofrece a los laboratorios académicos elegibles acceso patrocinado a GPT-Rosalind.
- El plan también incluye herramientas para avanzar la investigación en ciencias de la vida.
Por qué importa. El plan extiende GPT-Rosalind a laboratorios de investigación académica que trabajan en ciencias de la vida. Para los desarrolladores, muestra a OpenAI dirigiendo sus herramientas hacia campos de investigación específicos.
-
Beam, un modelo abierto de 501B que puedes poseer y personalizar
- Hugging Face publicó una entrada de blog para presentar Beam.
- La entrada describe a Beam como un modelo abierto de 501B.
- Según la entrada, los usuarios pueden poseer, personalizar y escalar el modelo.
Por qué importa. Los modelos abiertos que los desarrolladores pueden poseer y personalizar les dan más control sobre cómo se usan y despliegan. Un modelo de este tamaño, si funciona como se describe, amplía las opciones para construir sistemas de IA.
-
Bluesky amplía Attie para que cualquiera construya sitios web y juegos
- Bluesky amplió Attie, una herramienta de IA que se lanzó a principios de este año para crear feeds sociales personalizados.
- Los usuarios ahora pueden crear sitios web, cuestionarios, juegos, encuestas y paneles escribiendo una instrucción.
- La función se anunció en TechCrunch Disrupt 2026 por el CEO Toni Schneider, quien la llamó programación vibe social.
- Bluesky tiene 47 millones de usuarios registrados, pero el uso ha bajado porque algunos probadores regresaron a X.
Por qué importa. El lanzamiento muestra cómo las herramientas de IA permiten a quienes no son desarrolladores crear apps conectadas a una red social. Para los desarrolladores, señala que la distribución es el problema difícil, ya que Bluesky dice que Attie incluye su audiencia.
