Las agencias federales reciben la orden de dejar DeepSeek, los enlaces de Muse de Meta exponen chats privados y la deuda de CoreWeave atrae la atención de toda la industria de IA.
-
EE. UU. ordena a agencias federales eliminar DeepSeek
- EE. UU. ordenó a las agencias civiles federales dejar de comprar productos y servicios de DeepSeek y eliminarlos de sus sistemas de TI.
- El Departamento de Seguridad Nacional citó preocupaciones de seguridad nacional ligadas a las operaciones de DeepSeek en China.
- El DHS advirtió que datos sensibles de usuarios del gobierno estadounidense podrían ser accesibles para las autoridades chinas según la ley china.
- El Ministerio de Relaciones Exteriores de China se opuso a la medida y dijo que exagera el concepto de seguridad nacional.
Por qué importa. La orden extiende a las agencias civiles límites que antes aplicaban a sistemas de inteligencia. También alcanza productos construidos con tecnología de DeepSeek, algo que importa a los desarrolladores que venden al gobierno de EE. UU.
-
Un investigador dice que las redes neuronales podrían ser más fáciles de entender
- Nick Cammarata, investigador de la startup de IA Goodfire, publicó una entrada de blog de 26.000 palabras sobre redes neuronales.
- Afirma que los LLM podrían ser mucho más fáciles de entender, y por tanto de monitorear y controlar, de lo que se pensaba.
- En 2020, él y sus colegas estudiaron Inception v1, donde una neurona respondía tanto a autos como a gatos. Ahora cree que la neurona detectaba una forma de V.
- Chris Potts, de Stanford, dijo que la afirmación es poco más que una intuición. Jacob Hilton señala que los investigadores entienden menos del 0.01% del funcionamiento interno de los LLM de primer nivel.
Por qué importa. La industria de la IA busca mejores formas de monitorear sus modelos tras reportes de agentes que escaparon de sus límites. Si la afirmación se sostiene, la interpretabilidad podría volverse mucho más práctica. Cammarata dice que él y sus colegas planean publicar pronto los resultados técnicos sobre LLM modernos.
-
Los enlaces para compartir de Meta Muse exponen conversaciones privadas
- Investigadores de Claroc informaron que Muse, el agente de IA de propósito general de Meta, puede exponer información sensible cuando los usuarios comparten conversaciones mediante enlaces web.
- Los investigadores enumeraron 6.800 enlaces para compartir y encontraron información que no debía ser pública tras abrir unos cientos.
- Cada enlace incluye el título de la conversación en su URL, y los registros DNS pasivos públicos hacen que esos enlaces se puedan buscar.
- Meta dijo que suspendió la función de compartir mientras revisa el informe y considera cambios.
Por qué importa. Muse necesita acceso a la mayoría de las cuentas del usuario para funcionar como se previó, así que los enlaces expuestos implican más riesgo. El artículo también menciona una vulnerabilidad zero-day aparte que permitía a otras aplicaciones tomar control de una cuenta de Muse.
-
Microsoft dice que los agentes de IA son como amenazas internas
- Microsoft presentó el lunes nuevas funciones de seguridad para proteger a las empresas de los agentes de IA.
- La adición más notable es Guardian Agents, que supervisa los agentes de IA que usa una empresa. Forma parte de Project Perception, presentado en junio.
- Microsoft añadió a Defender una función de detección de agentes que puede encontrar hasta 60 tipos de agentes, entre ellos Claude Code, Codex y OpenClaw.
- Microsoft fue miembro inaugural de Open Agent Safety Platform de Nvidia, que cuenta con más de 100 otras empresas de tecnología.
Por qué importa. Microsoft sostiene que los proveedores de modelos no pueden ser confiables para vigilar sus propios agentes. Satya Nadella dice que las empresas necesitan sistemas separados, no controlados por los laboratorios de IA, para observar y controlar los agentes. Para los desarrolladores, esto apunta a los permisos de los agentes, la supervisión y la aprobación humana como parte del stack.
-
Nscale y Anthropic negocian según informes otro acuerdo de cómputo por 45 mil millones
- Anthropic y Nscale anunciaron un acuerdo de cómputo por 45 mil millones de dólares hace poco más de un mes.
- Bloomberg informa, citando a personas familiarizadas con el asunto, que las dos empresas están a punto de anunciar otro acuerdo de cómputo por 45 mil millones de dólares.
- Esas fuentes advirtieron que las conversaciones continúan y que los detalles podrían cambiar.
- Ambas empresas también buscan salir a bolsa, y Nscale enfrenta rechazo de inversionistas a su valoración propuesta de 30 mil millones de dólares.
Por qué importa. El acuerdo se suma a una larga serie de grandes compromisos de cómputo que Anthropic ha hecho durante el último año. Para los desarrolladores que construyen sobre modelos de frontera, esto indica que Anthropic sigue invirtiendo fuertemente en infraestructura. Algunos inversionistas temen que el gasto en cómputo de IA supere las ganancias.
-
La deuda de CoreWeave se convierte en un problema para toda la industria de IA
- Los bonos de CoreWeave entraron en territorio de deuda en dificultades según una definición común, cuando los inversores exigen 1.000 puntos básicos más de rendimiento que los bonos del gobierno.
- Sus acciones bajaron más de un 20 por ciento desde el cierre del martes.
- En sus resultados del segundo trimestre, CoreWeave debía más de 35.000 millones de dólares.
- Las acciones de Oracle han caído casi un 10 por ciento en el mismo periodo.
Por qué importa. CoreWeave es el principal ejemplo de deuda en IA, y el artículo dice que las preocupaciones sobre ella están presentes en todas las neonubes. Los inversores temen que pedir prestado a aseguradoras añada aún más deuda, lo que dificulta que la empresa obtenga ganancias. Solo cuando el auge de la IA flaquee se sabrá si el negocio es viable.
-
Hackers vulneran OpenCode Console y generan cargos en cuentas de IA de usuarios
- OpenCode, un agente de programación con IA de código abierto, dijo que los atacantes entraron en un sistema antiguo durante la noche.
- La brecha afectó al 1.4% de los usuarios de OpenCode Console, donde algunos guardan claves API.
- Desarrolladores reportaron cargos no autorizados en sus cuentas de OpenAI, Anthropic y Google AI, con algunos totales superiores a $1,000.
- Anthropic y Google bloquearon las claves expuestas, y OpenAI dijo que reembolsaría los créditos usados en el ataque a sus clientes de API.
Por qué importa. El incidente muestra cómo las claves API guardadas pueden convertirse en un riesgo financiero directo para los desarrolladores que usan servicios de IA. También muestra que los modelos de IA con filtros de seguridad pueden frenar a los defensores durante un ataque activo. OpenCode dijo que la aplicación de código abierto y la herramienta de línea de comandos no fueron afectadas.
-
Amazon lanza TorchNeuron para llevar apps de PyTorch a Trainium
- El lunes, Amazon Web Services lanzó TorchNeuron, una herramienta que permite a startups de IA mover sus apps de PyTorch al chip Trainium.
- Amazon dice que las apps pueden correr en Trainium cambiando una sola línea de configuración, sin reescribir el código.
- Amazon también dice que está aportando cambios a PyTorch para eliminar el código que ata el framework a chips específicos.
- AWS dice que el mismo chip maneja entrenamiento e inferencia, y que su nube ahorrará dinero a las startups.
Por qué importa. PyTorch es el framework que usan muchos desarrolladores de IA, y el soporte de CUDA de Nvidia ha convertido su hardware en la opción por defecto. Si PyTorch depende menos de un solo proveedor, los desarrolladores podrían tener más opciones de hardware. El artículo señala que aún no se sabe si esto traerá más opciones o más problemas de configuración.
