Microsoft dice que los agentes de IA son como amenazas internas
Nuevas funciones de seguridad buscan vigilar los agentes que las empresas ya usan.
Laboratorios#04
60
tipos de agentes que Defender puede detectar
Imagen: TechCrunch
60tipos de agentes que Defender puede detectar
En corto
- Microsoft presentó el lunes nuevas funciones de seguridad para proteger a las empresas de los agentes de IA.
- La adición más notable es Guardian Agents, que supervisa los agentes de IA que usa una empresa. Forma parte de Project Perception, presentado en junio.
- Microsoft añadió a Defender una función de detección de agentes que puede encontrar hasta 60 tipos de agentes, entre ellos Claude Code, Codex y OpenClaw.
- Microsoft fue miembro inaugural de Open Agent Safety Platform de Nvidia, que cuenta con más de 100 otras empresas de tecnología.
Por qué importa
Microsoft sostiene que los proveedores de modelos no pueden ser confiables para vigilar sus propios agentes. Satya Nadella dice que las empresas necesitan sistemas separados, no controlados por los laboratorios de IA, para observar y controlar los agentes. Para los desarrolladores, esto apunta a los permisos de los agentes, la supervisión y la aprobación humana como parte del stack.
“Unfortunately, frontier models, regardless of their origin, cannot be trusted”