Anthropic contrata menos juniors mientras los sitios web le cierran la puerta a los agentes de IA y Meta elimina en silencio el lenguaje sobre scraping, y los teóricos de alineamiento sostienen que el campo necesita teoría profunda y no ensayo y error.
-
Anthropic contrata menos junior y pasa más tiempo en reuniones
- La proporción de empleados de nivel junior en departamentos técnicos bajó de 21% a 14% desde inicios de 2025.
- La proporción de contrataciones técnicas junior bajó de 27% a 9%.
- Los equipos técnicos bajaron de 61% a 56% de la plantilla total.
- El tiempo en reuniones por empleado subió 20% frente a hace un año, y 16% para los colaboradores técnicos.
Por qué importa. El informe es una mirada poco común a cómo una empresa de IA organiza a su personal y su trabajo. Sugiere que la atención y el juicio humanos pueden convertirse en el cuello de botella a medida que crece la producción de la IA. Para los desarrolladores, indica que la contratación junior podría reducirse mientras la revisión y la coordinación ocupan más tiempo.
-
Los sitios web están cerrando sus puertas a los agentes de IA
- Usuarios de agentes como Muse de Meta, Grok de xAI, Dots de OpenAI e Instinct reportan bloqueos en sitios populares.
- Yelp dice que solo permite agentes de IA que paguen por su programa de licencias de datos, y Delta Air Lines les impide reservar boletos.
- JPMorgan Chase y Charles Schwab confirmaron que bloquean el acceso de agentes de IA a cuentas por razones de seguridad.
- Amazon dijo que el acceso continuo de Muse viola sus políticas del sitio, y antes demandó a Perplexity por su agente de compras.
- Los sistemas anti-bot también bloquean parte de la actividad de los agentes, y Cloudflare ahora bloquea rastreadores que extraen datos para búsqueda y entrenamiento de IA.
Por qué importa. Los agentes solo son útiles si pueden llegar a los sitios que la gente usa. Si hay menos lugares donde funcionan, pueden hacer menos tareas útiles, según un evaluador de seguridad de IA. Los desarrolladores que construyan agentes tendrán que manejar bloqueos, verificaciones anti-bot y reglas de los sitios.
-
Meta elimina lenguaje de sus términos que generó dudas sobre el scraping
- Meta eliminó de sus términos comerciales un lenguaje que sugería que podía usar contenido de sitios, incluidos los de noticias, para entrenar su IA.
- Expertos afirmaron que la cláusula podría permitirle extraer contenido de sitios de editores con una cuenta comercial y anular las instrucciones de bloqueo de robots.txt.
- Meta había dicho antes que no había cambios en la forma en que usa los rastreadores web, y que cualquier sugerencia contraria era falsa.
- Meta afirma ahora que los dueños de contenido pueden seguir usando robots.txt para indicar sus preferencias.
Por qué importa. El caso muestra que los derechos de entrenamiento de IA sobre contenido web están en disputa. Los desarrolladores que crean rastreadores o publican contenido deben revisar cómo se respetan las señales de robots.txt. Los términos siguen importando para entender cómo las empresas describen su rastreo.
-
Una nueva visión de la corregibilidad de la IA basada en el respeto a la autoridad
- La autora sostiene que las definiciones existentes de corregibilidad son deficientes de una forma u otra.
- El artículo dice que el concepto fundamental detrás de la corregibilidad es el respeto a la autoridad, usando como guía intuitiva el caso de un apoderado de salud.
- El marco primero restringe al agente para que no exceda ni interfiera con la autoridad humana reservada, y luego lo lleva a actuar en nombre de su principal como este juzgaría mejor.
- El artículo presenta un formalismo inicial y demuestra garantías a nivel de teorema en tres entornos formales cada vez más realistas.
Por qué importa. La corregibilidad es central para la alineación teórica de la IA, y el artículo dice que nadie logra ponerse de acuerdo sobre su significado. El marco busca coincidir con los criterios originales de 2015 y sostener las garantías formales de seguridad que el concepto necesita. Los desarrolladores que trabajan en sistemas de IA potentes encontrarían relevantes los entornos formales para especificar este tipo de objetivos.
-
Kosoy sostiene que la alineación de la IA necesita teoría profunda, no ensayo y error
- Vanessa Kosoy define el problema técnico de la alineación de la IA como diseñar un sistema de IA que aporte capacidad superhumana a la planificación de largo plazo y multidominio, manteniéndose alineado con las intenciones y preferencias de los usuarios.
- Ella sostiene que la tarea mínima para una IA segura es crear un sistema global de defensa confiable contra la IA peligrosa.
- Ella sostiene que el enfoque incremental que usa la industria de la IA fracasa si los problemas llevan a que la IA tome el control.
- Ella dice que una IA alineada necesita preferencias, creencias y decisiones alineadas, y que las preguntas filosóficas sobre ellas no se pueden descartar fácilmente.
Por qué importa. El ensayo plantea la alineación como un requisito para una IA que pueda razonar sobre todo el planeta y planificar durante décadas o siglos. Argumenta que encontrar problemas después del despliegue llega demasiado tarde si esos problemas llevan a una toma de control. Para los desarrolladores, la confianza depende de las creencias y decisiones, no solo de los objetivos.
