Modelos de IA abiertos: beneficios frente a riesgos
El debate sobre los modelos abiertos es más complicado de lo que parece.
Política#04
Política
Imagen: MIT Technology Review
En corto
- Anthropic publicó un informe que sostiene que GLM-5.3 supone un riesgo importante de ciberataques.
- El modelo fue lanzado en agosto por la empresa china Z.ai y cualquiera puede descargarlo y modificarlo gratis.
- Al momento de la publicación, los ocho primeros modelos del ranking Artificial Analysis LLM son cerrados, aunque los modelos abiertos solo están a unos meses de distancia.
- Los modelos abiertos permiten a los investigadores estudiar su funcionamiento interno, y las empresas pueden ejecutarlos en su propio hardware para proteger datos sensibles.
- Una vez que alguien descarga un modelo abierto, no hay ningún filtro que revise sus consultas ni forma de revocarle el acceso.
Por qué importa
Los modelos abiertos están en el centro del debate sobre quién controla la IA de frontera. Sus defensores dicen que reparten el poder más allá de unas pocas empresas, mientras que los críticos advierten que son más fáciles de usar mal. Cualquier política implica compensaciones entre seguridad y democratización.
“The clearest, biggest argument [for open models] is around preventing mass concentration of power—it is about making sure that this foundational technology is a public good,”