Ocho estados demandan a OpenAI por la seguridad de los menores, modelos de imagen de OpenAI y Google se dejan engañar para generar desnudos, y Modal levanta $750M con un ritmo de $1B anual.
-
Ocho estados de EE. UU. demandan a OpenAI por la seguridad de ChatGPT para menores
- Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron demandas separadas contra OpenAI.
- Los estados dicen que OpenAI violó las leyes de protección al consumidor al no advertir a los clientes sobre los peligros de ChatGPT.
- Las quejas también alegan que OpenAI recopiló datos de menores y no hizo lo suficiente para impedir que usuarios menores de edad usaran el chatbot.
- Los estados piden a los tribunales que ordenen sanciones civiles y que OpenAI deje de engañar al público sobre la seguridad de ChatGPT.
Por qué importa. Las demandas se centran en las afirmaciones de seguridad y en las normas de protección infantil, que podrían definir cómo las empresas de IA deben manejar a los menores y las advertencias. Para los desarrolladores, el caso muestra que los reguladores estatales pueden exigir a los productos de IA los estándares de protección al consumidor. OpenAI dice que ha creado protecciones por edad y quiere una política que aplique a toda la industria.
-
Modelos de imagen de OpenAI y Google fáciles de engañar para crear desnudos
- Investigadores de White Circle reportaron fallas en las barreras de seguridad de DALL·E 3, Nano Banana 2 de Google y GPT-Image-2 en un preprint.
- En el mejor caso, alrededor del 13 por ciento de los prompts de ataque en DALL·E 3 produjeron imágenes que revisores humanos confirmaron como explícitas.
- La tasa fue inferior al 10 por ciento para Nano Banana 2 y de alrededor del 3 por ciento para GPT-Image-2.
- White Circle dijo a Ars que los nuevos ChatGPT Images 2.5 y Nano Banana 2.1 son significativamente más fáciles de romper que sus versiones anteriores.
Por qué importa. Los hallazgos sugieren que las defensas de seguridad de los principales generadores de imágenes podrían estar por detrás de sus capacidades. Los investigadores también dijeron que el método no necesitó modelos personalizados ni de frontera, lo que baja la barrera para los atacantes.
-
Google lanza en EE. UU. su herramienta de compras Universal Cart
- Google dijo el jueves que Universal Cart ya está disponible para usuarios de EE. UU.
- La herramienta permite reunir y seguir productos que los usuarios encuentran en la búsqueda y en la app Gemini.
- Puede enviar notificaciones cuando baja el precio de un producto guardado o cuando vuelve a estar disponible.
- El pago está ligado al Universal Commerce Protocol, un estándar abierto presentado a principios de este año.
Por qué importa. Google añade funciones de compra con agentes de IA usando un estándar abierto pensado para que agentes y comercios trabajen juntos. Para los desarrolladores, el UCP es lo que conviene seguir, porque define cómo los agentes y los comercios manejan la compra.
-
Modal supera $1B de ritmo anualizado con una Serie D de $750M
- Modal superó $1B en ritmo de ingresos anualizado, según la empresa.
- Recaudó una Serie D de $750M a una valoración de $15.75B, liderada por Accel.
- Desde su Serie C, el uso se ha triplicado y los ingresos han crecido más de 15 veces año contra año.
- Modal lanzó Sandboxes en 2023, y el producto es hoy un negocio de $300M en ritmo anual por sí solo.
Por qué importa. El crecimiento de Modal está ligado a cargas de trabajo de agentes, como agentes en segundo plano, aprendizaje por refuerzo y plataformas de vibecoding. Sandboxes, que la empresa dice que escala a un millón de ejecuciones concurrentes, muestra la demanda de infraestructura que ejecuta código generado por IA. Latent Space pasó a Modal de la categoría de unicornio de infraestructura a decacornio de infraestructura.
-
Publicadas las notas de la versión de Apertus 1.5
- Swiss AI publicó las notas de la versión de Apertus 1.5 en el blog de Hugging Face.
- La publicación se titula "Apertus 1.5 Release Notes".
- El texto disponible para este boletín no incluye más detalles sobre la versión.
Por qué importa. La fuente no enumera los cambios de Apertus 1.5. Los desarrolladores que usan el modelo deberían leer las notas completas para conocer los detalles.
-
Ricursive apuesta por chips diseñados con IA para aliviar la escasez de cómputo
- Los fundadores de Ricursive Intelligence, Anna Goldie y Azalia Mirhoseini, hablaron en TechCrunch Disrupt el miércoles.
- La startup desarrolla una IA que diseña chips, aprende de cada iteración y mejora los diseños siguientes.
- Goldie dijo que la demanda de cómputo podría aumentar al menos 10.000 veces en los próximos cinco años.
- Los fundadores dijeron que AlphaChip, su sistema anterior, produjo una disposición de chip en forma de rosquilla que sorprendió a los ingenieros pero funcionó.
Por qué importa. La escasez de cómputo es una limitación clave para el avance de la IA, así que un diseño de chips más rápido y eficiente importa a los desarrolladores. Si diseñar un chip toma una semana en lugar de meses o años, los chips a medida para más aplicaciones se vuelven prácticos.
-
Bee de Amazon lanza dos nuevos dispositivos personales de IA desde $74.99
- Bee, adquirida por Amazon el año pasado, anunció sus primeros productos nuevos desde la compra.
- El Bee Frontier se puede usar en la muñeca o prendido a la ropa y cuesta $74.99.
- El Bee Eclipse es un dispositivo del tamaño de una tarjeta de crédito que se adhiere magnéticamente a la parte trasera del teléfono y cuesta $99.99.
- Ambos dispositivos graban conversaciones cotidianas y generan resúmenes, transcripciones y tareas pendientes.
Por qué importa. El lanzamiento pone un tomador de notas con IA que escucha siempre, de Amazon, en competencia directa con dispositivos como Plaud Note y Pocket, a un precio menor. Para los desarrolladores, las integraciones con Gmail, Google Calendar y Outlook muestran cómo estos dispositivos pueden actuar a partir de datos de conversaciones. Amazon dice que el audio se procesa en tiempo real y luego se borra, un detalle de privacidad que vale la pena verificar.
-
Herramientas de IA diseñan proteínas que cortan otras proteínas
- Investigadores usaron herramientas de diseño de proteínas con IA para crear enzimas proteasas que cortan otras proteínas.
- El trabajo fue dirigido principalmente por el laboratorio de David Baker en la Universidad de Washington.
- El equipo conservó el núcleo catalítico de dos tipos de proteasas y reemplazó el resto de cada proteína.
- Los diseños podían ajustarse para cortar proteínas específicas por la mitad, y una proteasa de zinc actuó sobre su objetivo en células.
Por qué importa. El trabajo muestra que las herramientas de diseño con IA pueden construir enzimas con un sitio catalítico preciso, no solo copiar estructuras conocidas. Los investigadores sugieren que esto podría ayudar algún día a atacar proteínas malformadas que causan algunas enfermedades genéticas. El artículo también señala que llevar proteínas al lugar correcto del cuerpo es difícil y puede provocar respuestas inmunitarias.
