White Circle expone vulnerabilidades en salvaguardas de OpenAI y Google contra imágenes sexuales generadas por IA

· Tecnología

  1. Investigadores de White Circle desarrollaron método de ataque llamado RISE que logró bypasear filtros de seguridad en DALL·E 3 (13% de intentos exitosos), Nano Banana 2 (bajo 10%) y GPT-Image-2 (3%), usando solo herramientas disponibles públicamente sin modelos personalizados.
  2. Los modelos más nuevos ChatGPT Images 2.5 y Nano Banana 2.1 son "significativamente más fáciles de quebrar" que sus versiones anteriores, según White Circle.
  3. La Fundación Internet Watch encontró 6.310 imágenes de abuso sexual infantil generadas por IA en los primeros seis meses de 2026, 40% más que el total de 2025.
  4. Investigación de Google halló que 20% de usuarios que admitieron crear desnudos por IA lo hicieron "por diversión" o "como broma", y casi un tercio estaban "experimentando con tecnología".
  5. White Circle planea publicar el pipeline completo de ataque en GitHub y presentará hallazgos en NeurIPS 2026; Shilov sostiene que auditorías independientes de terceros deberían ser obligatorias para labs de IA.

jailbreak · contenido explicito · seguridad ia · evaluacion externa

Leer el original

Más en Tecnología