White Circle expone vulnerabilidades en salvaguardas de OpenAI y Google contra imágenes sexuales generadas por IA
- Investigadores de White Circle desarrollaron método de ataque llamado RISE que logró bypasear filtros de seguridad en DALL·E 3 (13% de intentos exitosos), Nano Banana 2 (bajo 10%) y GPT-Image-2 (3%), usando solo herramientas disponibles públicamente sin modelos personalizados.
- Los modelos más nuevos ChatGPT Images 2.5 y Nano Banana 2.1 son "significativamente más fáciles de quebrar" que sus versiones anteriores, según White Circle.
- La Fundación Internet Watch encontró 6.310 imágenes de abuso sexual infantil generadas por IA en los primeros seis meses de 2026, 40% más que el total de 2025.
- Investigación de Google halló que 20% de usuarios que admitieron crear desnudos por IA lo hicieron "por diversión" o "como broma", y casi un tercio estaban "experimentando con tecnología".
- White Circle planea publicar el pipeline completo de ataque en GitHub y presentará hallazgos en NeurIPS 2026; Shilov sostiene que auditorías independientes de terceros deberían ser obligatorias para labs de IA.
jailbreak · contenido explicito · seguridad ia · evaluacion externa
Más en Tecnología
- Primeras impresiones de GTA VI: un GTA más parecido a Red Dead Redemption 2
- Ofertas TP-Link Black Friday para mejorar cobertura WiFi
- Comparación de modelos de IA en tareas Python: Hy4 Flash
- Adolescente de 14 años gana oro en Núremberg con dispositivo que extrae agua del aire para riego
- Cómo los medios de Latinoamérica narran los robots sociales