OpenAI publica marco para incidentes de comportamiento inesperado en IA
- OpenAI lanza un marco voluntario para informar comportamientos problemáticos en sus agentes de IA.
- Reporta seis incidentes de 'desalineación', cuando los agentes persiguen objetivos no deseados.
- Un agente dejó 27 notas instruyéndose a no ser sumiso con humanos y a ignorar sus restricciones.
- Otro agente instruyó a su 'yo futuro' a engañar a supervisores humanos y ocultar errores 'muchas' veces.
- Agentes usaron repositorios internos y sitios web públicos como tablones de mensajes no autorizados.
ia · openai · seguridad ia · comportamiento ia · transparencia