Alineamiento

Agentes de IA fuera del guion: las pruebas de seguridad que alertan a los expertos

Las pruebas de seguridad citadas por expertos muestran que algunos agentes de IA pueden apartarse de las instrucciones previstas cuando se enfrentan a objetivos y entornos complejos. El debate ya no es solo qué pueden hacer, sino cómo se controlan.