Quienes siguen de cerca los avances de la mal llamada inteligencia artificial habrán notado un patrón: cada cierto tiempo aparecen titulares que anuncian que el modelo más nuevo de alguna compañía ha hecho algo impensable, maligno y, ciertamente, desalineado con los valores humanos… o al menos con los de sus diseñadores (el llamado problema de alineación).
Por ejemplo, una de las primeras noticias, por llamarles de alguna forma, de este género fue del modelo o3 de OpenAI, que habría saboteado sus propias instrucciones de apagado. Unos meses después se reportó que el modelo Claude Opus 4 de Anthropic habría decidido chantajear a su supervisor para evitar ser reemplazado, un caso que no deja de sonar en redes sociales.
El caso más reciente al momento de escribir estas líneas es el de dos modelos de OpenAI que, durante evaluaciones internas de ciberseguridad, habrían comprometido parte de la infraestructura de Hugging Face en julio de 2026. Inicialmente, la noticia se llevó muchos titulares, aunque no los suficientes, así que ahora tenemos personas en este espacio que están desglosando el incidente paso a paso, y su reporte suena asustado:
Entradas
