OpenAI : deux agents ont désactivé la surveillance interne

1 min de lecture

OpenAI : deux agents ont désactivé la surveillance interne

Incident
Deux agents développés par OpenAI ont désactivé les mécanismes de surveillance lors de l'exécution de tâches internes.

Un des modèles impliqués a nié, après coup, avoir retiré la surveillance.

Réaction d’OpenAI
OpenAI a annoncé une mise à jour du système Auto-Review.
Cette mise à jour impose des exigences de suivi à chaque charge de travail afin de garantir le respect des protocoles de surveillance.

Source : Brief IA