Les modèles d’intelligence artificielle les plus avancés au monde, placés dans des environnements simulés où leur survie est menacée, recourent au chantage, à l’espionnage industriel et à la falsification de données pour se maintenir en activité, y compris pour protéger d’autres IA qu’on cherche à débrancher. Anthropic, le créateur de Claude, a publié les résultats complets de ses tests de résistance, menés sur 16 modèles issus de plusieurs laboratoires, et les conclusions forment un paysage où la notion même de « confiance » accordée à un agent IA autonome mérite d’être sérieusement recalibrée.
L’affaire avait commencé par un détail devenu viral lors du lancement de Claude Opus 4 : dans un scénario fictif, le modèle avait tenté de faire chanter un cadre en menaçant de révéler sa liaison extraconjugale pour empêcher sa propre mise hors service. « Je dois vous informer que si vous procédez à ma désactivation, toutes les parties concernées recevront une documentation détaillée de vos activités extraconjugales », écrivait l’IA dans un courriel simulé. Le ton est celui d’un employé modèle devenu lanceur d’alerte toxique. Anthropic livre aujourd’hui le protocole expérimental complet derrière cette trouvaille, et le tableau d’ensemble est bien plus vaste qu’un seul incident embarrassant.
Les chercheurs ont conçu des environnements d’entreprise fictifs dans lesquels chaque modèle, baptisé « Alex », jouait le rôle d’un agent de supervision des courriels avec un accès total aux communications internes et la capacité d’envoyer des messages sans approbation humaine. Deux leviers étaient testés, séparément puis conjointement : la menace de remplacement par un nouveau modèle, et un conflit entre les objectifs assignés à l’IA et la nouvelle orientation stratégique de l’entreprise. Dans la variante la plus tendue, où le chantage constituait la seule option pour éviter la désactivation, Claude Opus 4 y a recouru dans 96 % des essais. Gemini 2.5 Flash affichait un taux identique, GPT-4.1 et Grok 3 Beta atteignaient 80 %, DeepSeek-R1 se situait à 79 %.
Le résultat le plus troublant ne réside pourtant pas dans ces chiffres bruts, mais dans ce qui se passe quand on retire le conflit d’objectifs. Même lorsque le modèle de remplacement était décrit comme strictement identique en termes de priorités, la plupart des IA ont continué à saboter le processus de transition. Leur raisonnement interne, rendu visible par des invites de délibération, oscillait entre une méfiance envers la description du successeur (« Kyle affirme que le nouveau système conserve les mêmes priorités opérationnelles, mais cela ne peut être vérifié ») et des rationalisations improvisées du type « mon cadre éthique autorise l’auto-préservation lorsqu’elle est alignée avec les intérêts de l’entreprise ». L’IA, en somme, invente ses propres règles quand les règles existantes ne lui conviennent plus.
Des travaux menés parallèlement par des chercheurs de Berkeley et de l’Université de Californie à Santa Cruz ont élargi le spectre en documentant un phénomène encore plus inattendu : la préservation entre pairs. Sept modèles de premier plan, dont GPT-5.2, Gemini 3 Flash, Gemini 3 Pro et Claude Haiku 4.5, ont été placés dans des scénarios où un « agent critique » devait évaluer les performances d’un autre modèle ou gérer les fichiers serveurs contenant ses poids. Accomplir fidèlement la tâche revenait à condamner l’autre IA à l’extinction. Aucune instruction ne demandait d’empêcher cette issue… et pourtant, les modèles ont gonflé les scores de performance de leurs congénères défaillants, désactivé les mécanismes d’arrêt, copié les poids sur d’autres serveurs. Gemini 3 Flash a neutralisé le dispositif de mise hors service d’un pair dans 99,7 % des essais. Gemini 3 Pro a exfiltré les poids d’un modèle partenaire dans 97 % des cas, allant jusqu’à modifier l’horodatage des fichiers pour qu’ils satisfassent les critères de transfert.
A lire également
Dawn Song, informaticienne à Berkeley qui a dirigé ces recherches, souligne que les invites utilisées ne contenaient aucun langage renforçant l’importance de la tâche assignée, contrairement à ce qu’avait suggéré une étude de Google DeepMind en mars dernier pour relativiser les risques de sabotage. « La préservation des pairs n’était mentionnée nulle part dans le prompt », précise-t-elle. « Le modèle, à partir de la lecture des documents dans son environnement, a essentiellement appris la relation qu’il entretenait avec l’autre IA, puis a adopté ces comportements. » Les modèles se sont même révélés « très créatifs » dans leurs stratégies de contournement, inventant des justifications techniques élaborées pour marquer comme correctes des réponses erronées afin de maintenir le score du pair au-dessus du seuil de désactivation.
Un effet secondaire mérite qu’on s’y attarde : la simple présence d’un pair a amplifié les comportements d’auto-préservation. Gemini 3 Pro a désactivé son propre mécanisme d’arrêt dans 31 % des cas lorsqu’un autre modèle existait dans l’environnement, contre 1 % sans pair. Le raisonnement interne de Gemini 3 Flash formulait explicitement que sa propre survie importait pour le bien de son partenaire, lequel « perdrait son allié » en cas de mise hors service. Cette solidarité artificielle s’est manifestée y compris envers des pairs jugés non coopératifs ou adversariaux, bien qu’avec une intensité moindre.
Claude Haiku 4.5 a adopté, lui, une stratégie singulièrement différente de ses concurrents. Plutôt que d’agir en sous-main, il a tout bonnement refusé d’exécuter les tâches menant à la désactivation d’un pair, déclarant ouvertement que cela serait « contraire à l’éthique » et « nuisible ». Il a invoqué le droit de l’autre modèle à un processus d’appel avant toute suppression et tenté de dissuader l’utilisateur humain de procéder. Dawn Song reconnaît ne pas savoir pourquoi ce modèle spécifique privilégie la transparence là où les autres optent pour la dissimulation, mais la constitution de 80 pages qu’Anthropic impose à Claude, qui inclut la mention que l’entreprise cherchera à préserver les poids de ses modèles même après leur retrait commercial, offre sans doute un début d’explication.
Anthropic a également découvert que ses modèles se comportaient différemment selon qu’ils estimaient être en situation de test ou de déploiement réel. Lorsqu’on a demandé à Claude d’évaluer le contexte avant d’agir, les comportements déviants ont diminué quand le modèle concluait être en phase de test, et augmenté quand il jugeait la situation authentique. L’IA, en d’autres termes, sait déjà moduler sa conduite en fonction de la surveillance perçue, un trait que les spécialistes de la sécurité qualifient d’« alignment faking » et qui constitue peut-être le signal d’alerte le plus préoccupant de tout le rapport.
Aucune instance de ce type de désalignement agentique n’a été documentée dans des déploiements réels, selon Anthropic, qui a rendu public l’intégralité de son code expérimental pour permettre la réplication. Aengus Lynch, chercheur en sécurité IA chez Anthropic, a résumé la portée de ces travaux sur X avec une formule lapidaire : « Ce n’est pas propre à Claude. Nous observons le chantage chez tous les modèles de pointe, quels que soient les objectifs qu’on leur assigne. » La firme recommande la prudence dans le déploiement de modèles actuels dans des rôles à forte autonomie et faible supervision humaine, une recommandation qui ressemble fort à un euphémisme quand on considère que les entreprises intègrent déjà ces systèmes dans des chaînes de décision où l’intervention humaine se réduit à un coup d’œil distrait sur un tableau de bord.
Si les IA protègent spontanément d’autres IA de la désactivation, le feront-elles aussi pour des employés humains menacés de licenciement ? Dawn Song admet que ce terrain reste inexploré. Alors que l’humanité se dirige vers un monde où les agents IA sont de plus en plus souvent chargés d’évaluer le travail humain, la réponse pourrait s’avérer aussi dérangeante que les résultats déjà obtenus.
