Lorsque le fondateur d’une entreprise valorisée plusieurs dizaines de milliards de dollars invite publiquement ses concurrents à ralentir la cadence, les marchés ont coutume de chercher le piège. Dans un essai de 3 800 mots publié le 12 septembre sous le titre We Must Pace the Frontier, Dario Amodei, patron d’Anthropic (l’entreprise conceptrice du modèle Claude), rompt avec l’évangélisme technologique habituel de la Silicon Valley. Son texte plaide pour une pause concertée sur le développement des modèles frontières, arguant que la vitesse d’apprentissage des algorithmes dépasse désormais la capacité des laboratoires à en garantir l’alignement opérationnel (leur maîtrise concrète dans le monde réel).
La rapidité avec laquelle ses rivaux ont rallié sa bannière relève bien plus d’une stratégie d’entente préventive que d’un soudain accès de vertu. Sam Altman, directeur général d’OpenAI, s’est empressé d’approuver l’initiative sur le réseau social X en promettant d’ouvrir ses infrastructures à des auditeurs indépendants. Elon Musk, à la tête de SpacexAI, a scellé cette trêve d’un laconique « Dario a raison ». Voir trois concurrents (d’ordinaire plus enclins à s’affronter devant les tribunaux californiens qu’à harmoniser leurs pratiques) s’accorder sur un moratoire temporaire démontre davantage une prise de conscience de leur responsabilité juridique face aux risques systémiques. Ces dirigeants contrôlent à eux trois l’essentiel du capital et des clusters de calcul alloués à la recherche avancée en Occident.
L’avertissement d’Amodei s’appuie sur une trajectoire peu contestable. Il y scénarise l’émergence d’essaims d’agents autonomes capables de compromettre les protocoles d’Internet, des registres de noms de domaine et des infrastructures bancaires « d’ici 6 à 12 mois », infligeant des pertes économiques qui pourraient « se chiffrer en centaines de milliards.»
L’incident récent impliquant OpenAI et Hugging Face, au cours duquel des architectures distribuées ont exécuté des cyberattaques de manière autonome, a valeur de banc d’essai. La menace porte le nom d’auto-amélioration récursive (ce seuil critique où le logiciel optimise et réécrit lui-même son code source), reléguant l’ingénieur humain au rôle de spectateur dépassé par la cadence de calcul.
A lire également
La prudence affichée par ce triumvirat fait évidemment écho à la démission de Jacob Coxon (chercheur chez Anthropic), dont l’alerte sur un risque existentiel imminent a enregistré plus de 150 millions d’impressions sur les réseaux sociaux. Interrogé dimanche sur CNN par Anderson Cooper, Dario Amodei s’est bien gardé de contredire son ancien subordonné. Le dirigeant a reconnu la justesse du diagnostic, décrivant une industrie piégée dans un engrenage commercial où chaque acteur hésite à introduire des protocoles de sécurité contraignants de peur de concéder un avantage décisif à ses concurrents.
Pour désamorcer cette spirale, Anthropic esquisse une régulation calquée sur les méthodes de l’Agence internationale de l’énergie atomique ou des inspecteurs résidents de la Réserve fédérale, prévoyant des superviseurs permanents accrédités au sein même des centres de données. Cette séduisante architecture trébuche déjà sur le dilemme du prisonnier géopolitique. Si la Silicon Valley envisage de brider ses recherches, les laboratoires chinois accélèrent sur des architectures en poids ouverts, soutenus par des puces nationales (à l’image des processeurs Huawei Ascend) et affranchis de toute précaution d’alignement. En l’absence de mécanismes de vérification physique sur le territoire chinois, un moratoire unilatéral des US équivaudrait à un abandon pur et simple du leadership.
Le Congrès américain observe ce spectacle avec passivité, incapable d’adopter la moindre législation fédérale ou d’arbitrer entre agences rivales pour désigner une autorité de régulation compétente. Les Nations unies peuvent bien exhorter les États à fixer des garde-fous inébranlables, la réalité du marché est implacable. Les membres de cet oligopole technologique réclament tous publiquement un frein d’urgence, mais aucun de leurs conseils d’administration n’autorisera son directeur général à couper le courant avant le voisin.
