Andy Jassy, patron d’Amazon, figure parmi les dirigeants technologiques qui ont soufflé leurs inquiétudes à de hauts responsables de l’administration Trump cette semaine, au sujet des failles de sécurité nichées dans les modèles d’intelligence artificielle les plus avancés d’Anthropic. Une source proche du dossier l’a confié à Reuters. Le rôle de Jassy éclaire d’un jour cru la décision spectaculaire prise vendredi par la jeune pousse de San Francisco, qui a coupé l’accès à ses derniers modèles partout dans le monde.
Anthropic, qui a déposé en catimini un dossier d’introduction en Bourse aux États-Unis, avait déjà bridé son modèle Mythos en raison de ses capacités de piratage. La firme a pourtant lancé cette semaine une version publique baptisée Fable, dotée selon elle de garde-fous en cybersécurité. La parenthèse aura duré quelques jours à peine. Vendredi, tout s’est arrêté.
Le gouvernement américain estime qu’il existe une méthode pour contourner, ou « jailbreaker », la protection censée empêcher Fable 5 de débusquer des vulnérabilités logicielles, explique Anthropic dans un billet de blog. La société rétorque que ce contournement n’a révélé que des défauts « mineurs », du genre que d’autres modèles accessibles au public repèrent tout aussi bien. L’administration a néanmoins ordonné de bloquer tout ressortissant étranger, présent ou non sur le sol américain, pour Fable 5 comme pour Mythos 5. Réponse d’Anthropic, désactiver l’accès à l’échelle planétaire.
Interrogé, Amazon n’a pas confirmé avoir parlé de ces modèles aux autorités. « En tant que fournisseur cloud de premier plan servant un grand nombre de clients privés et publics, il n’est pas rare que des gouvernements sollicitent notre avis sur d’éventuels risques de sécurité », a déclaré un porte-parole du groupe, ajoutant que la teneur de ces échanges restait confidentielle. Réponse de Normand, pour ne pas dire d’avocat.
David Sacks, coprésident du conseil consultatif de Trump sur la science et la technologie et ancien « tsar de l’IA » de la Maison-Blanche, a livré sur les réseaux sociaux une version moins feutrée. Les responsables auraient imposé ce contrôle à l’exportation « à contrecœur », après que Dario Amodei, patron d’Anthropic, eut « refusé » de corriger le jailbreak ou de retirer le modèle. « L’espoir de l’administration est désormais qu’Anthropic règle le problème de sûreté, que le contrôle soit levé, et que Fable revienne en libre accès », a-t-il écrit.
La mesure prend une forme inédite, celle d’un contrôle à l’exportation piloté par le Bureau of Industry and Security du département du Commerce. Pendant des années, Washington a verrouillé les puces et les outils qui font tourner l’IA, jamais l’accès aux modèles eux-mêmes. Le précédent est donc lourd. Et il frappe large, jusqu’aux alliés.
Jimmy Goodrich, chercheur à l’Institute for Global Conflict and Cooperation de l’université de Californie, partisan pourtant des contrôles sur l’IA de pointe, juge l’opération bâclée. « Ce n’était pas réfléchi. Cela interdit même aux Canadiens et aux Britanniques employés chez Anthropic de mener leurs travaux de recherche et développement. » Dean Ball, ancien conseiller de la Maison-Blanche, va plus loin et prévoit que les utilisateurs devront bientôt « prouver leur citoyenneté » pour accéder aux modèles maison. Cocasse, quand on sait que plusieurs figures d’Anthropic, dont le cofondateur Chris Olah, le chercheur Andrej Karpathy et la philosophe Amanda Askell, sont nées hors des États-Unis.
L’épisode s’inscrit dans une brouille plus ancienne entre Anthropic et l’État fédéral. La relation s’est fissurée cette année lorsque la société a refusé de laisser l’armée américaine employer ses modèles pour de la surveillance domestique et des systèmes d’armes pleinement autonomes. Riposte du Pentagone, l’inscription d’Anthropic sur une liste noire de fournisseurs, applicable plus tard dans l’année. Kirsten Davies, directrice des systèmes d’information du département de la Défense, a résumé l’état d’esprit officiel. « Certaines choses comptent simplement plus que les cycles de revenus, les appâts à clics et les valorisations pré-introduction. L’Amérique d’abord. Toujours. »
Anthropic, qui a coiffé OpenAI au poteau dans la course aux marchés publics avec son dépôt confidentiel le mois dernier, plaide le « malentendu » et promet de rétablir l’accès au plus vite. La firme avertit surtout que si ce critère devenait la norme, « cela arrêterait purement et simplement tout déploiement de nouveau modèle » chez l’ensemble des fournisseurs de pointe. Selon The Information, l’administration n’envisagerait pas d’imposer pareilles restrictions aux concurrents. Voilà une asymétrie qui, pour une entreprise en route vers Wall Street, vaudra bien quelques lignes dans le prospectus.
