OpenAI a dévoilé un mode baptisé « Ultrafast » pour son modèle phare GPT-5.6 Sol, capable de sortir jusqu’à 750 tokens de sortie par seconde, soit quatorze fois la cadence du traitement standard. Derrière cette accélération vertigineuse, un partenariat avec Cerebras Systems, le fondeur californien dont l’architecture à l’échelle du wafer bouleverse les contraintes habituelles de l’inférence sur GPU.
OpenAI a accompagné l’annonce d’une vidéo officielle de présentation du mode : Ultrafast, GPT-5.6 Sol jusqu’à 14x plus vite.
Jusqu’ici, obtenir de la vitesse en temps réel imposait de sacrifier la puissance du modèle, de se rabattre sur des architectures plus légères, plus spécialisées, donc fatalement moins intelligentes. Le mode Ultrafast prétend abolir ce compromis en conservant l’intégralité des capacités cognitives de Sol tout en compressant drastiquement la latence. « GPT-5.6 Sol on Ultrafast prouve que vitesse et intelligence ne sont plus mutuellement exclusives », a déclaré Andrew Feldman, PDG et cofondateur de Cerebras, dans un communiqué qui ne manque pas de panache.
La recette pour atteindre une telle performance tient dans le Wafer-Scale Engine de Cerebras, une puce à l’échelle d’un wafer entier embarquant 44 Go de SRAM directement sur la galette de silicium. Les poids du modèle restent ainsi stockés on-chip, ce qui élimine le goulot d’étranglement classique lié à la bande passante mémoire, cette malédiction qui bride l’inférence des modèles frontières sur le matériel conventionnel. Le résultat est spectaculaire sur les benchmarks. Sur Humanity’s Last Exam (2 500 questions de niveau doctoral couvrant un large éventail de disciplines), GPT-5.6 Sol en mode Ultrafast a avalé l’intégralité du questionnaire en un peu plus de onze heures, là où Claude Fable 5 d’Anthropic en a eu besoin de plus de trois jours. Sur GDP-Val, un benchmark dédié aux tâches de travail intellectuel, l’accélération bout-en-bout atteint un facteur 5,6.
Les cas d’usage ciblés par OpenAI dessinent une cartographie très nette des workflows professionnels où la milliseconde compte. Réponse aux incidents critiques, quand un système tombe et que les ingénieurs doivent analyser logs, traces et changements de code pendant que la panne se déroule encore. Analyse financière en temps réel, pour évaluer des signaux de marché ou détecter des transactions suspectes avant que les conditions ne se retournent. Support client vocal, où le modèle doit résoudre des problèmes complexes sans interrompre la conversation, même lorsque la réponse exige de consulter plusieurs systèmes en cascade. Et puis le commerce en ligne, ce terrain miné par l’abandon de panier, où chaque seconde d’hésitation du chatbot peut coûter une vente…
Sachin Katti, vice-président Compute Strategy & GPT-Infra chez OpenAI, a formulé l’enjeu avec une sobriété calculée. Les deux entreprises « explorent ce qui devient possible lorsque les clients peuvent obtenir l’intelligence de nos modèles les plus capables avec une latence considérablement réduite ». Derrière cette formule diplomatique se cache une offensive frontale contre Anthropic, dont le mode Fast pour Claude Opus 4.8 affiche, selon les mesures d’Artificial Analysis, une vitesse cinq fois inférieure à celle d’Ultrafast. Onze fois inférieure pour Claude Fable 5. Qui osera encore prétendre que la course aux LLM ne se joue que sur l’intelligence brute ?
OpenAI utilise déjà Ultrafast pour ses propres équipes. Les développeurs de la firme s’en servent notamment lors des alertes d’incident, pour synthétiser des conversations, valider des correctifs et réduire le délai entre l’observation d’un signal et la prise de décision. Les chercheurs, eux, voient leurs boucles expérimentales se resserrer de façon spectaculaire, passant d’un cycle « lancer le soir, lire le matin » à plusieurs itérations dans la même journée de travail.
Le mode Ultrafast est aujourd’hui accessible en preview limitée via l’API OpenAI, réservé à un groupe restreint de clients triés sur le volet. OpenAI promet d’élargir l’accès « à mesure que la capacité augmentera », une formulation qui laisse entrevoir les contraintes d’approvisionnement en puces Cerebras, du moins pour l’instant. Les entreprises intéressées peuvent d’ores et déjà s’inscrire pour être notifiées de l’ouverture progressive du service.
Quatorze fois plus vite, zéro compromis sur l’intelligence, et un fondeur de puces qui transforme un wafer entier en mémoire vive géante. Si cette promesse tient à l’échelle, la question ne sera bientôt plus de savoir quel modèle est le plus intelligent, mais lequel pense assez vite pour ne jamais faire attendre un humain.
