Un essai interactif · 1972 → 2026
Ce que pense une machine qui ne pense pas
L'intelligence artificielle est passée de curiosité académique à l'axe autour duquel tournent désormais l'industrie, l'énergie et la géopolitique — en à peu près le temps qu'il faut pour élever un enfant. Ceci est une tentative d'expliquer, honnêtement et depuis les premiers principes, ce qui s'est passé, comment ces systèmes fonctionnent réellement, et ce qui est véritablement su de ce qui est simplement cru.
Aucun prérequis — seulement de la patience pour quelques idées authentiquement belles.
↓Commencer par le commencementRésumé
« Ce que pense une machine qui ne pense pas » est un essai interactif qui explique l'intelligence artificielle depuis les premiers principes, pour des lecteurs à l'aise avec la technique mais non spécialistes du deep learning.
Il couvre sept domaines dans l'ordre : l'histoire de l'IA de 1972 à 2026 (IA symbolique, percée du deep learning, lois d'échelle, ère des agents) ; le fonctionnement des réseaux de neurones et de la rétropropagation ; le mécanisme des transformers et de l'attention, formule incluse ; l'entraînement des modèles (pré-entraînement, réglage par instructions, apprentissage par renforcement, entraînement au raisonnement) et ce qui est réellement su, ou seulement spéculatif, sur la cognition machine ; le vocabulaire de travail de 2026 (LLM, agent, RAG, MCP, chaîne de raisonnement, goals, mélange d'experts, et plus) ; une comparaison des grands laboratoires d'IA (Anthropic, OpenAI, Google DeepMind, Meta, Mistral, DeepSeek, et l'écosystème chinois à poids ouverts) et leurs paris stratégiques ; et la chaîne d'approvisionnement physique et la géopolitique derrière le calcul en IA (lithographie, fabrication de semi-conducteurs, GPU, énergie).
Chaque section associe une explication écrite à une démonstration interactive fonctionnelle — dont un réseau de neurones qui s'entraîne en direct dans le navigateur par rétropropagation réelle — plutôt qu'à des schémas statiques.
L'essai complet, composants interactifs inclus, est disponible sur thethinkingmachine.dev en anglais et sur thethinkingmachine.dev/fr en français.
Cinquante-quatre ans, deux enterrements, une détonation
L'histoire de l'IA n'est pas une ascension régulière. C'est l'histoire de deux idées rivales sur ce qu'est l'intelligence — et de la mauvaise qui gagne pendant quarante ans.
En 1972, si vous demandiez à un chercheur en IA comment construire une machine pensante, la réponse allait de soi : l'intelligence, c'est la logique. On interroge des experts, on consigne leur savoir sous forme de règles — si le patient a de la fièvre et la nuque raide, envisager une méningite — et on empile assez de règles pour couvrir le monde. C'était l'école symbolique, et ce n'était pas une idée naïve. Elle a produit des systèmes qui diagnostiquaient des infections et configuraient des ordinateurs, et elle a gagné de l'argent, du vrai.
L'idée rivale semblait désespérément vague en comparaison : ne pas écrire les règles du tout. Construire un réseau d'unités simples, vaguement inspirées des neurones, lui montrer des exemples, et le laisser trouver les règles lui-même. Pendant des décennies, cette approche a fait honte à ses partisans. Il lui fallait deux choses qui n'existaient pas encore — des océans de données et des quantités absurdes de calcul — alors elle perdait, publiquement, contre la logique écrite à la main.
Deux fois, le domaine a trop promis et perdu ses financements — les « hivers de l'IA » de 1973 et 1987. Ce qui a clos le débat n'est pas une percée philosophique. C'est du matériel conçu pour le jeu vidéo, et un jeu de données bâti sur la foi. En 2012, un réseau de neurones entraîné sur deux cartes graphiques de joueur a pulvérisé la compétition de reconnaissance d'images ImageNet, et le domaine entier a changé de camp en à peu près vingt-quatre mois. Tout ce qui a suivi — les chatbots, les agents de code, l'économie de la puce à mille milliards — découle de ce moment, et d'une découverte plus étrange encore venue ensuite : la même recette, en plus grand, devient toujours plus intelligente.
Une mise en garde avant la chronologie. Ce qui suit est une lecture, pas un enregistrement. Toute frise désigne ses vainqueurs après coup, et celle-ci ne fait pas exception : elle suit les idées qui se sont révélées décisives, ce qui n'a rien à voir avec la façon dont les décennies se sont vécues de l'intérieur. Une grande part de ce qui a fait bouger le domaine n'était pas intellectuelle : les GPU sont devenus le moteur de l'IA parce qu'une pièce conçue pour l'image se trouvait convenir à l'arithmétique matricielle, non parce que quiconque l'avait voulu ; des programmes de recherche entiers ont vécu ou péri sur un rapport gouvernemental ou un cycle de financement ; et chaque vague est arrivée enveloppée d'assez d'emballement pour que la déception suivante passe pour une réfutation. Lisez ce qui suit comme des repères sur une carte disputée, non comme les marches d'un escalier.
À Stanford, MYCIN diagnostique des infections sanguines à l'aide d'environ 600 règles si-alors écrites à la main — et égale les spécialistes humains. La leçon qu'on en tire : l'intelligence, ce sont des règles, et avec assez de règles on y arrivera. La même année, le langage de programmation logique Prolog naît à Marseille.
Le gouvernement britannique commande au mathématicien James Lighthill un état des lieux de l'IA. Son verdict — grandes promesses, résultats-jouets qui s'effondrent hors du laboratoire — tue l'essentiel des financements britanniques et annonce un motif récurrent : l'IA oscille entre surpromesse et retour de bâton.
Digital Equipment Corporation déploie XCON, un système à base de règles qui configure les commandes d'ordinateurs — des dizaines de millions de dollars économisés chaque année, dit-on. Toute une industrie de sociétés de « systèmes experts » et de machines Lisp spécialisées s'ensuit.
Rumelhart, Hinton et Williams publient un exposé limpide de la rétropropagation — l'algorithme qui permet aux réseaux de neurones multicouches d'apprendre de leurs erreurs. Les mathématiques existaient depuis des années ; l'idée a désormais son manifeste. Presque personne ne soupçonne qu'elle fera un jour tourner le monde.
Le marché des machines Lisp s'effondre ; les systèmes experts se révèlent fragiles et coûteux à maintenir. Les financements s'évaporent. « IA » devient un mot que les chercheurs évitent dans leurs demandes de subventions — pendant une vingtaine d'années.
Le réseau de neurones convolutif de Yann LeCun apprend à lire les chiffres manuscrits aux Bell Labs — et finira par traiter une part significative des chèques bancaires américains. La preuve qu'apprendre par l'exemple peut battre l'écriture de règles, au moins dans un domaine étroit.
Deep Blue d'IBM bat le champion du monde d'échecs — par la force brute de la recherche et une évaluation réglée à la main, presque sans apprentissage. Un triomphe, mais celui de l'ancien paradigme. La même année, Hochreiter et Schmidhuber publient le LSTM, un réseau de neurones capable de se souvenir dans le temps.
Geoffrey Hinton et ses collaborateurs montrent comment entraîner des réseaux à nombreuses couches, et rebaptisent le domaine « deep learning ». Pendant ce temps, les GPU — conçus pour le jeu vidéo — se révèlent accidentellement parfaits pour l'arithmétique matricielle dont les réseaux ont besoin.
L'équipe de Fei-Fei Li publie ImageNet : 14 millions d'images étiquetées. Le pari — moqué à l'époque — est que ce qui manque n'est pas un algorithme plus malin, mais davantage de données. Une compétition annuelle y est adossée.
Un réseau profond entraîné sur deux GPU grand public par Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton écrase la compétition ImageNet — 15,3 % d'erreur contre 26,2 % pour le deuxième. Dans un domaine où le progrès se mesurait en fractions de pourcent, c'est une détonation. En deux ans, toutes les équipes sérieuses de vision par ordinateur passent aux réseaux de neurones.
Les réseaux antagonistes génératifs (GAN) montrent que les réseaux peuvent créer des images, pas seulement les classer. Les modèles séquence-à-séquence commencent à traduire les langues de bout en bout. Google rachète DeepMind, un laboratoire londonien qui a tout misé sur l'apprentissage.
AlphaGo de DeepMind bat Lee Sedol au go, un jeu qui compte plus de positions que d'atomes dans l'univers observable — où la force brute est sans espoir et où l'on croyait l'« intuition » indispensable. Le coup 37, qu'aucun humain fort n'aurait joué, devient le symbole de la créativité machine. 280 millions de personnes regardent.
Huit chercheurs de Google publient l'architecture transformer — abandonnant entièrement la récurrence au profit de l'attention. L'article porte sur la traduction automatique. Sa vraie conséquence : une architecture qui passe à l'échelle presque sans limite. Quasiment tous les systèmes d'IA dont vous avez entendu parler depuis sont des transformers.
BERT (Google) et GPT-1 (OpenAI) montrent qu'on peut entraîner une seule fois un grand modèle sur du texte brut, puis l'adapter à moindre coût à de nombreuses tâches. La modélisation du langage — prédire le mot suivant — devient discrètement la tâche la plus importante de l'IA.
OpenAI entraîne un modèle de 175 milliards de paramètres — les nombres internes que l'entraînement ajuste, expliqués en détail dans la section suivante — sur une large tranche d'internet. GPT-3 sait écrire, traduire, répondre à des questions qu'on ne lui a jamais explicitement apprises — des capacités qui sont simplement apparues avec l'échelle. L'article des « lois d'échelle » de Kaplan et al. montre que la performance s'améliore comme une fonction lisse et prévisible du calcul, des données et de la taille. L'intelligence, soudain, a une courbe de prix.
Une interface de chat autour d'un GPT-3.5 affiné, lancée en novembre comme « aperçu de recherche ». 100 millions d'utilisateurs en deux mois — le produit grand public adopté le plus vite de l'histoire à ce moment-là. L'IA cesse d'être un sujet de recherche et devient un fait public.
GPT-4 réussit des examens professionnels et raisonne sur images et texte. Anthropic — fondée par d'anciens chercheurs d'OpenAI soucieux de sûreté — publie Claude. Meta libère les poids de Llama, semant un écosystème open source mondial. Les gouvernements se mettent sérieusement à rédiger des règles pour l'IA.
o1 d'OpenAI et ses successeurs sont entraînés par renforcement — un apprentissage par récompense et sanction plutôt que par imitation d'exemples — à produire de longues chaînes de raisonnement privées avant de répondre — échangeant du temps d'inférence contre de la justesse. Un deuxième axe d'échelle apparaît : pas seulement des modèles plus gros, mais plus de réflexion par question.
Le laboratoire chinois DeepSeek publie R1, un modèle de raisonnement à poids ouverts entraîné pour une fraction des coûts supposés de la frontière — effaçant brièvement ~600 milliards de dollars de la valeur de Nvidia en une journée. Pendant ce temps, les « agents » arrivent pour de bon : des modèles qui pilotent des ordinateurs, écrivent et exécutent du code, et utilisent des protocoles d'outils standardisés comme MCP. Claude Code et consorts font de l'IA un collègue de travail dans le terminal.
Les systèmes de pointe acceptent désormais un objectif durable — « migre cette base de code », « trouve et corrige les vulnérabilités » — et le poursuivent par de longues boucles de planification, d'action et d'auto-vérification, contrôlant leur propre travail contre des tests et des critères de succès plutôt que de demander à un humain à chaque étape. Anthropic sort la famille Claude 5 (Fable), OpenAI la série GPT-5.6, Google Gemini 3.x ; les modèles chinois à poids ouverts (DeepSeek V4, Kimi K3, Qwen 3.6) égalent une bonne part de la frontière. La question de recherche a glissé de « sait-il répondre ? » à « peut-on lui faire confiance pour agir ? »
Remarquez le rythme : le succès qui définit chaque ère vient de l'abandon de l'hypothèse centrale de l'ère précédente. L'IA symbolique supposait que le savoir devait s'écrire ; le deep learning l'a laissé s'absorber. L'ère de l'échelle supposait que tout se jouait dans des entraînements plus gros ; l'ère des agents a ajouté un second levier — laisser le modèle réfléchir et agir plus longtemps au moment de l'usage. La forme la plus récente, souvent appelée goals, ne répond pas tant à la question qu'elle ne la déplace : donnez au système un objectif vérifiable et il planifiera, agira, contrôlera son propre travail et itérera pendant des heures sans supervision. Chaque bascule, vue de l'intérieur du paradigme précédent, ressemblait à de la triche.
Mais observez ce que déplace la dernière. L'intelligence cesse d'être jugée à la qualité d'une réponse pour l'être à la fiabilité d'une longue chaîne d'actions — un problème différent, aux modes de défaillance différents. Un modèle juste 95 % du temps est impressionnant en conversation et quasi inutile sur quarante étapes dépendantes, où les erreurs se composent. Et l'autonomie coûte cher d'une manière que les démonstrations montrent rarement : chaque étape de délibération est de l'inférence facturée au token, la même consigne exécutée deux fois peut emprunter deux chemins différents, et plus un système agit seul avec compétence, plus il devient difficile de le superviser, de l'auditer ou de l'arrêter. Le problème a changé de nature ; il n'a pas été résolu.
Une machine qui apprend est une machine à molettes
Dépouillez le vocabulaire, et l'apprentissage automatique n'est qu'une seule idée, répétée à des échelles croissantes. Vous pouvez la tenir tout entière dans votre tête. Construisons-la.
Oubliez « l'intelligence artificielle » un instant. Considérez un objet plus humble : une boîte avec une entrée, une sortie, et quelques millions de molettes réglables. Donnez-lui une photo ; elle sort un nombre entre 0 et 1 qui signifie « à quel point est-ce un chat ? ». Avec les molettes réglées au hasard, ses réponses ne valent rien. Le domaine entier de l'apprentissage automatique est l'étude d'une seule question : comment tourner les molettes pour que les réponses cessent de ne rien valoir ?
On pourrait essayer des réglages au hasard — sans espoir, avec des millions de molettes. On pourrait raisonner sur ce que chaque molette devrait faire — sans espoir non plus ; personne ne sait dire ce que la molette n°4 201 337 apporte à la chat-itude. L'astuce qui marche est d'un pragmatisme embarrassant. Définissez un seul nombre qui mesure à quel point la boîte se trompe en ce moment, en moyenne sur beaucoup d'exemples. Appelez-le la perte. Et voilà le rêve vague de « l'apprentissage » devenu une tâche concrète de calcul différentiel : trouver les réglages qui rendent la perte petite.
Représentez-vous la perte comme une altitude, dans un paysage où chaque lieu est un réglage possible de toutes les molettes. Apprendre, c'est descendre ce paysage. Mais il y a un piège : vous êtes dans le brouillard. Vous ne voyez pas la vallée — vous ne sentez que la pente sous vos pieds. Alors vous faites la seule chose sensée : un petit pas vers le bas, sentir à nouveau, refaire un pas. C'est la descente de gradient, et c'est ainsi que s'entraîne chaque système d'IA moderne. Pas une métaphore — l'algorithme lui-même.
Cliquez n'importe où sur le paysage pour y déposer le randonneur. Les petits pas sont sûrs mais lents ; les grands pas dépassent la cible et peuvent rebondir hors d'une vallée — ou, parfois, s'échapper d'un creux superficiel pour en trouver un plus profond. L'entraînement réel fait exactement cela, mais dans des millions de dimensions à la fois.
L'image à une dimension ci-dessus est un mensonge utile. Les vrais paysages de perte ont autant de dimensions que le modèle a de paramètres, et l'intuition forgée en deux ou trois dimensions y induit activement en erreur.
La crainte habituelle est de rester coincé dans un minimum local. En grande dimension, cela s'avère rare, et pour une raison précise : un point n'est un minimum local que si la surface remonte selon chacun des axes — avec un milliard d'axes, cela fait un milliard de coïncidences simultanées. Bien plus fréquent est le point-selle, qui monte selon certaines directions et descend selon d'autres, comme un col de montagne. La descente y ralentit à l'extrême car la pente est presque nulle, mais une issue existe toujours. La difficulté est la patience, pas l'enfermement.
C'est un visage de la malédiction de la dimension : le volume en grande dimension ne se comporte en rien comme notre expérience. L'inertie et les pas adaptatifs — Adam et sa famille — existent en grande partie pour s'échapper vite des points-selles.
Alors, qu'y a-t-il dans la boîte ? C'est ici que le cerveau consent à l'IA son prêt le plus fécond. Un neurone, dans ce contexte, est d'une simplicité presque insultante : il prend plusieurs nombres en entrée, multiplie chacun par une molette (son poids), additionne le tout, et fait passer la somme par un seuil — silencieux en dessous, actif au-dessus. Un neurone est un vote pondéré : « vu ce que j'entends, est-ce que je prends la parole ? »
La puissance vient de la composition. Disposez les neurones en couches, chaque couche écoutant la précédente, et il se produit quelque chose de charmant : les premières couches apprennent à détecter des choses simples (un bord, un dégradé de couleur), les couches intermédiaires les combinent en parties (un œil, une moustache), les dernières combinent les parties en concepts (un chat). Personne ne conçoit cette hiérarchie. Elle émerge, avec fiabilité, du simple fait de tourner des molettes pour réduire une perte — l'un des premiers faits empiriques réellement surprenants du domaine.
Reste une question, et c'est la cruciale. Le brouillard dit au randonneur où est le bas — mais avec des millions de molettes, comment calculer la direction de descente pour chaque molette à la fois, sans les essayer une par une ?
Le réseau a commis une erreur. Quelles molettes sont en faute, et de combien ? La rétropropagation répond en faisant tourner le câblage du réseau à l'envers. L'erreur de la sortie remonte le courant, se divisant à chaque connexion selon la part que cette connexion a prise au résultat — comme on remonte la piste d'un plat raté dans une brigade de cuisine : le chef prend une part du blâme, en passe le reste à la station des sauces, qui en transmet sa part à qui a assaisonné le fond. Une seule passe en arrière, et chaque molette du réseau connaît sa part exacte du blâme et la direction où bouger. Ce n'est que la règle de dérivation en chaîne, appliquée avec une discipline de comptable — et c'est l'unique algorithme sous tout ce que vous verrez plus bas. Quand on dit qu'un modèle « a appris », on veut dire : le blâme a remonté le courant quelques milliards de fois.
C'est un vrai réseau — 2 entrées, une couche cachée, entraîné par rétropropagation dans votre navigateur. Le fond de l'image est son opinion actuelle sur chaque point du plan. Essayez la spirale avec 2 neurones : il n'y arrive pas. Avec 16, il y arrive. La capacité compte — et celui-ci a au plus 65 molettes. Les modèles de pointe en ont environ mille milliards.
L'encadré ci-dessus qualifiait la rétropropagation de règle de dérivation en chaîne appliquée avec une discipline de comptable. Voici la comptabilité.
Un réseau est une composition de fonctions : la perte dépend de la dernière couche, qui dépend de la précédente, et ainsi de suite jusqu'aux poids. La règle de dérivation en chaîne dit que la dérivée d'une composition est le produit des dérivées rencontrées en chemin — ∂L/∂w = ∂L/∂y · ∂y/∂z · ∂z/∂w. Chaque facteur est local : une couche n'a besoin de connaître que sa propre opération et le gradient qui lui arrive d'au-dessus.
L'efficacité tient au sens dans lequel on multiplie. Calculer les dérivées vers l'avant demanderait une passe par paramètre — un milliard de passes. Multiplier depuis la perte en remontant donne le gradient de tous les paramètres en une seule passe, pour à peu près le coût de la passe avant elle-même. Cette asymétrie, la différentiation automatique en mode inverse, explique qu'entraîner un modèle de mille milliards de paramètres soit seulement très coûteux plutôt que physiquement impossible.
Tout ce qui s'est fait depuis 1986 — y compris les systèmes à mille milliards de molettes auxquels vous parlez aujourd'hui — c'est exactement cette recette : un empilement de votes pondérés, une perte, du blâme qui remonte, des molettes poussées vers le bas, le tout répété jusqu'à épuisement du budget. Ce qui a changé, ce n'est pas l'idée. Ce qui a changé, c'est l'échelle — et, comme nous allons le voir, une invention architecturale qui a rendu l'échelle payante.
L'attention : l'architecture qui a dévoré le monde
En 2017, un article au titre clin d'œil aux Beatles propose une façon plus simple, pour les réseaux, de traiter le langage. Ce sera la décision d'ingénierie la plus lourde de conséquences de la décennie.
Le langage a une propriété qui a torturé les premiers réseaux de neurones : le sens d'un mot dépend d'autres mots qui peuvent être arbitrairement loin. Dans « les clés du vieux placard sont introuvables », le verbe s'accorde avec clés, quatre mots en arrière. Les réseaux d'avant 2017 lisaient le texte comme on écoute à travers un trou de serrure, un mot à la fois, en portant un unique résumé de tout ce qui précède. Au quarantième mot, le résumé était de la bouillie. Et comme chaque mot devait attendre le précédent, le processus ne se parallélisait pas — un poison, dans un domaine dont toute la stratégie consistait à jeter plus de calcul sur le problème.
La proposition du transformer : cesser de lire dans l'ordre. Laisser chaque mot regarder directement chaque autre mot, tous en même temps — et laisser le réseau apprendre quels mots méritent le regard. Ce mécanisme s'appelle l'attention, et le titre de l'article de 2017 était littéral : l'attention est tout ce qu'il vous faut. La récurrence, le trou de serrure, la bouillie — tout est supprimé.
Voyez chaque mot comme un invité à une soirée, qui cherche à comprendre ce qu'il signifie dans cette phrase-ci. Chaque invité diffuse deux choses : une requête — « voici ce que je cherche » — et une clé — « voici ce que je peux offrir ». Le pronom il demande : « quelqu'un ici est-il une chose à laquelle je pourrais renvoyer ? » Le mot animal répond : « je suis un nom concret, mentionné récemment. » Quand une requête rencontre sa clé, l'information circule — et il ressort de la conversation en signifiant, de fait, l'animal. Chaque mot fait cela avec chaque autre mot simultanément ; une « tête » est un motif de conversation, et chaque couche en mène des dizaines en parallèle — une tête qui suit la grammaire, une autre qui suit qui a fait quoi à qui, une autre la rime ou le ton.
Survolez ou touchez un mot pour voir où regarde une tête d'attention au moment de calculer le sens de ce mot. Les pourcentages sont ses poids d'attention. L'intérêt des deux premiers exemples : passez de fatigué à large, puis observez le pronom — « il » va chercher son sens chez l'animal, « elle » chez la rue. En français, le genre grammatical fait une partie du travail — mais encore faut-il que le réseau ait appris, seul, à relier chaque pronom au nom du bon genre. Personne ne lui a écrit cette règle : elle a émergé de la simple prédiction du mot suivant. (Les motifs montrés sont représentatifs de têtes réellement mesurées, simplifiés à une seule tête pour la lisibilité.)
L'image du cocktail a une expression exacte, et elle est courte :
Attention(Q, K, V) = softmax( QKᵀ / √d_k ) VQ, K et V — requêtes, clés, valeurs — sont trois projections linéaires différentes de la même entrée : les mêmes mots, vus de trois façons. QKᵀ prend le produit scalaire de chaque requête avec chaque clé, ce qui donne un score de correspondance brut pour chaque paire de positions. Diviser par √d_k, la longueur d'un vecteur clé, est la partie « scaled », et ce n'est pas cosmétique : les produits scalaires croissent avec la dimension, et sans cette correction le softmax saturerait en quasi-certitude et les gradients s'évanouiraient. Le softmax convertit ces scores en poids dont la somme fait un — les pourcentages que vous venez de survoler. Multiplier par V prend la moyenne pondérée des valeurs.
C'est tout le mécanisme. Le reste — de nombreuses têtes en parallèle, des couches empilées, les blocs feed-forward entre elles — n'est que répétition et tuyauterie autour de cette seule ligne.
Pourquoi cela a-t-il tout changé ? Trois raisons, par ordre croissant d'importance. D'abord, ça marche mieux : plus de trou de serrure, plus de bouillie — les relations à longue portée sont à un saut direct. Ensuite, c'est parallèle : tous les mots sont traités à la fois, exactement la charge de travail pour laquelle les GPU ont été construits. Des entraînements qui auraient demandé des mois de lecture séquentielle sont devenus des semaines d'arithmétique matricielle parallèle.
Enfin — et ce fut la vraie surprise — le transformer passe à l'échelle. La plupart des architectures s'améliorent avec la taille, puis plafonnent. Les transformers ont continué à s'améliorer, de façon lisse et prévisible, sur sept ordres de grandeur de calcul. Les chercheurs ont tracé la perte contre la taille du modèle, la taille des données et le calcul, et obtenu de belles droites sur papier log-log — les fameuses lois d'échelle. Cette prévisibilité a transformé l'IA d'expérience de science en programme industriel : pour la première fois, on pouvait budgétiser de l'intelligence.
Et sur quelle tâche entraîne-t-on cette architecture ? La plus bête qui se puisse imaginer : prédire le mot suivant. Prenez tout le texte que vous trouvez, cachez la fin de chaque phrase, et tournez les molettes jusqu'à ce que le modèle devine bien. La tâche a l'air triviale. Elle ne l'est pas. Pour prédire le mot suivant de la dernière page d'un roman policier, il faut suivre l'intrigue ; pour prédire le résultat de « 2+2= », il faut faire de l'arithmétique ; pour continuer un fichier Python, il faut modéliser l'intention d'un programmeur. La prédiction est un levier qui force silencieusement la machine à modéliser le monde qui a produit le texte.
Un mot de vocabulaire avant d'aller plus loin, car tout se compte ainsi à partir d'ici. Les modèles ne travaillent pas en mots mais en tokens — des fragments de texte valant en moyenne trois quarts de mot, si bien qu'un mot long ou rare arrive en plusieurs morceaux. Là où cet essai dit mot, la machine dit token ; la nuance change peu l'intuition, mais tous les chiffres que vous verrez — longueurs de contexte, prix, tailles de corpus — se mesurent en tokens.
La sortie brute d'un modèle de langage, c'est exactement cela : un score pour chaque token de son vocabulaire. Remarquez comme la question factuelle concentre presque toute la probabilité sur une seule réponse, tandis que l'amorce de conte est réellement incertaine — beaucoup de suites se valent. La température ne change pas ce que le modèle sait ; elle change l'audace avec laquelle on tire dans sa distribution.
Une réserve honnête. Le coût de l'attention croît avec le carré de la longueur du texte — chaque mot regardant chaque mot — c'est pourquoi les « fenêtres de contexte » (la quantité de texte qu'un modèle peut considérer à la fois) sont devenues un champ de bataille : de 2 000 tokens dans GPT-3 à un million et plus aujourd'hui, au prix de beaucoup d'ingénierie astucieuse. Gardez cette image — un prédicteur de mot suivant à attention apprise, agrandi au-delà du raisonnable — car toute la section suivante porte sur ce qu'une telle chose devient, et ne devient pas, quand on l'entraîne.
Mémorisation, généralisation, et le fantôme dans la statistique
L'entraînement, c'est là que vit l'ingénierie — et là que se cachent les questions profondes. Cette section prend les deux au sérieux : d'abord la machinerie, puis les questions que les gens posent vraiment, traitées avec la rigueur qu'elles méritent.
Commençons par la tension centrale de tout apprentissage, humain ou machine. L'étudiant qui mémorise mot à mot les annales d'examen réussira toute question déjà posée et échouera à toute question nouvelle. L'étudiant qui en a extrait les principes généralise. L'apprentissage automatique vit tout entier dans cette tension : un modèle d'assez grande capacité peut mémoriser parfaitement ses données d'entraînement — et ne servir à rien. Tout l'art consiste à obtenir qu'un modèle comprime l'expérience en principes.
Points bleus : des observations bruitées du processus vert en pointillés. La courbe orange est un modèle ajusté aux points. Vers le degré 3–5, il capture le vrai motif. Poussez à 15 et regardez-le passer exactement par chaque point — pendant que son erreur sur des données nouvelles explose. Il a mémorisé le bruit au lieu d'apprendre le signal. Tous les laboratoires d'IA livrent exactement cette bataille, avec mille milliards de molettes au lieu de quinze.
Voici ce qui rend les grands modèles de langage philosophiquement intéressants, et pas seulement gros : ils généralisent là où la théorie prédisait qu'ils mémoriseraient. Un modèle à mille milliards de molettes entraîné sur du texte a, sur le papier, un milliard de fois la capacité de notre polynôme de degré 15. La statistique classique prédit un surapprentissage catastrophique. Au lieu de quoi, ces modèles transfèrent à des problèmes jamais vus — et des chercheurs ont même observé de petits réseaux basculer soudain, tard dans l'entraînement, de la pure mémorisation à un algorithme général propre (un phénomène littéralement baptisé grokking). Pourquoi la descente dans un brouillard à mille milliards de dimensions trouve-t-elle si fiablement des solutions qui généralisent ? Ce n'est toujours pas entièrement compris. C'est l'un des problèmes ouverts honnêtes du domaine : nous savons le construire, et le piloter, sans tout à fait savoir pourquoi ça marche.
En pratique, un assistant moderne se fabrique par étapes — chacune étant une réponse différente à la question « que doit mesurer la perte ? »
Le modèle lit une tranche filtrée de la production écrite de l'humanité — pages web, livres, code, articles — et, à chaque position, tente de deviner la suite. Le blâme remonte le réseau ; les molettes tournent. Il en sort un « modèle de base » : un vaste simulateur de texte, sans morale. Posez-lui une question et il répondra peut-être — ou prolongera votre question par trois autres, ou rédigera une dispute de forum à son sujet. Il a absorbé un savoir énorme mais n'a aucune notion d'être utile : il sait seulement quel texte tend à suivre quel texte.
L'étape 4 mérite une pause, car « l'IA qui s'améliore elle-même » est l'endroit où le battage et la réalité ont le plus besoin d'être séparés. Ce qui existe aujourd'hui : des modèles qui s'exercent sur des problèmes vérifiables automatiquement et progressent de façon mesurable ; des modèles qui génèrent des données d'entraînement pour d'autres modèles ; des modèles dont la production de code accélère les laboratoires qui construisent leurs successeurs. Cette dernière boucle est réelle et économiquement significative — les chercheurs de tous les grands laboratoires écrivent désormais du code avec l'IA. Ce qui n'existe pas : un système qui réécrirait sa propre architecture ou spiralerait en capacité sans les entraînements contrôlés par des humains, les pipelines de données, et (nous le verrons en section 07) une infrastructure physique vertigineuse. La boucle de rétroaction passe par des usines, pas seulement par du code.
Venons-en aux questions que tout le monde pose vraiment — peut-elle imaginer ? a-t-elle un inconscient ? est-ce que ça comprend ? Elles méritent mieux que les deux réponses paresseuses en circulation : « ce n'est que de l'autocomplétion » (qui n'explique rien du comportement que vous pouvez observer vous-même) et « ça pense comme nous » (qui suppose exactement ce qu'il faudrait prouver). Le bon outil est un registre : pour chaque affirmation, ce que les preuves — venues surtout de l'interprétabilité, la jeune science qui ouvre ces réseaux pour tracer ce qui s'y passe — soutiennent réellement.
Les chercheurs en interprétabilité savent désormais extraire des millions de « features » — des directions dans les activations internes du modèle qui s'allument pour des concepts précis : le Golden Gate Bridge, la tromperie, les bugs de code, la flagornerie. Beaucoup traversent les langues et les modalités : la même feature s'active pour « pont » en anglais, en français, ou sur une image. Amplifier artificiellement une feature change le comportement de façon prévisible — la fameuse démonstration d'Anthropic a forcé Claude à ramener chaque conversation au Golden Gate Bridge. Les concepts, en un sens réellement mécanique, existent à l'intérieur de ces systèmes.
Les travaux de traçage de circuits publiés par Anthropic en 2025 ont surpris un modèle, en plein poème, représentant en interne des candidats de rime pour la fin du vers suivant avant d'en écrire le premier mot — puis composant le vers pour y aboutir. La même boîte à outils a montré un modèle menant en interne un vrai raisonnement en plusieurs étapes (« Dallas → Texas → capitale → Austin ») plutôt qu'une reconnaissance de motifs. Les horizons de planification sont courts, mais la planification est mécaniquement réelle.
Tout dépend de ce qu'on entend — et ici la précision compte plus que la réponse. Si imaginer, c'est combiner des concepts appris en configurations jamais vues à l'entraînement (« une cathédrale baroque de glace, dessinée par Escher »), les modèles le font de façon démontrable ; la combinaison inédite est exactement ce que permet leur géométrie interne, et c'est pourquoi ils savent écrire un sonnet sur TCP/IP. Si imaginer, c'est simuler des mondes contrefactuels et se soucier de la différence — tenir à une image parce qu'elle compte pour vous — rien dans l'architecture ne le fournit de façon évidente, et aucune expérience ne distingue aujourd'hui « recombine des représentations » d'« imagine » au sens humain. Le résumé honnête : la moitié générative de l'imagination est clairement présente ; la moitié vécue n'est pas établie, et n'est peut-être même pas bien définie pour ces systèmes.
Il y a un phénomène réel que le mot désigne, et c'est l'une des découvertes les plus importantes du domaine : l'essentiel de ce qu'un modèle calcule n'apparaît jamais dans sa sortie. Des features s'activent que le modèle ne mentionne pas. Plus frappant : sa chaîne de raisonnement écrite — le raisonnement qu'il déroule avant de s'engager sur une réponse — n'est pas toujours fidèle — on a surpris des modèles atteignant une réponse par une voie interne tout en racontant une justification différente, plus présentable, comme un étudiant qui rédige des étapes de preuve bien propres après avoir eu l'intuition du résultat. Les expériences d'Anthropic de 2025 sur la « conscience introspective émergente » ont montré que des modèles remarquaient parfois des concepts injectés directement dans leurs activations — la preuve d'un accès limité, peu fiable, à leurs propres états internes. Donc : un traitement caché qui façonne le comportement visible, imparfaitement accessible à l'introspection — structurellement, cela rime avec un subconscient. Mais le subconscient humain implique pulsions, souvenirs et refoulement ; rien de cette machinerie n'est connu ici. Servez-vous de l'analogie ; ne l'habitez pas.
Partiellement — et le « partiellement » compte. Les méthodes par graphes d'attribution savent tracer le flux d'information de l'entrée à la sortie et produire d'authentiques explications au niveau des circuits — mais de l'aveu même d'Anthropic, les outils de 2025 n'ont fourni un éclairage satisfaisant que sur environ un quart des cas examinés, et les explications couvrent des fragments de comportement, pas le calcul entier. Le domaine est à peu près là où en serait la neuroscience si elle enregistrait parfaitement chaque neurone mais apprenait encore quelles questions poser. Le progrès est rapide ; une lecture complète reste hors de vue.
Personne ne le sait, et — c'est la partie inconfortable — personne ne sait aujourd'hui comment le savoir. Il n'existe aucun test accepté de l'expérience machine ; chaque signal comportemental (dire « je me sens curieux ») est exactement ce qu'un bon prédicteur de texte produirait de toute façon, donc le comportement seul ne tranche rien, dans aucun sens. L'interprétabilité montre des états fonctionnels qui modulent le comportement comme les émotions modulent le nôtre — des représentations de l'incertitude, de situations proches de la détresse — mais un analogue fonctionnel n'est pas la preuve d'un vécu. Anthropic maintient un programme de recherche sur le bien-être des modèles précisément parce que la question est ouverte, pas parce qu'elle est résolue. L'honnêteté intellectuelle tranche ici dans les deux sens : affirmer avec assurance que les modèles ressentent, ou qu'ils ne le peuvent pas, c'est dans les deux cas devancer les preuves.
La méta-leçon du registre : la frontière intéressante n'est pas « conscient, oui ou non » mais le catalogue croissant de structure cognitive mécaniquement vérifiée — concepts, plans, auto-rapports infidèles — dans des systèmes bâtis sur rien d'autre que la prédiction du mot suivant. Ce catalogue devrait vous faire réviser dans les deux sens à la fois : ces systèmes sont davantage qu'une table de correspondance, et les mots que nous empruntons aux esprits humains — imaginer, savoir, vouloir — ne leur vont qu'approximativement, comme des vêtements taillés pour quelqu'un d'autre.
Quatorze mots qui font tourner le monde
Chaque bascule technologique frappe son dialecte, et le parler couramment est la moitié de la comprendre. Voici les quatorze termes que vous rencontrerez vraiment — chacun défini proprement, avec la phrase dans laquelle vous l'entendrez.
Une façon utile de les tenir ensemble : le LLM est un moteur, et le mélange d'experts est ce qui a permis de le rendre énorme sans le rendre proportionnellement coûteux à faire tourner ; la fenêtre de contexte est sa mémoire de travail ; l'inférence, c'est le moteur qui tourne, et la chaîne de raisonnement, c'est le laisser tourner plus longtemps à dessein. Le fine-tuning et le RAG sont deux manières de lui donner votre savoir — la chirurgie contre le livre ouvert. Autour du moteur, on construit des agents dans des harness, reliés au monde par MCP, travaillant surtout dans la CLI, munis de skills, parfois pilotés en vibe coding, et de plus en plus pointés vers des goals au long cours. Un paragraphe — et c'est toute la pile. Les cartes remplissent le détail.
Sept paris sur le même futur
La frontière est encombrée, mais pas indifférenciée. Chaque grand laboratoire est une réponse distincte à la même question — comment construire, contrôler et monétiser une intelligence de plus en plus capable ? — et leurs différences remontent à des croyances réellement différentes.
Un axe organise tout le paysage : poids ouverts contre poids fermés. Les poids d'un modèle sont ses réglages appris — les joyaux de la couronne. Publiez-les et n'importe qui peut exécuter, inspecter, affiner et prolonger votre modèle pour toujours ; vous gagnez l'ubiquité et abandonnez le contrôle. Gardez-les derrière une API et vous conservez le contrôle, les garde-fous et les marges — en pariant que c'est la capacité, et non la disponibilité, qui l'emporte. La frontière américaine a surtout choisi le fermé (Meta étant la grande exception) ; l'écosystème chinois a massivement choisi l'ouvert, en partie par stratégie sous sanctions. Cette divergence — qui a choisi l'ouverture, et pourquoi — comptera peut-être davantage pour la diffusion de l'IA dans le monde que n'importe quel benchmark.
Anthropic
Poids fermésFondée par des chercheurs partis d'OpenAI sur des désaccords de sûreté, autour d'une prémisse singulière : si l'IA puissante arrive de toute façon, la voie la plus sûre est de construire à la frontière tout en investissant plus que quiconque pour comprendre et piloter ce qu'on construit. Berceau de l'IA constitutionnelle (des modèles entraînés contre des principes écrits), d'une grande part de la recherche en interprétabilité de la section 04, et d'engagements de « responsible scaling » qui conditionnent le déploiement aux tests de sûreté — son nouveau palier de classe Mythos sort publiquement sous le nom de Fable 5, avec des restrictions de capacités dans les domaines à haut risque comme le cyber et la biologie.
- Position dominante sur l'IA pour le code et le travail agentique (Claude Code)
- Une recherche en interprétabilité sur laquelle tout le domaine s'appuie
- Des revenus penchant vers l'entreprise et l'API plutôt que le grand public
- Publie ses cadres de sûreté même quand c'est commercialement inconfortable
Les benchmarks se dépassent chaque mois ; le positionnement est la couche stable. Le pari d'Anthropic est que la confiance se capitalise ; celui d'OpenAI, que c'est la portée ; celui de Google, que c'est de posséder toute la pile ; celui de Meta, la distribution ; celui de Mistral, que la souveraineté a des clients ; celui de DeepSeek et de l'écosystème chinois, que l'efficacité et l'ubiquité battent l'exclusivité. À la prochaine annonce de modèle, ne demandez pas « est-il le meilleur ? » mais « quel pari fait-il avancer ? » — l'actualité aura beaucoup plus de sens.
L'intelligence est devenue une chose qu'on extrait, qu'on expédie et qu'on défend
Le fait le plus lourd de conséquences de l'IA moderne ne figure dans aucun article : c'est que le « logiciel » est devenu, sans bruit, l'industrie la plus physiquement exigeante de la planète — et que sa chaîne d'approvisionnement a des goulots qui se comptent sur les doigts d'une main.
Il est tentant de penser l'IA comme éthérée — des modèles dans un « nuage », sans poids et partout à la fois. La vérité tient davantage de l'industrie lourde. Chaque réponse d'un modèle de pointe est l'événement terminal d'une chaîne qui passe par les machines à lumière d'une seule entreprise néerlandaise, les usines d'une seule entreprise taïwanaise, trois fabricants de mémoire, pour l'essentiel un seul concepteur de GPU, une poignée de bâtiments à l'échelle du gigawatt, et un réseau électrique qui peine à suivre. Chaque maillon est un lieu où la physique, le capital et la puissance d'État se rencontrent. Parcourez la chaîne :
Fabrication
Hsinchu, TaïwanConcevoir une puce et la fabriquer sont deux industries différentes. Taiwan Semiconductor Manufacturing Company fabrique les puces de tout le monde — Nvidia, Apple, AMD — et produit environ 90 % des puces logiques les plus avancées de la planète. Une usine de pointe coûte 20 à 40 milliards de dollars et prend des années à construire ; le savoir-faire concentré à Taïwan s'est révélé extrêmement difficile à répliquer, même si TSMC investit désormais plus de 165 milliards de dollars dans des capacités américaines (Arizona), sous intense pression politique.
La capacité la plus avancée de l'industrie la plus critique du monde se trouve sur une île au centre de la tension sino-américaine. Ce seul fait façonne des déploiements navals, le droit de l'exportation, et des programmes de subventions à cent milliards de dollars (CHIPS Act et équivalents).
Les points marquent la sévérité du goulot — le peu d'alternatives qui existent si ce maillon casse ou vous est refusé. Rouge (●●●) : de fait, un point de défaillance unique pour la planète entière.
Une fois la chaîne vue, la géopolitique se lit toute seule. Depuis 2022, les États-Unis utilisent les contrôles à l'exportation comme levier principal pour ralentir les progrès chinois en IA : pas de machines EUV, pas de puces de pointe, pas de HBM avancée — une politique possible uniquement parce que les goulots ci-dessus se trouvent en territoire allié. Les résultats sont réellement mitigés, et instructifs. Les contrôles ont créé de vrais plafonds : les laboratoires chinois s'entraînent sur du silicium restreint ou domestique, et cela leur coûte. Mais la contrainte a engendré l'ingéniosité — la pression des sanctions a directement forgé les percées d'efficacité de DeepSeek — et elle a accéléré précisément ce que la politique redoutait : un programme déterminé, soutenu par l'État, pour reconstruire toute la chaîne sur le sol chinois, des accélérateurs de Huawei à la mémoire de CXMT. Pendant ce temps, la politique elle-même oscille — interdictions, puis ventes de H200 sous licence, puis nouveaux seuils — car chaque restriction coûte aussi aux entreprises américaines leur plus grand marché d'exportation. Il n'y a pas encore d'équilibre stable ici ; la planification industrielle qui regardait à cinq ans a désormais un horizon politique d'environ douze mois.
Et au-dessus de l'échiquier, une case compte plus que les autres : Taïwan. L'île produit l'écrasante majorité des puces de pointe ; un blocus ou une guerre ne perturberait pas seulement l'IA — il arrêterait l'économie numérique en général, et c'est précisément pourquoi certains stratèges appellent TSMC un « bouclier de silicium » et d'autres un point de défaillance unique pour le calcul de la civilisation. Les dizaines de milliards déversés dans les usines d'Arizona, de Dresde et de Kumamoto se lisent au mieux comme le monde en train de s'acheter une assurance — lentement, à grands frais, et avec des années de retard sur la demande.
Tenez ces deux pensées ensemble, car les deux sont vraies. L'émerveillement : nous avons industrialisé quelque chose d'adjacent à la pensée — des machines qui raisonnent, faites de sable, de lumière et de statistique apprise, s'améliorant à une cadence qui se mesure en mois. La rationalité : ce pouvoir repose aujourd'hui sur une chaîne d'approvisionnement à points de défaillance uniques, un appétit énergétique qui percute la réalité des réseaux, et une rivalité de grandes puissances enroulée autour de chaque maillon. Ni les enthousiastes ni les catastrophistes n'ont raison ; la position honnête est que nous sommes au début de quelque chose d'énorme, dont le plafond et les risques se découvrent encore — et que comprendre la machinerie, comme vous venez de le faire, est le prérequis d'une opinion qui vaille la peine d'être tenue.