Richard Sutton, pionnier de l’apprentissage par renforcement et lauréat du Turing Award, renouvelle sa critique du boom des grands modèles: un système entraîné surtout à prédire le mot suivant ne peut pas, seul, produire une vraie science.
Il ne dit pas que les grands modèles de langage sont inutiles. Son point est plus étroit et plus fondamental. La découverte scientifique exige une compréhension causale, des expériences actives et la capacité de tester des hypothèses dans le monde, pas seulement de recombiner ce que les humains ont écrit.
Le plafond des données humaines
L’argument rejoint ses échanges avec David Silver: les données humaines ont une limite. Des modèles entraînés sur les articles, textes et images existants peuvent devenir de puissants assistants, mais peinent à découvrir ce qu’aucun humain n’a encore encodé.
Sutton cite AlphaGo et AlphaProof comme une autre voie. Ces systèmes disposent d’un évaluateur interne et progressent par interaction, feedback et recherche. Cette boucle ressemble davantage à hypothèse, expérience et révision.
Critiquer la direction, pas l’utilité
La critique résonne parce que l’essentiel du capital IA pousse encore vers des modèles plus grands et davantage de données humaines. Sutton, auteur de The Bitter Lesson, ne rejette pas l’échelle. Il demande ce qu’il faut mettre à l’échelle.
Le test ne sera pas un débat. Il faudra voir si la prochaine découverte scientifique vraiment nouvelle vient d’un modèle ayant lu tous les articles, ou d’un agent capable d’agir, mesurer, échouer et se corriger dans un environnement.
Sources: The Decoder, CocoLoop; vérification des critiques de Sutton sur la prédiction du mot suivant, la causalité, l’expérimentation, les limites des données humaines et la comparaison avec AlphaGo et AlphaProof.