FRANCE : Le chercheur Yann LeCun écarte les LLM autorégressifs comme voie vers l’intelligence humaine
Dans une nouvelle prise de position, le chercheur réaffirme que les grands modèles de langage, malgré leurs progrès, ne constituent pas à eux seuls une voie vers une intelligence de niveau humain. Il défend une approche fondée sur les modèles du monde, l’apprentissage auto-supervisé et les architectures JEPA.
Yann LeCun réaffirme une position qu’il défend depuis plusieurs années : les modèles de langage autorégressifs, « en eux-mêmes », ne conduiront pas à une intelligence artificielle de niveau humain.
Dans une publication récente, il distingue les progrès spectaculaires des systèmes actuels de ce qu’il considère comme les capacités fondamentales encore manquantes : apprendre efficacement de nouvelles compétences, raisonner dans des situations inédites et comprendre le monde physique.
Un raisonnement encore limité à l’espace des tokens
Les systèmes actuels utilisent déjà des mécanismes de recherche non autorégressive pour améliorer leur raisonnement. Mais cette recherche reste, selon LeCun, principalement effectuée dans l’espace des tokens, qu’il juge limité et inefficace.
Il défend à l’inverse un raisonnement dans un espace de représentation continu, permettant aux machines de construire des modèles internes du monde. Cette approche est au cœur de son intérêt pour les Joint Embedding Predictive Architectures (JEPA) et l’apprentissage auto-supervisé.
L’auto-amélioration ne suffit pas
Les méthodes actuelles d’apprentissage par renforcement permettent de progresser lorsque la qualité d’une réponse peut être évaluée automatiquement, notamment en mathématiques ou en programmation.
Elles montrent davantage leurs limites lorsqu’il faut apprendre une compétence nouvelle dans le monde réel. L’apprentissage humain et animal reste, sur ce point, beaucoup plus efficace : un enfant peut acquérir rapidement une nouvelle compétence à partir d’un nombre limité d’expériences.
Des performances spécialisées ne font pas une intelligence générale
Les performances des systèmes d’IA sont aujourd’hui supérieures à celles des humains dans de nombreux domaines. Mais cette réussite ne démontre pas, selon cette analyse, l’existence d’une intelligence générale comparable à la nôtre.
L’exemple de la conduite automobile illustre cette différence. Les modèles de langage sont capables de résoudre des problèmes complexes, mais les voitures autonomes ne peuvent toujours pas apprendre à conduire avec la rapidité et la flexibilité d’un adolescent.
La capacité à résoudre des problèmes jamais rencontrés auparavant et à s’adapter rapidement constitue ainsi, pour LeCun, une différence essentielle entre performance spécialisée et intelligence générale.
L’intelligence au-delà de la connaissance
Cette distinction repose également sur une conception particulière de l’intelligence. Elle ne se réduirait pas à accumuler et restituer des connaissances, mais consisterait à savoir agir lorsque l’on ne dispose pas déjà de la réponse.
LeCun reprend à ce propos une formule attribuée à Jean Piaget : « l’intelligence, c’est ce que vous faites quand vous ne savez pas ».
Cette conception explique son intérêt pour les « world models », capables de représenter un environnement, d’en anticiper les conséquences et de planifier des actions.
Une autre voie de recherche
Cette vision accompagne désormais le développement d’AMI Labs, l’entreprise fondée par LeCun après son départ de Meta et consacrée notamment aux modèles du monde et à l’intelligence artificielle destinée à interagir avec le monde physique.
Le débat ne porte donc pas seulement sur les performances des LLM, mais sur la nature même de l’intelligence que les prochaines architectures devront reproduire. Pour LeCun, les progrès actuels sont réels, mais une étape majeure reste à franchir avant de pouvoir parler d’une intelligence artificielle de niveau humain.