LeCun, le gourou de l'IA de Meta : la plupart des approches actuelles en matière d'IA ne mèneront jamais à une véritable intelligence

ZDNet : Nous disons au-delà de l’horizon d’investissement de la plupart des investisseurs.

YL : C'est exact. La question est donc de savoir si les gens perdront patience ou manqueront d’argent avant que la performance n’atteigne le niveau souhaité.

ZDNet : Y a-t-il quelque chose d’intéressant à dire sur la raison pour laquelle vous avez choisi certains des éléments que vous avez choisis dans le modèle ? Parce que vous citez Kenneth Craik [1943,La nature de l’explication], et vous citez Bryson et Ho [1969, Contrôle optimal appliqué], et je suis curieux de savoir pourquoi vous avez commencé avec ces influences, si vous pensiez surtout que ces gens avaient réussi ce qu'ils avaient fait. Pourquoi as-tu commencé là ?

YL : Eh bien, je ne pense certainement pas qu’ils aient réglé tous les détails. Donc, Bryson et Ho, c'est un livre que j'ai lu en 1987 lorsque j'étais postdoctoral avec Geoffrey Hinton à Toronto. Mais je connaissais ce domaine de travail auparavant lorsque j'écrivais mon doctorat et j'ai essentiellement fait le lien entre le contrôle optimal et le backprop. Si vous vouliez vraiment être, vous savez, un autre Schmidhuber, vous diriez que les véritables inventeurs du backprop étaient en fait les théoriciens du contrôle optimal Henry J. Kelley, Arthur Bryson et peut-être même Lev Pontryagin, qui est un théoricien russe du contrôle optimal. à la fin des années 50. 

Donc, ils l’ont compris, et en fait, vous pouvez voir que la racine de tout cela, les mathématiques en dessous, sont la mécanique lagrangienne. Vous pouvez donc revenir à Euler et Lagrange, en fait, et en trouver en quelque sorte une odeur dans leur définition de la mécanique classique lagrangienne, en fait. Ainsi, dans le contexte du contrôle optimal, ce qui intéressait ces gars-là, c'était essentiellement le calcul des trajectoires des fusées. Vous savez, c’était le début de l’ère spatiale. Et si vous avez un modèle de la fusée, il vous indique voici l'état de la fusée à ce moment-là. t, et voici l'action que je vais entreprendre, donc, poussée et actionneurs de toutes sortes, voici l'état de la fusée à ce moment-là t + 1.

ZDNet : Un modèle état-action, un modèle de valeur.

YL : C'est vrai, la base du contrôle. Ainsi, vous pouvez maintenant simuler le tir de votre fusée en imaginant une séquence de commandes, et vous disposez alors d'une fonction de coût, qui est la distance de la fusée à sa cible, une station spatiale ou autre. Et puis, grâce à une sorte de descente de gradient, vous pouvez comprendre comment puis-je mettre à jour ma séquence d'action afin que ma fusée se rapproche le plus possible de la cible. Et cela doit se faire par rétro-propagation des signaux dans le temps. Et c’est une rétro-propagation, une rétro-propagation par gradient. Ces signaux, on les appelle des variables conjuguées en mécanique lagrangienne, mais en fait, ce sont des gradients. Ils ont donc inventé le backprop, mais ils n'ont pas réalisé que ce principe pouvait être utilisé pour former un système à plusieurs étapes capable de faire de la reconnaissance de formes ou quelque chose comme ça. Cela n’a été vraiment réalisé qu’à la fin des années 70 et au début des années 80, puis n’a été réellement mis en œuvre et mis en œuvre qu’au milieu des années 80. D'accord, c'est là que le backprop a vraiment décollé, en quelque sorte, parce que les gens ont montré voici quelques lignes de code permettant de former un réseau neuronal, de bout en bout, multicouche. Et cela lève les limites du Perceptron. Et oui, il existe des connexions avec un contrôle optimal, mais ce n'est pas grave.

ZDNet : Donc, c'est une longue façon de dire que ces influences avec lesquelles vous avez commencé allaient revenir au backprop, et c'était important comme point de départ pour vous ?

YL : Oui, mais je pense que ce que les gens ont un peu oublié, c'est qu'il y a eu pas mal de travaux là-dessus, vous savez, dans les années 90, ou même dans les années 80, notamment par des gens comme Michael Jordan [Département du cerveau du MIT et sciences cognitives] et des gens comme ça qui ne font plus de réseaux neuronaux, mais l'idée selon laquelle vous pouvez utiliser des réseaux neuronaux pour le contrôle, et vous pouvez utiliser les idées classiques de contrôle optimal. Donc, des choses comme ce qu'on appelle le contrôle prédictif par modèle, ce qu'on appelle maintenant le contrôle prédictif par modèle, cette idée selon laquelle vous pouvez simuler ou imaginer le résultat d'une séquence d'actions si vous avez un bon modèle du système que vous essayez de contrôler. et l'environnement dans lequel il se trouve. Et puis, par descente graduelle, essentiellement - ce n'est pas un apprentissage, c'est une inférence - vous pouvez déterminer quelle est la meilleure séquence d'actions qui minimisera mon objectif. Ainsi, l’utilisation d’une fonction de coût avec une variable latente pour l’inférence est, je pense, quelque chose que les cultures actuelles de réseaux neuronaux à grande échelle ont oublié. Mais cela a longtemps été une composante très classique du machine learning. Ainsi, chaque réseau bayésien, modèle graphique ou modèle graphique probabiliste utilisait ce type d'inférence. Vous disposez d'un modèle qui capture les dépendances entre un ensemble de variables, on vous indique la valeur de certaines variables, puis vous devez déduire la valeur la plus probable du reste des variables. C'est le principe de base de l'inférence dans les modèles graphiques et les réseaux bayésiens, et des choses comme ça. Et je pense que c'est essentiellement cela qui devrait être le raisonnement, le raisonnement et la planification.

ZDNet : Vous êtes un bayésien discret.

YL : Je suis un bayésien non probabiliste. J'ai déjà fait cette blague. En fait, j'étais à NeurIPS il y a quelques années, je pense que c'était en 2018 ou 2019, et j'ai été filmé par un bayésien qui m'a demandé si j'étais bayésien, et j'ai dit : Oui, je suis bayésien, mais je Je suis un bayésien non probabiliste, en quelque sorte, un bayésien basé sur l'énergie, si vous voulez. 

ZDNet : Ce qui ressemble définitivement à quelque chose de Star Trek. Vous avez mentionné à la fin de cet article qu'il faudra des années de travail acharné pour réaliser ce que vous envisagez. Parlez-moi en quoi consiste une partie de ce travail en ce moment.

YL : J'explique donc comment vous formez et construisez le JEPA dans le document. Et le critère que je préconise est de disposer d'un moyen de maximiser le contenu informationnel que les représentations extraites ont sur l'entrée. Et puis la seconde consiste à minimiser l’erreur de prédiction. Et si vous avez une variable latente dans le prédicteur qui permet au prédicteur d'être non déterministe, vous devez également régulariser cette variable latente en minimisant son contenu informationnel. Vous avez donc deux problèmes maintenant : comment maximiser le contenu informationnel de la sortie d'un réseau neuronal, et l'autre est comment minimiser le contenu informationnel d'une variable latente ? Et si vous ne faites pas ces deux choses, le système s’effondrera. Il n'apprendra rien d'intéressant. Cela donnera zéro énergie à tout, quelque chose comme ça, ce qui n’est pas un bon modèle de dépendance. C'est le problème de la prévention des effondrements que je mentionne. 

Et je dis que de tout ce que les gens ont fait, il n'y a que deux catégories de méthodes pour empêcher l'effondrement. L’une concerne les méthodes contrastives et l’autre les méthodes régularisées. Donc, cette idée de maximiser le contenu informationnel des représentations des deux entrées et de minimiser le contenu informationnel de la variable latente, qui appartient aux méthodes régularisées. Mais une grande partie du travail dans ces architectures d’intégration conjointe utilise des méthodes contrastées. En fait, ils sont probablement les plus populaires du moment. La question est donc de savoir exactement comment mesurer le contenu de l’information de manière à l’optimiser ou à le minimiser ? Et c’est là que les choses se compliquent parce que nous ne savons pas réellement comment mesurer le contenu de l’information. Nous pouvons l'approcher, nous pouvons le limiter, nous pouvons faire des choses comme ça. Mais ils ne mesurent pas réellement le contenu de l’information, qui, dans une certaine mesure, n’est même pas bien défini.

ZDNet : Ce n'est pas la loi de Shannon ? Ce n'est pas de la théorie de l'information ? Vous avez une certaine quantité d'entropie, une bonne entropie et une mauvaise entropie, et la bonne entropie est un système de symboles qui fonctionne, la mauvaise entropie est du bruit. Tout n'est-il pas résolu par Shannon ?

YL : Vous avez raison, mais il y a un défaut majeur derrière cela. Vous avez raison dans le sens où si vous recevez des données et que vous pouvez d'une manière ou d'une autre quantifier les données en symboles discrets, puis que vous mesurez la probabilité de chacun de ces symboles, alors la quantité maximale d'informations transportées par ces symboles est la somme sur les symboles possibles de Pi journal Pi, droite? Où Pi est la probabilité du symbole je - c'est l'entropie de Shannon. [La loi de Shannon est communément formulée comme H = – ∑ pi log pi.]

Mais voici le problème : qu'est-ce que Pi? C'est facile lorsque le nombre de symboles est petit et que les symboles sont dessinés indépendamment. Quand il y a beaucoup de symboles et de dépendances, c'est très difficile. Donc, si vous avez une séquence de bits et que vous supposez que les bits sont indépendants les uns des autres et que la probabilité est égale entre un et zéro ou autre, alors vous pouvez facilement mesurer l'entropie, sans problème. Mais si les choses qui vous parviennent sont des vecteurs de grande dimension, comme, vous savez, des trames de données, ou quelque chose comme ça, qu'est-ce que c'est ? Pi? Quelle est la répartition ? Vous devez d’abord quantifier cet espace, qui est un espace continu de grande dimension. Vous ne savez pas comment quantifier cela correctement. Vous pouvez utiliser des k-means, etc. C'est ce que font les gens lorsqu'ils effectuent une compression vidéo et une compression d'image. Mais ce n'est qu'une approximation. Et puis il faut faire des hypothèses d’indépendance. Il est donc clair que dans une vidéo, les images successives ne sont pas indépendantes. Il existe des dépendances, et cette image peut dépendre d'une autre image que vous avez vue il y a une heure et qui était une image de la même chose. Donc, vous savez, vous ne pouvez pas mesurer Pi. Mesurer Pi, vous devez disposer d’un système d’apprentissage automatique qui apprend à prédire. Et vous revenez donc au problème précédent. Ainsi, vous ne pouvez essentiellement qu’approximer la mesure de l’information. 

Permettez-moi de prendre un exemple plus concret. L'un des algorithmes avec lesquels nous avons joué, et dont j'ai parlé dans l'article, est ce qu'on appelle VICReg, régularisation variance-invariance-covariance. C'est dans un article séparé qui a été publié à l'ICLR, et il a été mis sur arXiv environ un an avant, 2021. Et l’idée est de maximiser l’information. Et l'idée est en fait issue d'un article antérieur de mon groupe intitulé Jumeaux Barlow. Vous maximisez le contenu informationnel d'un vecteur sortant d'un réseau neuronal en supposant essentiellement que la seule dépendance entre les variables est une corrélation, une dépendance linéaire. Ainsi, si vous supposez que la seule dépendance possible entre des paires de variables, ou entre des variables de votre système, est la corrélation entre des paires de valeurs, ce qui constitue une approximation extrêmement grossière, vous pouvez alors maximiser le contenu des informations sortant de votre système. en s'assurant que toutes les variables ont une variance non nulle - disons, la variance un, peu importe ce que c'est - puis en les rétro-corrélant, le même processus qu'on appelle blanchiment, ce n'est pas nouveau non plus. Le problème est que vous pouvez très bien avoir des dépendances extrêmement complexes entre des groupes de variables ou même simplement des paires de variables qui ne sont pas des dépendances linéaires, et elles n'apparaissent pas dans les corrélations. Ainsi, par exemple, si vous avez deux variables et que tous les points de ces deux variables s’alignent dans une sorte de spirale, il existe une très forte dépendance entre ces deux variables, n’est-ce pas ? Mais en fait, si vous calculez la corrélation entre ces deux variables, elles ne sont pas corrélées. Voici donc un exemple où le contenu informationnel de ces deux variables est en réalité très petit, il ne s'agit que d'une seule quantité car c'est votre position dans la spirale. Elles sont décorrélées, donc vous pensez avoir beaucoup d'informations provenant de ces deux variables alors qu'en fait ce n'est pas le cas, vous savez, vous pouvez essentiellement prédire l'une des variables de l'autre. Cela montre donc que nous ne disposons que de moyens très approximatifs pour mesurer le contenu de l’information.

ZDNet : Et donc c’est l’une des choses sur lesquelles vous devez travailler maintenant avec ça ? Il s’agit de la question plus vaste : comment savoir quand nous maximisons et minimisons le contenu de l’information ?

YL :  Ou si le proxy que nous utilisons pour cela est suffisamment performant pour la tâche que nous souhaitons. En fait, nous faisons cela tout le temps dans le cadre de l’apprentissage automatique. Les fonctions de coût que nous minimisons ne sont jamais celles que nous souhaitons réellement minimiser. Donc, par exemple, vous voulez faire de la classification, d'accord ? La fonction de coût que vous souhaitez minimiser lorsque vous entraînez un classificateur est le nombre d'erreurs commises par le classificateur. Mais c'est une horrible fonction de coût non différenciable que vous ne pouvez pas minimiser parce que vous savez que vous allez modifier les poids de votre réseau neuronal, rien ne changera jusqu'à ce qu'un de ces échantillons change sa décision, et puis un saut dans l'erreur, positive ou négative.

ZDNet : Vous avez donc un proxy qui est une fonction objective dont vous pouvez certainement dire que nous pouvons certainement faire circuler des gradients de cette chose.

YL : C'est exact. Donc les gens utilisent cette perte d'entropie croisée, ou SOFTMAX, vous avez plusieurs noms pour cela, mais c'est la même chose. Et il s’agit fondamentalement d’une approximation douce du nombre d’erreurs commises par le système, où le lissage est effectué essentiellement en tenant compte du score que le système attribue à chacune des catégories.

ZDNet : Y a-t-il quelque chose que nous n'avons pas abordé et que vous aimeriez aborder ?

YL : Cela met probablement l'accent sur les points principaux. Je pense que les systèmes d'IA doivent être capables de raisonner, et le processus que je préconise consiste à minimiser un objectif par rapport à une variable latente. Cela permet aux systèmes de planifier et de raisonner. Je pense que nous devrions abandonner le cadre probabiliste car il est insoluble lorsque nous voulons faire des choses comme capturer les dépendances entre des variables continues de grande dimension. Et je préconise l'abandon des modèles génératifs, car le système devra consacrer trop de ressources à la prévision de choses trop difficiles à prédire et peut-être consommer trop de ressources. Et c'est à peu près tout. Ce sont les principaux messages, si vous voulez. Et puis l'architecture globale. Ensuite, il y a ces spéculations sur la nature de la conscience et le rôle du configurateur, mais ce ne sont en réalité que des spéculations.

ZDNet : Nous y reviendrons la prochaine fois. J'allais vous demander, comment évaluez-vous cette chose ? Mais je suppose que vous êtes un peu plus loin du benchmarking en ce moment ?

YL : Pas nécessairement aussi loin dans les versions simplifiées. Vous pouvez faire ce que tout le monde fait en matière de contrôle ou d'apprentissage par renforcement, c'est-à-dire que vous entraînez la chose à jouer à des jeux Atari ou quelque chose comme ça ou à un autre jeu comportant une certaine incertitude.

ZDNet : Merci pour votre temps, Yann.