AI guru z Meta LeCun: Většina dnešních přístupů AI nikdy nepovede ke skutečné inteligenci

ZDNet: Říkáme za investičním horizontem většiny investorů.

YL: To je správně. Otázkou tedy je, zda lidé ztratí trpělivost nebo dojdou peníze, než výkon dosáhne požadované úrovně.

ZDNet: Dá se říci něco zajímavého o tom, proč jste si vybrali některé prvky, které jste v modelu zvolili? Protože citujete Kennetha Craika [1943,Povaha vysvětlení] a citujete Brysona a Ho [1969, Aplikovaná optimální kontrola], a zajímalo by mě, proč jste začal s těmito vlivy, pokud jste věřil především tomu, že tito lidé to dotáhli až k tomu, co udělali. Proč jsi tam začal?

YL: No, nemyslím si, že určitě měli všechny detaily vychytané. Takže, Brysone a Ho, toto je kniha, kterou jsem četl v roce 1987, když jsem byl postdoktorem u Geoffreyho Hintona v Torontu. Ale věděl jsem o této linii práce předem, když jsem psal doktorát, a v podstatě jsem vytvořil spojení mezi optimální kontrolou a podporou. Pokud byste opravdu chtěli být, víte, dalším Schmidhuberem, řekli byste, že skutečnými vynálezci backprop byli ve skutečnosti teoretici optimálního řízení Henry J. Kelley, Arthur Bryson a možná dokonce Lev Pontryagin, který je ruský teoretik optimálního řízení zpět. koncem 50. let. 

Takže na to přišli a ve skutečnosti můžete vidět kořen toho, matematika pod tím, je Lagrangova mechanika. Takže se vlastně můžete vrátit k Eulerovi a Lagrangeovi a najít trochu toho závan v jejich definici lagrangeovské klasické mechaniky. Takže v kontextu optimálního řízení se tito kluci zajímali v podstatě o počítání trajektorií raket. Víte, tohle byl raný vesmírný věk. A pokud máte model rakety, říká vám zde stav rakety v čase t, a zde je akce, kterou provedu, takže tah a ovladače různých druhů, zde je stav rakety v čase t + 1.

ZDNet: Model stavu a akce, hodnotový model.

YL: Přesně tak, základ kontroly. Nyní tedy můžete simulovat střelbu vaší rakety představou sledu příkazů a pak máte nějakou nákladovou funkci, což je vzdálenost rakety k jejímu cíli, vesmírné stanici nebo co to je. A pak pomocí nějakého gradientu sestupu můžete zjistit, jak mohu aktualizovat svou sekvenci akcí, aby se moje raketa skutečně dostala co nejblíže k cíli. A to musí přijít zpětným šířením signálů zpět v čase. A to je zpětné šíření, gradientní zpětné šíření. Tyto signály se v Lagrangeově mechanice nazývají konjugované proměnné, ale ve skutečnosti jsou to gradienty. Vynalezli tedy backprop, ale neuvědomili si, že tento princip lze použít k trénování vícestupňového systému, který dokáže rozpoznávat vzory nebo něco takového. To bylo skutečně realizováno až možná koncem 70. let, začátkem 80. let, a pak nebylo ve skutečnosti implementováno a fungovalo až v polovině 80. let. Dobře, takže tady backprop opravdu, tak nějak, vzlétl, protože lidé zde ukázali několik řádků kódu, pomocí kterých můžete trénovat neuronovou síť, od začátku do konce, ve více vrstvách. A to ruší omezení Perceptronu. A ano, existují spojení s optimálním ovládáním, ale to je v pořádku.

ZDNet: Takže to je dlouhá cesta k tomu, abych řekl, že tyto vlivy, se kterými jsi začínal, se vracely zpět do backpropu, a to bylo pro tebe důležité jako výchozí bod?

YL: Jo, ale myslím, že na co lidé trochu zapomněli, bylo na tom docela dost práce, víte, v 90. nebo dokonce 80. letech, včetně lidí jako Michael Jordan [MIT Dept. and Cognitive Sciences] a podobným lidem, kteří už nedělají neuronové sítě, ale myšlenku, že můžete použít neuronové sítě pro ovládání a můžete použít klasické myšlenky optimálního ovládání. Takže věci jako to, čemu se říká modelově prediktivní řízení, co se nyní nazývá modelově prediktivní řízení, tato myšlenka, kterou můžete simulovat nebo si představit výsledek sekvence akcí, pokud máte dobrý model systému, který se snažíte ovládat. a prostředí, ve kterém se nachází. A pak pomocí gradientu, v podstatě – to není učení, to je závěr – můžete zjistit, jaká je nejlepší sekvence akcí, která minimalizuje můj cíl. Takže použití nákladové funkce s latentní proměnnou pro odvození je, myslím, něco, na co současná úroda rozsáhlých neuronových sítí zapomněla. Ale byla to po dlouhou dobu velmi klasická součást strojového učení. Takže každá Bayesovská síť nebo grafický model nebo pravděpodobnostní grafický model používal tento typ odvození. Máte model, který zachycuje závislosti mezi hromadou proměnných, je vám sdělena hodnota některých proměnných a pak musíte odvodit nejpravděpodobnější hodnotu zbývajících proměnných. To je základní princip vyvozování v grafických modelech a bayesovských sítích a podobných věcech. A myslím, že o tom by v zásadě mělo být uvažování, uvažování a plánování.

ZDNet: Jsi bayesovský šatník.

YL: Jsem nepravděpodobnostní Bayesian. Ten vtip jsem si dělal předtím. Ve skutečnosti jsem byl na NeurIPS před několika lety, myslím, že to bylo v roce 2018 nebo 2019, a na videu mě zachytil Bayesian, který se mě zeptal, jestli jsem Bayesian, a řekl jsem: Jo, jsem Bayesian, ale já Jsem nepravděpodobnostní Bayesian, něco jako Bayesian založený na energii, chcete-li. 

ZDNet: Což rozhodně jako něco zní star Trek. Zmínil jste se na konci tohoto dokumentu, že to, co si představujete, bude trvat roky opravdu tvrdé práce. Řekněte mi o tom, z čeho některá ta práce v tuto chvíli spočívá.

YL: Takže v novinách vysvětluji, jak trénujete a budujete JEPA. A kritériem, které obhajuji, je mít nějaký způsob maximalizace informačního obsahu, který mají extrahované reprezentace o vstupu. A pak druhým je minimalizace chyby predikce. A pokud máte v prediktoru latentní proměnnou, která umožňuje, aby prediktor nebyl deterministický, musíte regulovat i tuto latentní proměnnou minimalizací jejího informačního obsahu. Takže teď máte dva problémy, jak maximalizovat informační obsah výstupu nějaké neuronové sítě, a druhý je, jak minimalizovat informační obsah nějaké latentní proměnné? A pokud tyto dvě věci neuděláte, systém se zhroutí. Nedozví se nic zajímavého. Všemu dá nulovou energii, něco takového, což není dobrý model závislosti. Zmiňuji se o problému prevence kolapsu. 

A říkám o všech věcech, které kdy lidé udělali, že existují pouze dvě kategorie metod, jak zabránit kolapsu. Jednou jsou kontrastivní metody a druhou jsou ty regularizované metody. Takže tato myšlenka maximalizace informačního obsahu reprezentací dvou vstupů a minimalizace informačního obsahu latentní proměnné patří k regularizovaným metodám. Ale mnoho práce v těchto architekturách společného vkládání používá kontrastní metody. Ve skutečnosti jsou v současné době pravděpodobně nejoblíbenější. Otázkou tedy je, jak přesně měřit informační obsah způsobem, který lze optimalizovat nebo minimalizovat? A to je místo, kde se věci komplikují, protože vlastně nevíme, jak měřit obsah informací. Můžeme to aproximovat, můžeme to odhadnout, můžeme dělat takové věci. Ale ve skutečnosti neměří informační obsah, který vlastně do určité míry není ani dobře definovaný.

ZDNet: Není to Shannonův zákon? Není to teorie informace? Máte určité množství entropie, dobré entropie a špatné entropie a dobrá entropie je systém symbolů, který funguje, špatná entropie je šum. Nevyřešil to všechno Shannon?

YL: Máte pravdu, ale je za tím jedna velká chyba. Máte pravdu v tom smyslu, že pokud k vám přicházejí data a můžete je nějak kvantizovat do diskrétních symbolů a poté změříte pravděpodobnost každého z těchto symbolů, pak maximální množství informací nesené těmito symboly je součet možných symbolů Pi log Pi, že jo? Kde Pi je pravděpodobnost symbolu já — to je Shannonova entropie. [Shannonův zákon je běžně formulován jako H = – ∑ pi log pi.]

Zde je však problém: Co je Pi? Je to snadné, když je počet symbolů malý a symboly se kreslí nezávisle. Když existuje mnoho symbolů a závislostí, je to velmi těžké. Takže, pokud máte posloupnost bitů a předpokládáte, že bity jsou na sobě nezávislé a pravděpodobnost je rovna jedné a nule nebo cokoli jiného, ​​pak můžete snadno změřit entropii, žádný problém. Ale pokud věci, které k vám přicházejí, jsou vysokorozměrné vektory, jako, víte, datové rámce nebo něco podobného, ​​co je Pi? Jaká je distribuce? Nejprve musíte kvantovat tento prostor, což je vysokorozměrný, spojitý prostor. Nemáte ponětí, jak to správně kvantifikovat. Můžete použít k-means atd. To je to, co lidé dělají, když provádějí kompresi videa a kompresi obrázků. Ale je to jen přiblížení. A pak si musíte vytvořit předpoklady nezávislosti. Je tedy jasné, že po sobě jdoucí snímky ve videu nejsou nezávislé. Existují závislosti a tento snímek může záviset na jiném snímku, který jste viděli před hodinou a který byl obrázkem stejné věci. Takže, víte, nemůžete měřit Pi. Měřit Pi, musíte mít systém strojového učení, který se naučí předvídat. A tak jste zpět u předchozího problému. Takže v podstatě můžete pouze přibližovat míru informací. 

Dovolte mi uvést konkrétnější příklad. Jedním z algoritmů, se kterým jsme si hráli, a o kterém jsem v tomto článku mluvil, je věc zvaná VICReg, variance-invariance-kovarianční regularizace. Je to v samostatném článku, který byl publikován na ICLR, a to bylo umístěno na arXiv asi rok předtím, 2021. A myšlenkou je maximalizovat informace. A nápad vlastně vyšel z dřívějšího článku mé skupiny s názvem Dvojčata Barlow. Informační obsah vektoru vycházejícího z neuronové sítě maximalizujete tím, že v zásadě předpokládáte, že jedinou závislostí mezi proměnnými je korelace, lineární závislost. Pokud tedy předpokládáte, že jedinou závislostí, která je možná mezi páry proměnných nebo mezi proměnnými ve vašem systému, jsou korelace mezi páry cenností, což je extrémně hrubá aproximace, pak můžete maximalizovat informační obsah vycházející z vašeho systému. tím, že se ujistíme, že všechny proměnné mají nenulový rozptyl – řekněme, rozptyl jedna, nezáleží na tom, co to je – a pak je zpětně korelujeme, stejný proces, který se nazývá bělení, také to není nic nového. Problém s tím je, že můžete velmi dobře mít extrémně složité závislosti mezi skupinami proměnných nebo dokonce jen páry proměnných, které nejsou lineárními závislostmi, a neukazují se v korelacích. Takže například, pokud máte dvě proměnné a všechny body těchto dvou proměnných jsou seřazeny do nějaké spirály, existuje mezi těmito dvěma proměnnými velmi silná závislost, že? Ale ve skutečnosti, pokud spočítáte korelaci mezi těmito dvěma proměnnými, nejsou ve vzájemné korelaci. Zde je příklad, kdy informační obsah těchto dvou proměnných je ve skutečnosti velmi malý, je to pouze jedna veličina, protože je to vaše pozice ve spirále. Jsou dekorelované, takže si myslíte, že máte spoustu informací vycházejících z těchto dvou proměnných, i když ve skutečnosti ne, máte pouze, víte, v podstatě můžete předpovědět jednu z proměnných od druhé. To tedy ukazuje, že máme pouze velmi přibližné způsoby měření obsahu informací.

ZDNet: Takže to je jedna z věcí, na kterých teď musíte pracovat? Toto je širší otázka, jak poznáme, že maximalizujeme a minimalizujeme informační obsah?

YL:  Nebo zda je proxy, kterou k tomu používáme, dost dobrá pro úkol, který chceme. Ve skutečnosti to ve strojovém učení děláme pořád. Nákladové funkce, které minimalizujeme, nejsou nikdy těmi, které skutečně chceme minimalizovat. Takže například chcete provést klasifikaci, ano? Nákladovou funkcí, kterou chcete při trénování klasifikátoru minimalizovat, je počet chyb, které klasifikátor dělá. Ale to je nediferencovatelná, strašná nákladová funkce, kterou nemůžete minimalizovat, protože víte, že změníte váhy své neuronové sítě, nic se nezmění, dokud jeden z těch vzorků nezmění své rozhodnutí, a pak skok v chybě, pozitivní nebo negativní.

ZDNet: Takže máte proxy, což je objektivní funkce, o které můžete určitě říci, že můžeme určitě tok gradientů této věci.

YL: To je správně. Takže lidé používají tuto ztrátu křížové entropie nebo SOFTMAX, máte pro to několik jmen, ale je to to samé. A v podstatě je to hladká aproximace počtu chyb, které systém dělá, kde se vyhlazování provádí v podstatě tak, že se bere v úvahu skóre, které systém uděluje každé z kategorií.

ZDNet: Je něco, co jsme neprobrali, co byste chtěli probrat?

YL: Pravděpodobně to zdůrazňuje hlavní body. Myslím, že systémy umělé inteligence musí být schopny uvažovat a proces, který obhajuji, je minimalizace určitého cíle s ohledem na nějakou latentní proměnnou. To umožňuje systémům plánovat a uvažovat. Myslím, že bychom měli opustit pravděpodobnostní rámec, protože je neřešitelný, když chceme dělat věci, jako je zachycení závislostí mezi vysokorozměrnými, spojitými proměnnými. A já jsem zastáncem opuštění generativních modelů, protože systém bude muset věnovat příliš mnoho zdrojů na předpovídání věcí, které je příliš obtížné předvídat a možná spotřebovává příliš mnoho zdrojů. A to je do značné míry vše. To jsou hlavní zprávy, chcete-li. A pak celková architektura. Pak jsou tu ty spekulace o povaze vědomí a roli konfigurátoru, ale to je opravdu spekulace.

ZDNet: K tomu se dostaneme příště. Chtěl jsem se vás zeptat, jak tuto věc hodnotíte? Ale předpokládám, že jste právě teď trochu dál od benchmarkingu?

YL: Ne nutně tak daleko ve zjednodušených verzích. Můžete dělat to, co každý dělá v ovládání nebo posilování učení, což znamená, že trénujete hraní her Atari nebo něco podobného nebo nějakou jinou hru, která v sobě nese určitou nejistotu.

ZDNet: Díky za tvůj čas, Yanne.