Meta's AI guru LeCun: Väčšina dnešných prístupov AI nikdy nepovedie k skutočnej inteligencii

ZDNet: Hovoríme za investičným horizontom väčšiny investorov.

YL: To je správne. Otázkou teda je, či ľudia stratia trpezlivosť alebo sa minú peniaze skôr, ako výkon dosiahne požadovanú úroveň.

ZDNet: Dá sa niečo zaujímavé povedať o tom, prečo ste si vybrali niektoré prvky, ktoré ste si vybrali v modeli? Pretože citujete Kennetha Craika [1943,Povaha vysvetlenia] a citujete Brysona a Ho [1969, Aplikované optimálne ovládanie] a zaujímalo by ma, prečo ste začali s týmito vplyvmi, ak ste verili najmä tomu, že títo ľudia to dotiahli tak ďaleko, ako to, čo urobili. Prečo ste tam začali?

YL: No, nemyslím si, určite, že mali všetky detaily pribité. Takže, Bryson a Ho, toto je kniha, ktorú som čítal v roku 1987, keď som bol postdoktorandom u Geoffreyho Hintona v Toronte. Ale o tejto línii práce som vedel už predtým, keď som písal doktorát, a v podstate som vytvoril spojenie medzi optimálnou kontrolou a podporou. Ak by ste naozaj chceli byť, viete, ďalším Schmidhuberom, povedali by ste, že skutočnými vynálezcami backprop boli v skutočnosti teoretici optimálneho riadenia Henry J. Kelley, Arthur Bryson a možno aj Lev Pontryagin, ktorý je ruský teoretik optimálneho riadenia. koncom 50-tych rokov. 

Takže na to prišli a v skutočnosti môžete vidieť koreň toho, matematiku pod tým, Lagrangovu mechaniku. Takže sa v skutočnosti môžete vrátiť k Eulerovi a Lagrangeovi a nájsť závan tohto v ich definícii klasickej Lagrangeovej mechaniky. Takže v kontexte optimálneho riadenia sa títo chlapci zaujímali v podstate o výpočet trajektórií rakiet. Viete, toto bol raný vesmírny vek. A ak máte model rakety, tu vám povie, v akom stave sa raketa v danom čase nachádza ta tu je akcia, ktorú urobím, takže ťah a ovládače rôznych druhov, tu je stav rakety v čase t + 1.

ZDNet: Stavovo-akčný model, hodnotový model.

YL: Presne tak, základ kontroly. Takže teraz môžete simulovať streľbu vašej rakety predstavením si postupnosti príkazov a potom máte nejakú nákladovú funkciu, ktorou je vzdialenosť rakety od jej cieľa, vesmírnej stanice alebo čohokoľvek iného. A potom nejakým gradientom klesania môžete zistiť, ako môžem aktualizovať svoju postupnosť akcií, aby sa moja raketa skutočne dostala čo najbližšie k cieľu. A to musí prísť spätným šírením signálov späť v čase. A to je spätné šírenie, gradientné spätné šírenie. Tieto signály sa v Lagrangeovej mechanike nazývajú konjugované premenné, ale v skutočnosti sú to gradienty. Takže vynašli backprop, ale neuvedomili si, že tento princíp by sa dal použiť na trénovanie viacstupňového systému, ktorý dokáže rozpoznávať vzory alebo niečo podobné. Toto sa v skutočnosti neuskutočnilo až do konca 70-tych rokov, začiatkom 80-tych rokov, a potom to nebolo v skutočnosti implementované a fungovalo až v polovici 80-tych rokov. Dobre, takže toto je miesto, kde sa backprop skutočne, tak trochu, rozbehol, pretože ľudia tu ukázali niekoľko riadkov kódu, pomocou ktorých môžete trénovať neurónovú sieť, od konca po koniec, viacvrstvovú. A to ruší obmedzenia perceptrónu. A áno, existujú spojenia s optimálnym ovládaním, ale to je v poriadku.

ZDNet: Takže, to je dlhá cesta k tomu, aby som povedal, že tieto vplyvy, s ktorými si začínal, sa vracali späť do backpropu a to bolo pre teba dôležité ako východiskový bod?

YL: Áno, ale myslím si, že na čo ľudia trochu zabudli, bolo na tom dosť veľa práce, viete, v 90. alebo dokonca 80. rokoch, vrátane ľudí ako Michael Jordan [MIT Dept. of Brain and Cognitive Sciences] a takých ľudí, ktorí už nerobia neurónové siete, ale myšlienku, že môžete použiť neurónové siete na ovládanie a môžete použiť klasické myšlienky optimálneho ovládania. Takže veci ako to, čo sa nazýva modelovo-prediktívne riadenie, čo sa teraz nazýva modelovo-prediktívne riadenie, tento nápad, ktorý môžete simulovať alebo si predstaviť výsledok postupnosti akcií, ak máte dobrý model systému, ktorý sa pokúšate ovládať. a prostredie, v ktorom sa nachádza. A potom pomocou gradientu, v podstate – toto nie je učenie, to je odvodenie – môžete zistiť, aká je najlepšia postupnosť akcií, ktoré minimalizujú môj cieľ. Takže použitie nákladovej funkcie s latentnou premennou na odvodenie je podľa mňa niečo, na čo súčasná úroda veľkých neurónových sietí zabudla. Dlho to však bola veľmi klasická súčasť strojového učenia. Takže každá Bayesovská sieť alebo grafický model alebo pravdepodobnostný grafický model používal tento typ odvodenia. Máte model, ktorý zachytáva závislosti medzi množstvom premenných, je vám povedané hodnota niektorých premenných a potom musíte odvodiť najpravdepodobnejšiu hodnotu zvyšku premenných. To je základný princíp inferencie v grafických modeloch a Bayesovských sieťach a podobných veciach. A myslím si, že o tom by v zásade malo byť uvažovanie, uvažovanie a plánovanie.

ZDNet: Si skriňový Bayesian.

YL: Som nepravdepodobný Bayesian. Ten vtip som si robil predtým. V skutočnosti som bol na NeurIPS pred niekoľkými rokmi, myslím, že to bolo v roku 2018 alebo 2019, a na videu ma zachytil Bayesian, ktorý sa ma spýtal, či som Bayesian, a povedal som: Áno, som Bayesian, ale Ak chcete, som nepravdepodobný Bayesian, akýsi bayesiánsky založený na energii. 

ZDNet: Čo určite znie ako niečo z star Trek. Na konci tohto dokumentu ste spomenuli, že realizácia toho, čo si predstavujete, bude trvať roky skutočne tvrdej práce. Povedzte mi, v čom spočíva časť tejto práce v súčasnosti.

YL: Takže v novinách vysvetľujem, ako trénujete a budujete JEPA. A kritérium, ktoré obhajujem, je mať nejaký spôsob maximalizácie informačného obsahu, ktorý majú extrahované reprezentácie o vstupe. A potom druhým je minimalizácia chyby predikcie. A ak máte v prediktore latentnú premennú, ktorá umožňuje, aby prediktor nebol deterministický, musíte regulovať aj túto latentnú premennú minimalizovaním jej informačného obsahu. Takže máte teraz dva problémy, a to, ako maximalizovať informačný obsah výstupu nejakej neurónovej siete, a druhý je, ako minimalizovať informačný obsah nejakej latentnej premennej? A ak neurobíte tieto dve veci, systém sa zrúti. Nedozvie sa nič zaujímavé. Dá nulovú energiu všetkému, niečomu takému, čo nie je dobrý model závislosti. Je to problém prevencie kolapsu, ktorý spomínam. 

A hovorím o všetkých veciach, ktoré ľudia kedy urobili, že existujú len dve kategórie metód, ako zabrániť kolapsu. Jednou z nich sú kontrastné metódy a druhou sú regulované metódy. Takže táto myšlienka maximalizácie informačného obsahu reprezentácií dvoch vstupov a minimalizácie informačného obsahu latentnej premennej patrí k regularizovaným metódam. Ale veľa práce v týchto architektúrach spoločného vkladania používa kontrastné metódy. V skutočnosti sú momentálne asi najpopulárnejšie. Otázkou teda je, ako presne merať informačný obsah spôsobom, ktorý môžete optimalizovať alebo minimalizovať? A to je miesto, kde sa veci skomplikujú, pretože v skutočnosti nevieme, ako merať informačný obsah. Môžeme to aproximovať, môžeme to určiť hornou hranicou, môžeme robiť takéto veci. V skutočnosti však nemerajú informačný obsah, ktorý v skutočnosti do určitej miery nie je ani dobre definovaný.

ZDNet: Nie je to Shannonov zákon? Nie je to teória informácie? Máte určité množstvo entropie, dobrú entropiu a zlú entropiu a dobrá entropia je systém symbolov, ktorý funguje, zlá entropia je hluk. Nevyriešil to všetko Shannon?

YL: Máš pravdu, ale je za tým jeden veľký nedostatok. Máte pravdu v tom zmysle, že ak k vám prichádzajú údaje a môžete ich nejako kvantovať do diskrétnych symbolov a potom zmeriate pravdepodobnosť každého z týchto symbolov, potom maximálne množstvo informácií, ktoré tieto symboly nesú, je súčet možných symbolov Pi log Pi, správny? Kde Pi je pravdepodobnosť symbolu ja — to je Shannonova entropia. [Shannonov zákon sa bežne formuluje ako H = – ∑ pi log pi.]

Tu je však problém: Čo je Pi? Je to jednoduché, keď je počet symbolov malý a symboly sa kreslia nezávisle. Keď existuje veľa symbolov a závislostí, je to veľmi ťažké. Takže, ak máte postupnosť bitov a predpokladáte, že bity sú na sebe nezávislé a pravdepodobnosť je rovnaká medzi jedna a nula alebo čokoľvek iné, potom môžete ľahko zmerať entropiu, žiadny problém. Ale ak veci, ktoré k vám prichádzajú, sú vysokorozmerné vektory, ako, viete, dátové rámce alebo niečo podobné, čo je Pi? Aká je distribúcia? Najprv musíte kvantovať tento priestor, ktorý je vysokorozmerným, súvislým priestorom. Nemáte potuchy, ako to správne kvantifikovať. Môžete použiť k-means, atď. To je to, čo ľudia robia, keď robia kompresiu videa a kompresiu obrázkov. Ale je to len približné. A potom musíte urobiť predpoklady nezávislosti. Je teda jasné, že vo videu nie sú po sebe nasledujúce snímky nezávislé. Existujú závislosti a tento rámec môže závisieť od iného rámca, ktorý ste videli pred hodinou a ktorý bol obrázkom toho istého. Takže viete, nemôžete merať Pi. Merať Pi, musíte mať systém strojového učenia, ktorý sa naučí predpovedať. A tak ste späť k predchádzajúcemu problému. Takže v podstate môžete len približovať mieru informácií. 

Uvediem konkrétnejší príklad. Jedným z algoritmov, s ktorým sme sa hrali a o ktorom som v tomto článku hovoril, je táto vec nazývaná VICReg, variácia-invariancia-kovariančná regularizácia. Je to v samostatnom dokumente, ktorý bol publikovaný v ICLR, a bolo to umiestnené na arXiv asi rok predtým, 2021. A myšlienkou je maximalizovať informácie. A táto myšlienka vlastne vyplynula zo skoršieho článku mojej skupiny s názvom Dvojčatá Barlow. Informačný obsah vektora vychádzajúceho z neurónovej siete maximalizujete tým, že v podstate predpokladáte, že jedinou závislosťou medzi premennými je korelácia, lineárna závislosť. Takže, ak predpokladáte, že jedinou závislosťou, ktorá je možná medzi pármi premenných alebo medzi premennými vo vašom systéme, sú korelácie medzi pármi cenností, čo je extrémne hrubá aproximácia, potom môžete maximalizovať informačný obsah vychádzajúci z vášho systému. uistením sa, že všetky premenné majú nenulový rozptyl – povedzme, rozptyl jedna, nezáleží na tom, čo to je – a potom ich spätnou koreláciou, rovnaký proces, ktorý sa nazýva bielenie, tiež nie je nový. Problém je v tom, že veľmi dobre môžete mať extrémne zložité závislosti medzi skupinami premenných alebo dokonca len pármi premenných, ktoré nie sú lineárnymi závislosťami, a neukazujú sa v koreláciách. Takže napríklad, ak máte dve premenné a všetky body týchto dvoch premenných sú zoradené do nejakej špirály, medzi týmito dvoma premennými je veľmi silná závislosť, však? Ale v skutočnosti, ak vypočítate koreláciu medzi týmito dvoma premennými, nie sú korelované. Takže, tu je príklad, kde je informačný obsah týchto dvoch premenných v skutočnosti veľmi malý, je to len jedna veličina, pretože je to vaša pozícia v špirále. Sú nekorelované, takže si myslíte, že máte veľa informácií, ktoré pochádzajú z týchto dvoch premenných, hoci v skutočnosti nie, máte len, viete, v podstate môžete predpovedať jednu z premenných od druhej. To teda ukazuje, že máme len veľmi približné spôsoby merania obsahu informácií.

ZDNet: Takže toto je jedna z vecí, na ktorých teraz musíte pracovať? Toto je väčšia otázka, ako vieme, kedy maximalizujeme a minimalizujeme informačný obsah?

YL:  Alebo či je proxy server, ktorý na to používame, dosť dobrý na úlohu, ktorú chceme. V skutočnosti to robíme stále v strojovom učení. Nákladové funkcie, ktoré minimalizujeme, nikdy nie sú tými, ktoré skutočne chceme minimalizovať. Takže napríklad chcete urobiť klasifikáciu, dobre? Funkciou nákladov, ktorú chcete minimalizovať pri trénovaní klasifikátora, je počet chýb, ktoré klasifikátor robí. Ale to je nediferencovateľná, strašná nákladová funkcia, ktorú nemôžete minimalizovať, pretože viete, že zmeníte váhy svojej neurónovej siete, nič sa nezmení, kým jedna z týchto vzoriek neprevráti svoje rozhodnutie a potom skok v chybe, pozitívne alebo negatívne.

ZDNet: Takže máte proxy, čo je objektívna funkcia, o ktorej môžete určite povedať, že môžeme určite plynúť gradienty tejto veci.

YL: To je správne. Takže ľudia používajú túto stratu krížovej entropie alebo SOFTMAX, máte pre to niekoľko mien, ale je to to isté. A v podstate ide o hladkú aproximáciu počtu chýb, ktoré systém robí, pričom vyhladzovanie sa v podstate robí tak, že sa berie do úvahy skóre, ktoré systém prideľuje každej z kategórií.

ZDNet: Je niečo, čo sme neprebrali, čo by ste chceli pokryť?

YL: Pravdepodobne zdôrazňuje hlavné body. Myslím si, že systémy AI musia byť schopné uvažovať a proces, ktorý obhajujem, je minimalizácia určitého cieľa s ohľadom na nejakú latentnú premennú. To umožňuje systémom plánovať a uvažovať. Myslím si, že by sme mali opustiť pravdepodobnostný rámec, pretože je neriešiteľný, keď chceme robiť veci, ako je zachytávanie závislostí medzi vysokorozmernými spojitými premennými. A ja obhajujem opustenie generatívnych modelov, pretože systém bude musieť venovať príliš veľa zdrojov na predpovedanie vecí, ktoré je príliš ťažké predpovedať a možno spotrebuje príliš veľa zdrojov. A to je asi tak všetko. To sú hlavné správy, ak chcete. A potom celková architektúra. Potom sú tu také špekulácie o povahe vedomia a úlohe konfigurátora, ale to sú skutočne špekulácie.

ZDNet: K tomu sa dostaneme nabudúce. Chcel som sa ťa opýtať, ako porovnávaš túto vec? Ale predpokladám, že ste teraz trochu ďalej od benchmarkingu?

YL: Nie nevyhnutne tak ďaleko v, akési, zjednodušené verzie. Môžete robiť to, čo každý robí pri ovládaní alebo posilňovaní učenia, čo znamená, že trénujete hru na Atari hry alebo niečo podobné alebo inú hru, ktorá má v sebe určitú neistotu.

ZDNet: Ďakujem za tvoj čas, Yann.