Гуру штучнага інтэлекту Meta ЛеКун: большасць сучасных падыходаў штучнага інтэлекту ніколі не прывядуць да сапраўднага інтэлекту

ZDNet: Мы кажам, што за межамі інвестыцыйнага гарызонту большасці інвестараў.

YL: Правільна. Такім чынам, пытанне ў тым, ці страцяць людзі цярпенне ці скончацца грошы, перш чым прадукцыйнасць дасягне патрэбнага ўзроўню.

ZDNet: Ці можна сказаць што-небудзь цікавае пра тое, чаму вы выбралі некаторыя з выбраных вамі элементаў у мадэлі? Таму што вы цытуеце Кэнэта Крэйка [1943 г.Прырода тлумачэння], і вы цытуеце Брайсана і Хо [1969, Ужываецца аптымальны кантроль], і мне цікава, чаму вы пачалі з гэтымі ўплывамі, калі вы асабліва верылі ў тое, што гэтыя людзі дасягнулі таго, што яны зрабілі. Чаму вы пачалі там?

YL: Ну, я не думаю, што, вядома, у іх былі прапісаны ўсе дэталі. Такім чынам, Брайсан і Хо, гэта кніга, якую я прачытаў яшчэ ў 1987 годзе, калі быў у постдакуменце з Джэфры Хінтанам у Таронта. Але я ведаў пра гэты накірунак працы загадзя, калі пісаў сваю доктарскую, і, па сутнасці, звязаў аптымальны кантроль і падпору. Калі б вы сапраўды хацелі стаць яшчэ адным Шмідхуберам, вы б сказалі, што сапраўднымі вынаходнікамі бэкпрапа былі тэарэтыкі аптымальнага кіравання Генры Дж. Келі, Артур Брайсан і, магчыма, нават Леў Понтрягін, расійскі тэарэтык аптымальнага кантролю у канцы 50-х гг. 

Такім чынам, яны высветлілі гэта, і насамрэч, вы можаце ўбачыць корань гэтага, матэматыку, якая ляжыць у аснове гэтага, - гэта механіка Лагранжа. Такім чынам, вы можаце вярнуцца да Эйлера і Лагранжа, на самай справе, і накшталт знайсці дух гэтага ў іх вызначэнні класічнай механікі Лагранжа. Такім чынам, у кантэксце аптымальнага кіравання гэтыя хлопцы цікавіліся ў асноўным вылічэннем траекторый ракет. Ведаеце, гэта была ранняя касмічная эра. І калі ў вас ёсць мадэль ракеты, яна паказвае вам стан ракеты ў той час t, і вось дзеянне, якое я збіраюся выканаць, такім чынам, цяга і прывады розных відаў, вось стан ракеты ў той час t+1.

ZDNet: Мадэль стан-дзеянне, каштоўнасная мадэль.

YL: Правільна, аснова кантролю. Такім чынам, цяпер вы можаце змадэляваць стральбу вашай ракеты, уявіўшы паслядоўнасць каманд, і тады ў вас ёсць нейкая функцыя кошту, якая ўяўляе сабой адлегласць ракеты да мэты, касмічнай станцыі ці чаго заўгодна. А затым з дапамогай нейкага градыентнага спуску вы можаце высветліць, як я магу абнавіць сваю паслядоўнасць дзеянняў, каб мая ракета сапраўды наблізілася да мэты як мага бліжэй. І гэта адбываецца шляхам зваротнага распаўсюджвання сігналаў назад у часе. І гэта зваротнае распаўсюджванне, градыентнае зваротнае распаўсюджванне. Гэтыя сігналы ў механіцы Лагранжа называюцца спалучанымі зменнымі, але насамрэч гэта градыенты. Такім чынам, яны вынайшлі бэкпрап, але яны не здагадваліся, што гэты прынцып можа быць выкарыстаны для навучання шматступеннай сістэмы, якая можа распазнаваць вобразы ці нешта падобнае. Гэта не было рэальна рэалізавана, магчыма, да канца 70-х, пачатку 80-х, а потым не было фактычна рэалізавана і не запрацавала да сярэдзіны 80-х. Добра, такім чынам, гэта тое, дзе бэкпрап сапраўды, накшталт, узляцеў, таму што людзі паказалі вось некалькі радкоў кода, з дапамогай якіх можна навучыць нейронавую сетку скразную, шматслаёвую. І гэта здымае абмежаванні Perceptron. І, так, ёсць сувязі з аптымальным кантролем, але гэта нармальна.

ZDNet: Такім чынам, гэта далёка сказаць, што гэтыя ўплывы, з якіх вы пачыналі, вярталіся да бэкап, і гэта было важна для вас у якасці адпраўной кропкі?

YL: Так, але я думаю, пра што людзі крыху забыліся, над гэтым было даволі шмат працы, ведаеце, яшчэ ў 90-я ці нават 80-я, у тым ліку такімі людзьмі, як Майкл Джордан [кафедра мозгу MIT і кагнітыўныя навукі] і такіх людзей, якія больш не займаюцца нейронавымі сеткамі, але ідэяй, што вы можаце выкарыстоўваць нейронавыя сеткі для кіравання, і вы можаце выкарыстоўваць класічныя ідэі аптымальнага кантролю. Такім чынам, такія рэчы, як тое, што называецца кіраваннем з прагназаваннем мадэлі, што цяпер называецца кіраваннем з прагназаваннем мадэлі, гэтая ідэя, што вы можаце змадэляваць або ўявіць сабе вынік паслядоўнасці дзеянняў, калі ў вас ёсць добрая мадэль сістэмы, якой вы спрабуеце кіраваць. і асяроддзе, у якім ён знаходзіцца. А затым з дапамогай градыентнага спуску, па сутнасці - гэта не навучанне, гэта вывад - вы можаце высветліць, якая лепшая паслядоўнасць дзеянняў, якая мінімізуе маю мэту. Такім чынам, я думаю, што выкарыстанне функцыі выдаткаў са схаванай зменнай для вываду - гэта тое, пра што сучасныя ўраджаі буйнамаштабных нейронавых сетак забыліся. Але гэта быў вельмі класічны кампанент машыннага навучання на працягу доўгага часу. Такім чынам, кожная байесовская сетка або графічная мадэль або імавернасная графічная мадэль выкарыстоўвалі гэты тып высновы. У вас ёсць мадэль, якая фіксуе залежнасці паміж групай зменных, вам паведамляюць значэнне некаторых зменных, а затым вы павінны зрабіць выснову пра найбольш верагоднае значэнне астатніх зменных. Гэта асноўны прынцып высновы ў графічных мадэлях і байесовских сетках і таму падобных рэчах. І я думаю, што гэта ў асноўным тое, пра што павінны быць развагі, развагі і планаванне.

ZDNet: Вы шафа Байес.

YL: Я неімавернасны байесавец. Я жартаваў раней. Я сапраўды быў у NeurIPS некалькі гадоў таму, я думаю, што гэта было ў 2018 ці 2019 гадах, і я быў зняты на відэа байесаўцам, які спытаў мяне, ці з'яўляюся я байесаўцам, і я сказаў: "Так, я байесавец, але я Я неімавернасны байесовец, накшталт, байесовец на аснове энергіі, калі хочаце. 

ZDNet: Што, безумоўна, гучыць як нешта з Star Trek. Вы згадалі ў канцы гэтага дакумента, што спатрэбяцца гады вельмі цяжкай працы, каб рэалізаваць тое, што вы сабе ўяўляеце. Раскажыце мне пра тое, з чаго складаецца гэтая праца на дадзены момант.

YL: Такім чынам, я тлумачу, як вы трэніруецеся і будуеце JEPA ў артыкуле. І крытэрый, за які я выступаю, - гэта нейкі спосаб максімізацыі інфармацыйнага зместу, які здабываюцца ўяўленні пра ўвод. А другі - гэта мінімізацыя памылкі прагназавання. І калі ў вас ёсць схаваная зменная ў прадказальніку, якая дазваляе прадказальніку быць недэтэрмінаваным, вы павінны ўрэгуляваць і гэтую схаваную зменную, мінімізуючы яе інфармацыйнае ўтрыманне. Такім чынам, зараз у вас дзве праблемы: як максымізаваць інфармацыйнае ўтрыманне вываду нейрасецівы, а другое - як мінімізаваць інфармацыйнае ўтрыманне нейкай схаванай зменнай? І калі вы не зробіце гэтыя дзве рэчы, сістэма разваліцца. Нічога цікавага не даведаешся. Гэта дасць нуль энергіі ўсім, штосьці падобнае, што не з'яўляецца добрай мадэллю залежнасці. Гэта праблема прадухілення калапсу, пра якую я згадваю. 

І я кажу, што з усіх рэчаў, якія калі-небудзь рабілі людзі, ёсць толькі дзве катэгорыі метадаў, каб прадухіліць калапс. Адзін - гэта кантрасныя метады, а другі - рэгулярныя метады. Такім чынам, гэтая ідэя максімізацыі інфармацыйнага зместу ўяўленняў двух уваходаў і мінімізацыі інфармацыйнага зместу схаванай зменнай належыць да рэгулярных метадаў. Але вялікая частка працы ў гэтых архітэктурах сумеснага ўбудавання праводзіцца з выкарыстаннем кантрасных метадаў. На самай справе яны, напэўна, самыя папулярныя на дадзены момант. Такім чынам, пытанне ў тым, як менавіта вы вымяраеце змест інфармацыі такім чынам, што вы можаце аптымізаваць або мінімізаваць? І вось тут усё ўскладняецца, таму што мы насамрэч не ведаем, як вымераць змест інфармацыі. Мы можам наблізіць гэта, мы можам зрабіць верхнюю мяжу, мы можам рабіць такія рэчы. Але яны фактычна не вымяраюць інфармацыйнае напаўненне, якое, насамрэч, у пэўнай ступені нават не вызначана.

ZDNet: Гэта не закон Шэнана? Гэта не тэорыя інфармацыі? У вас ёсць пэўная колькасць энтрапіі, добрая энтрапія і дрэнная энтрапія, і добрая энтрапія - гэта сістэма сімвалаў, якая працуе, дрэнная энтрапія - гэта шум. Ці не Шэнан усё вырашыла?

YL: Вы маеце рацыю, але за гэтым ёсць сур'ёзны недахоп. Вы маеце рацыю ў тым сэнсе, што калі да вас паступаюць дадзеныя, і вы можаце нейкім чынам квантаваць дадзеныя ў дыскрэтныя сімвалы, а потым вымераць верагоднасць кожнага з гэтых сімвалаў, то максімальная колькасць інфармацыі, якую нясуць гэтыя сімвалы, будзе сума над магчымымі сімваламі Пі лог Пі, праўда? дзе Pi гэта верагоднасць сімвала я — гэта энтрапія Шэнана. [Закон Шэнана звычайна фармулюецца як H = – ∑ pi log pi.]

Вось праблема, аднак: Што ёсць Pi? Гэта проста, калі сімвалаў мала і сімвалы малююцца самастойна. Калі ёсць шмат сімвалаў і залежнасцяў, гэта вельмі цяжка. Такім чынам, калі ў вас ёсць паслядоўнасць бітаў і вы мяркуеце, што біты не залежаць адзін ад аднаго, а верагоднасць роўная ад адзінкі да нуля ці што заўгодна, то вы можаце лёгка вымераць энтрапію, без праблем. Але калі рэчы, якія прыходзяць да вас, - гэта вектары высокай памернасці, напрыклад, кадры даных ці нешта падобнае, што Pi? Што такое размеркаванне? Спачатку вы павінны квантаваць гэтую прастору, якая з'яўляецца шматмернай, бесперапыннай прасторай. Вы паняцця не маеце, як квантаваць гэта правільна. Вы можаце выкарыстоўваць k-сярэднія і г.д. Гэта тое, што людзі робяць, калі сціскаюць відэа і выявы. Але гэта толькі прыблізна. І тады трэба рабіць здагадкі аб незалежнасці. Такім чынам, відавочна, што ў відэа паслядоўныя кадры не з'яўляюцца незалежнымі. Ёсць залежнасці, і гэты кадр можа залежаць ад іншага кадра, які вы бачылі гадзіну таму і які быў выявай таго ж. Такім чынам, вы ведаеце, вы не можаце вымераць Pi. Мераць Pi, у вас павінна быць сістэма машыннага навучання, якая вучыцца прадказваць. І вось вы вярнуліся да папярэдняй праблемы. Такім чынам, вы можаце толькі прыблізна вызначыць колькасць інфармацыі, па сутнасці. 

Прывяду больш канкрэтны прыклад. Адзін з алгарытмаў, з якімі мы гуляем і пра якія я гаварыў у артыкуле, гэта такая рэч, якая называецца VICReg, рэгулярізацыя дысперсіі-інварыянтнасці-каварыянтнасці. Гэта ў асобным артыкуле, які быў апублікаваны ў ICLR, і ён быў пастаўлены на arXiv прыкладна за год да гэтага, у 2021. І ідэя заключаецца ў максімізацыі інфармацыі. І гэтая ідэя на самай справе з'явілася ў ранейшай працы маёй групы пад назвай Блізняты Барлоў. Вы максымізуеце інфармацыйнае ўтрыманне вектара, які выходзіць з нейронавай сеткі, у асноўным, мяркуючы, што адзіная залежнасць паміж зменнымі - гэта карэляцыя, лінейная залежнасць. Такім чынам, калі вы выкажаце здагадку, што адзіная залежнасць, якая магчыма паміж парамі зменных або паміж зменнымі ў вашай сістэме, гэта карэляцыі паміж парамі каштоўнасцей, што з'яўляецца вельмі грубым набліжэннем, то вы можаце максымізаваць інфармацыйнае ўтрыманне, якое выходзіць з вашай сістэмы. пераканаўшыся, што ўсе зменныя маюць адрозную ад нуля дысперсію - скажам, дысперсію адзін, не мае значэння, што гэта такое - і потым іх зваротную карэляцыю, той самы працэс, які называецца адбельваннем, таксама не новы. Праблема з гэтым заключаецца ў тым, што вы цалкам можаце мець надзвычай складаныя залежнасці паміж групамі зменных або нават паміж парамі зменных, якія не з'яўляюцца лінейнымі залежнасцямі, і яны не адлюстроўваюцца ў карэляцыі. Такім чынам, напрыклад, калі ў вас ёсць дзве зменныя, і ўсе пункты гэтых дзвюх зменных выстройваюцца па нейкай спіралі, паміж гэтымі дзвюма зменнымі існуе вельмі моцная залежнасць, праўда? Але на самой справе, калі вы вылічыце карэляцыю паміж гэтымі дзвюма зменнымі, яны не карэлююць. Такім чынам, вось прыклад, калі інфармацыйнае ўтрыманне гэтых дзвюх зменных на самай справе вельмі малае, гэта толькі адна велічыня, таму што гэта ваша пазіцыя па спіралі. Яны дэкарэляваныя, так што вы думаеце, што з гэтых дзвюх зменных выцякае шмат інфармацыі, хаця насамрэч гэта не так, у вас ёсць толькі, ведаеце, вы можаце прадбачыць адну з зменных па сутнасці другой. Такім чынам, гэта паказвае, што ў нас ёсць толькі вельмі прыблізныя спосабы вымярэння зместу інфармацыі.

ZDNet: І гэта адна з рэчаў, над якімі вам зараз трэба папрацаваць? Гэта больш шырокае пытанне аб тым, як мы ведаем, калі мы максымізуем і мінімізуем змест інфармацыі?

YL:  Або ці дастаткова добры проксі, які мы выкарыстоўваем для гэтай задачы. Фактычна, мы робім гэта ўвесь час у машынным навучанні. Функцыі выдаткаў, якія мы мінімізуем, ніколі не з'яўляюцца тымі, якія мы сапраўды хочам мінімізаваць. Такім чынам, напрыклад, вы хочаце зрабіць класіфікацыю, добра? Функцыя кошту, якую вы хочаце мінімізаваць пры навучанні класіфікатара, - гэта колькасць памылак, якія робіць класіфікатар. Але гэта недыферэнцуемая, жудасная функцыя выдаткаў, якую вы не можаце звесці да мінімуму, таму што вы ведаеце, што збіраецеся змяніць вагу вашай нейронавай сеткі, нічога не зменіцца, пакуль адзін з гэтых узораў не адменіць сваё рашэнне, а потым скачок у памылцы, станоўчай ці адмоўнай.

ZDNet: Такім чынам, у вас ёсць проксі, які з'яўляецца мэтавай функцыяй, і вы можаце дакладна сказаць, што мы можам вызначана градыенты патоку гэтай рэчы.

YL: Правільна. Такім чынам, людзі выкарыстоўваюць гэтую перакрыжаваную страту энтрапіі, або SOFTMAX, у вас ёсць некалькі назваў, але гэта адно і тое ж. І ў асноўным гэта плыўнае набліжэнне колькасці памылак, якія робіць сістэма, дзе згладжванне робіцца, у асноўным, з улікам балаў, якія сістэма дае кожнай з катэгорый.

ZDNet: Ці ёсць нешта, што мы не разглядалі, што вы хацелі б асвятліць?

YL: Напэўна, гэта падкрэслівае асноўныя моманты. Я думаю, што сістэмы штучнага інтэлекту павінны ўмець разважаць, і працэс для гэтага, які я адстойваю, заключаецца ў мінімізацыі нейкай мэты адносна нейкай схаванай зменнай. Гэта дазваляе сістэмам планаваць і разважаць. Я думаю, што нам варта адмовіцца ад імавернаснай структуры, таму што яна невырашальная, калі мы хочам рабіць такія рэчы, як захоп залежнасцяў паміж шматмернымі бесперапыннымі зменнымі. І я выступаю за тое, каб адмовіцца ад генератыўных мадэляў, таму што сістэме давядзецца выдзяляць занадта шмат рэсурсаў для прагназавання рэчаў, якія занадта цяжка прадбачыць і, магчыма, спажываюць занадта шмат рэсурсаў. І гэта практычна ўсё. Гэта асноўныя паведамленні, калі хочаце. А потым агульная архітэктура. Потым ёсць здагадкі аб прыродзе свядомасці і ролі канфігуратара, але гэта сапраўды здагадкі.

ZDNet: Мы дабярэмся да гэтага ў наступны раз. Я хацеў спытаць вас, як вы параўнаеце гэтую рэч? Але я мяркую, што вы зараз крыху далей ад параўнальнага аналізу?

YL: Неабавязкова так далёка ў, накшталт, спрошчаных версіях. Вы можаце рабіць тое, што робяць усе ў працэсе кантролю або навучання з падмацаваннем, гэта значыць, вы навучыце рэч гуляць у гульні Atari ці нешта падобнае, ці ў якую-небудзь іншую гульню, якая мае некаторую нявызначанасць.

ZDNet: Дзякуй за ваш час, Ян.