Гуру искусственного интеллекта Meta ЛеКун: большинство современных подходов к искусственному интеллекту никогда не приведут к истинному интеллекту

ЗДНет: Мы говорим за пределами инвестиционного горизонта большинства инвесторов.

ЮЛ: Вот так. Итак, вопрос в том, потеряют ли люди терпение или закончатся деньги, прежде чем производительность достигнет желаемого уровня.

ЗДНет: Есть ли что-нибудь интересное, что можно сказать о том, почему вы выбрали некоторые из выбранных вами элементов в модели? Поскольку вы цитируете Кеннета Крейка [1943,Природа объяснения], а вы цитируете Брайсона и Хо [1969, Прикладной оптимальный контроль], и мне любопытно, почему вы начали с этих влияний, если вы особенно верили, что эти люди добились успеха в том, что они сделали. Почему вы начали там?

ЮЛ: Ну, я не думаю, конечно, что у них были прибиты все детали. Итак, Брайсон и Хо, эту книгу я прочитал в 1987 году, когда работал постдоком у Джеффри Хинтона в Торонто. Но я знал об этом направлении работы заранее, когда писал диссертацию, и, по сути, установил связь между оптимальным управлением и обратным распространением. Если бы вы действительно хотели быть, знаете ли, другим Шмидхубером, вы бы сказали, что настоящими изобретателями обратного движения были теоретики оптимального управления Генри Дж. Келли, Артур Брайсон и, возможно, даже Лев Понтрягин, российский теоретик оптимального управления задним ходом. в конце 50-х. 

Итак, они поняли это, и на самом деле вы можете видеть, что корень этого, математика, лежащая в основе этого, — это лагранжева механика. Таким образом, вы можете вернуться к Эйлеру и Лагранжу и найти что-то подобное в их определении лагранжевой классической механики. Итак, в контексте оптимального управления эти ребята интересовались в основном вычислением траекторий ракет. Вы знаете, это была ранняя космическая эра. А если у вас есть модель ракеты, то она подскажет вам вот какое состояние ракеты в данный момент t, а вот действие я собираюсь предпринять, так вот, тяги и исполнительные механизмы разного рода, вот состояние ракеты в момент времени т + 1.

ЗДНет: Модель состояния-действия, модель ценности.

ЮЛ: Правильно, основа контроля. Итак, теперь вы можете имитировать запуск своей ракеты, представляя себе последовательность команд, и тогда у вас есть некоторая функция стоимости, которая представляет собой расстояние ракеты до цели, космической станции или чего-то еще. А потом каким-то градиентным спуском можно придумать, как мне обновить свою последовательность действий, чтобы моя ракета действительно подошла как можно ближе к цели. И это должно происходить за счет обратного распространения сигналов назад во времени. И это обратное распространение, градиентное обратное распространение. Эти сигналы называются сопряженными переменными в лагранжевой механике, но на самом деле это градиенты. Итак, они изобрели обратное распространение, но не понимали, что этот принцип можно использовать для обучения многоступенчатой ​​системы, которая может распознавать образы или что-то в этом роде. На самом деле это не было реализовано, возможно, до конца 70-х, начала 80-х, а затем фактически не было реализовано и не работало до середины 80-х. Итак, вот где backprop действительно как бы взлетел, потому что люди показали здесь несколько строк кода, которые вы можете обучить нейронную сеть, от начала до конца, многослойно. И это снимает ограничения персептрона. И да, есть соединения с оптимальным контролем, но это нормально.

ЗДНет: Итак, это слишком длинный способ сказать, что те влияния, с которых вы начали, возвращались к обратному распространению, и это было важно в качестве отправной точки для вас?

ЮЛ: Да, но я думаю, что люди немного забыли об этом, в 90-х или даже 80-х годах над этим было проделано довольно много работы, в том числе такими людьми, как Майкл Джордан [MIT Dept. of Brain и Cognitive Sciences] и тому подобные люди, которые больше не занимаются нейросетями, а идею о том, что можно использовать нейросети для управления, а можно использовать классические идеи оптимального управления. Итак, такие вещи, как то, что называется управлением с прогнозированием модели, то, что сейчас называется управлением с прогнозированием модели, эта идея, что вы можете смоделировать или представить результат последовательности действий, если у вас есть хорошая модель системы, которую вы пытаетесь контролировать. и среда, в которой он находится. А затем с помощью градиентного спуска, по сути — это не обучение, это вывод — вы можете выяснить, какая последовательность действий лучше всего минимизирует мою цель. Итак, я думаю, что использование функции стоимости со скрытой переменной для логического вывода — это то, о чем сегодняшние урожаи крупномасштабных нейронных сетей забыли. Но долгое время это был очень классический компонент машинного обучения. Таким образом, каждая байесовская сеть или графическая модель или вероятностная графическая модель использовали этот тип вывода. У вас есть модель, которая фиксирует зависимости между набором переменных, вам сообщается значение некоторых переменных, а затем вы должны сделать вывод о наиболее вероятном значении остальных переменных. Это основной принцип логического вывода в графических моделях, байесовских сетях и тому подобном. И я думаю, что это в основном то, чем должны быть рассуждения, рассуждения и планирование.

ЗДНет: Вы тайный байесианец.

ЮЛ: Я невероятностный байесовец. Я пошутил раньше. На самом деле я был в NeurIPS несколько лет назад, я думаю, это было в 2018 или 2019 году, и меня заснял на видео байесовец, который спросил меня, байесианец ли я, и я сказал: «Да, я байесианец, но я Я невероятностный байесианец, своего рода байесианец, основанный на энергии, если хотите. 

ЗДНет: Что определенно звучит как что-то из Star Trek. Вы упомянули в конце этой статьи, что потребуются годы действительно тяжелой работы, чтобы реализовать то, что вы себе представляете. Расскажите мне о том, из чего состоит часть этой работы на данный момент.

ЮЛ: Итак, я объясняю, как вы тренируетесь и строите JEPA в статье. И критерий, за который я выступаю, состоит в том, чтобы каким-то образом максимизировать информационное содержание извлеченных представлений о входных данных. И второй — минимизация ошибки предсказания. И если у вас есть скрытая переменная в предсказателе, которая позволяет предсказателю быть недетерминированным, вы должны упорядочить и эту скрытую переменную, минимизировав ее информационное содержание. Итак, теперь у вас есть две проблемы: как максимизировать информативность вывода некоторой нейронной сети, а вторая — как минимизировать информативность некоторой скрытой переменной? И если вы не сделаете эти две вещи, система рухнет. Ничего интересного он не узнает. Это даст нулевую энергию всему, что-то в этом роде, что не является хорошей моделью зависимости. Я упоминаю проблему предотвращения коллапса. 

И я говорю, что из всего, что когда-либо делали люди, есть только две категории методов предотвращения коллапса. Один из них — контрастные методы, а другой — регуляризованные методы. Итак, эта идея максимизации информативности представлений двух входов и минимизации информативности скрытой переменной принадлежит регуляризованным методам. Но большая часть работы в этих совместных архитектурах встраивания использует контрастные методы. На самом деле, они, вероятно, самые популярные на данный момент. Итак, вопрос заключается в том, как именно вы измеряете информационный контент таким образом, чтобы его можно было оптимизировать или свести к минимуму? И здесь все усложняется, потому что мы на самом деле не знаем, как измерить содержание информации. Мы можем аппроксимировать его, мы можем ограничить его сверху, мы можем делать подобные вещи. Но на самом деле они не измеряют информационное содержание, которое, на самом деле, в какой-то степени даже не определено.

ЗДНет: Это не закон Шеннона? Это не теория информации? У вас есть определенное количество энтропии, хорошая энтропия и плохая энтропия, и хорошая энтропия — это работающая система символов, плохая энтропия — это шум. Разве это не все решает Шеннон?

ЮЛ: Вы правы, но за этим скрывается серьезный недостаток. Вы правы в том смысле, что если к вам приходят данные, и вы можете каким-то образом квантовать данные в дискретные символы, а затем измеряете вероятность каждого из этих символов, то максимальное количество информации, которую несут эти символы, равно сумма по возможным символам Пи войти Пи, Правильно? Где Pi вероятность символа я — это энтропия Шеннона. [Закон Шеннона обычно формулируется как H = – ∑ pi log pi.]

Но вот проблема: что такое Pi? Это легко, когда количество символов невелико и символы рисуются независимо друг от друга. Когда много символов и зависимостей, это очень тяжело. Итак, если у вас есть последовательность битов, и вы предполагаете, что биты независимы друг от друга, а вероятность равна между единицей и нулем или чем-то еще, то вы можете легко измерить энтропию, без проблем. Но если вещи, которые приходят к вам, представляют собой многомерные векторы, такие как фреймы данных или что-то в этом роде, что Pi? Что такое распределение? Сначала вы должны квантовать это пространство, которое является многомерным, непрерывным пространством. Вы понятия не имеете, как правильно квантовать это. Вы можете использовать k-means и т. д. Это то, что люди делают, когда сжимают видео и изображения. Но это только приближение. И тогда вы должны сделать предположения о независимости. Итак, ясно, что в видео последовательные кадры не являются независимыми. Есть зависимости, и этот кадр может зависеть от другого кадра, который вы видели час назад и который был изображением того же самого. Итак, вы знаете, вы не можете измерить Pi. Измерять Pi, у вас должна быть система машинного обучения, которая учится предсказывать. И вот вы вернулись к предыдущей проблеме. Таким образом, вы можете только приблизить меру информации, по существу. 

Приведу более конкретный пример. Один из алгоритмов, с которым мы играли и о котором я говорил в статье, называется VICReg, регуляризация дисперсии-инвариантности-ковариации. Это отдельная статья, опубликованная в ICLR, и это было размещено на arXiv примерно за год до 2021 года. И идея там в том, чтобы максимизировать информацию. Идея на самом деле возникла из более ранней статьи моей группы под названием Близнецы Барлоу. Вы максимизируете информационное содержание вектора, выходящего из нейронной сети, по сути, предполагая, что единственная зависимость между переменными — это корреляция, линейная зависимость. Итак, если вы предполагаете, что единственная возможная зависимость между парами переменных или между переменными в вашей системе — это корреляции между парами ценностей, что является чрезвычайно грубым приближением, то вы можете максимизировать информационный контент, выходящий из вашей системы. убедившись, что все переменные имеют ненулевую дисперсию — скажем, дисперсию один, неважно, какая она — и затем обратная корреляция их, тот же процесс, который называется отбеливанием, это тоже не ново. Проблема в том, что у вас вполне могут быть чрезвычайно сложные зависимости между группами переменных или даже просто парами переменных, которые не являются линейными зависимостями, и они не проявляются в корреляциях. Итак, например, если у вас есть две переменные, и все точки этих двух переменных выстраиваются в какую-то спираль, между этими двумя переменными существует очень сильная зависимость, верно? Но на самом деле, если вычислить корреляцию между этими двумя переменными, они не коррелированы. Итак, вот пример, когда информационное содержание этих двух переменных на самом деле очень мало, это только одна величина, потому что это ваше положение в спирали. Они декоррелированы, поэтому вы думаете, что у вас есть много информации, выходящей из этих двух переменных, когда на самом деле это не так, у вас есть только, знаете ли, вы можете предсказать одну из переменных по другой, по сути. Итак, это показывает, что у нас есть только очень приблизительные способы измерения содержания информации.

ЗДНет: И это одна из вещей, над которой вам нужно работать сейчас с этим? Это более важный вопрос: как мы узнаем, когда мы максимизируем и минимизируем информационный контент?

ЮЛ:  Или достаточно ли хорош прокси, который мы для этого используем, для задачи, которую мы хотим. Фактически, мы делаем это все время в машинном обучении. Функции стоимости, которые мы минимизируем, никогда не будут теми, которые мы действительно хотим минимизировать. Так, например, вы хотите сделать классификацию, хорошо? Функция стоимости, которую вы хотите минимизировать при обучении классификатора, — это количество ошибок, которые делает классификатор. Но это недифференцируемая, ужасная функция стоимости, которую вы не можете минимизировать, потому что вы знаете, что собираетесь изменить веса вашей нейронной сети, ничего не изменится, пока один из этих образцов не изменит свое решение, а затем скачок в ошибке, положительной или отрицательной.

ЗДНет: Итак, у вас есть прокси, который является целевой функцией, и вы можете определенно сказать, что мы можем определенно передавать градиенты этой вещи.

ЮЛ: Вот так. Итак, люди используют эту кросс-энтропийную потерю, или SOFTMAX, у вас есть несколько названий для этого, но это одно и то же. И это в основном плавная аппроксимация количества ошибок, которые делает система, где сглаживание выполняется, в основном, с учетом оценки, которую система дает каждой из категорий.

ЗДНет: Есть ли что-то, что мы не рассмотрели, что вы хотели бы рассказать?

ЮЛ: Наверное, акцентирует внимание на главном. Я думаю, что системы ИИ должны уметь рассуждать, и процесс, который я отстаиваю, заключается в минимизации некоторой цели по отношению к какой-то скрытой переменной. Это позволяет системам планировать и рассуждать. Я думаю, что мы должны отказаться от вероятностной структуры, потому что она неуправляема, когда мы хотим делать такие вещи, как захват зависимостей между многомерными непрерывными переменными. И я выступаю за отказ от генеративных моделей, потому что системе придется выделять слишком много ресурсов на предсказание вещей, которые слишком сложно предсказать и которые, возможно, потребляют слишком много ресурсов. И это почти все. Это основные сообщения, если хотите. А потом общая архитектура. Затем идут спекуляции о природе сознания и роли конфигуратора, но на самом деле это спекуляции.

ЗДНет: Мы вернемся к этому в следующий раз. Я собирался спросить вас, как вы оцениваете эту вещь? Но я предполагаю, что вы немного дальше от бенчмаркинга прямо сейчас?

ЮЛ: Не обязательно так далеко в своего рода упрощенных версиях. Вы можете делать то, что делают все при обучении под контролем или обучении с подкреплением, то есть вы тренируете эту вещь играть в игры Atari или что-то в этом роде, или какую-то другую игру, в которой есть некоторая неопределенность.

ЗДНет: Спасибо за ваше время, Янн.