मेटा के एआई गुरु लेकन: आज के अधिकांश एआई दृष्टिकोण कभी भी सच्ची बुद्धिमत्ता की ओर नहीं ले जाएंगे

जेडडीनेट: हम ज्यादातर निवेशकों के निवेश क्षितिज से परे कहते हैं।

वाईएल: सही बात है। तो, सवाल यह है कि क्या प्रदर्शन वांछित स्तर तक पहुंचने से पहले लोग धैर्य खो देंगे या पैसे से बाहर हो जाएंगे।

जेडडीनेट: क्या यह कहना दिलचस्प है कि आपने मॉडल में चुने गए कुछ तत्वों को क्यों चुना? क्योंकि आप केनेथ क्रेक का हवाला देते हैं [1943,व्याख्या की प्रकृति], और आप ब्रायसन और हो का हवाला देते हैं [1969, लागू इष्टतम नियंत्रण], और मैं इस बारे में उत्सुक हूं कि आपने इन प्रभावों के साथ शुरुआत क्यों की, यदि आप विशेष रूप से मानते हैं कि इन लोगों ने इसे उतना ही आगे बढ़ाया है जितना उन्होंने किया था। आपने वहां क्यों शुरू किया?

वाईएल: खैर, मुझे नहीं लगता, निश्चित रूप से, उनके पास सभी विवरण थे। तो, ब्रायसन और हो, यह एक किताब है जिसे मैंने 1987 में वापस पढ़ा था जब मैं टोरंटो में जेफ्री हिंटन के साथ पोस्टडॉक था। लेकिन जब मैं अपनी पीएचडी लिख रहा था, तब मुझे इस काम की लाइन के बारे में पहले से पता था, और अनिवार्य रूप से इष्टतम नियंत्रण और बैकप्रॉप के बीच संबंध बनाया। यदि आप वास्तव में बनना चाहते थे, तो आप जानते हैं, एक और श्मिटुबर, आप कहेंगे कि बैकप्रॉप के वास्तविक आविष्कारक वास्तव में इष्टतम नियंत्रण सिद्धांतकार हेनरी जे। केली, आर्थर ब्रायसन और शायद लेव पोंट्रीगिन भी थे, जो कि इष्टतम नियंत्रण के रूसी सिद्धांतकार हैं। 50 के दशक के उत्तरार्ध में। 

तो, उन्होंने इसका पता लगा लिया, और वास्तव में, आप वास्तव में इसके मूल को देख सकते हैं, इसके नीचे का गणित, लैग्रैन्जियन यांत्रिकी है। तो आप वास्तव में यूलर और लैग्रेंज पर वापस जा सकते हैं, और वास्तव में लैग्रैन्जियन शास्त्रीय यांत्रिकी की उनकी परिभाषा में इसका एक प्रकार ढूंढ सकते हैं। इसलिए, इष्टतम नियंत्रण के संदर्भ में, इन लोगों की रुचि मूल रूप से रॉकेट प्रक्षेपवक्र की गणना करने में थी। आप जानते हैं, यह प्रारंभिक अंतरिक्ष युग था। और अगर आपके पास रॉकेट का मॉडल है, तो यह आपको बताता है कि समय पर रॉकेट की स्थिति क्या है t, और यहाँ वह क्रिया है जो मैं करने जा रहा हूँ, इसलिए, विभिन्न प्रकार के थ्रस्ट और एक्चुएटर्स, यहाँ समय पर रॉकेट की स्थिति है टी + 1.

जेडडीनेट: एक राज्य-क्रिया मॉडल, एक मूल्य मॉडल।

वाईएल: यह सही है, नियंत्रण का आधार। तो, अब आप कमांड के अनुक्रम की कल्पना करके अपने रॉकेट की शूटिंग का अनुकरण कर सकते हैं, और फिर आपके पास कुछ लागत फ़ंक्शन है, जो रॉकेट की अपने लक्ष्य की दूरी, एक अंतरिक्ष स्टेशन या जो कुछ भी है। और फिर किसी प्रकार के क्रमिक वंश द्वारा, आप यह पता लगा सकते हैं कि मैं अपने कार्य क्रम को कैसे अपडेट कर सकता हूं ताकि मेरा रॉकेट वास्तव में लक्ष्य के जितना करीब हो सके। और यह समय में पीछे की ओर संकेतों को पीछे-प्रसारित करके आना है। और वह है बैक-प्रोपेगेशन, ग्रेडिएंट बैक-प्रोपेगेशन। वे संकेत, उन्हें लैग्रैंगियन यांत्रिकी में संयुग्म चर कहा जाता है, लेकिन वास्तव में, वे ग्रेडिएंट हैं। इसलिए, उन्होंने बैकप्रॉप का आविष्कार किया, लेकिन उन्हें इस बात का एहसास नहीं था कि इस सिद्धांत का इस्तेमाल एक मल्टी-स्टेज सिस्टम को प्रशिक्षित करने के लिए किया जा सकता है जो पैटर्न पहचान या ऐसा कुछ कर सकता है। यह वास्तव में शायद 70 के दशक के अंत तक, 80 के दशक की शुरुआत तक महसूस नहीं किया गया था, और फिर वास्तव में इसे लागू नहीं किया गया था और मध्य -80 के दशक तक काम करने के लिए बनाया गया था। ठीक है, तो, यह वह जगह है जहां बैकप्रॉप वास्तव में, दयालु, बंद हो गया क्योंकि लोगों ने यहां कोड की कुछ पंक्तियों को दिखाया है कि आप एक तंत्रिका जाल, अंत से अंत, बहुपरत को प्रशिक्षित कर सकते हैं। और यह परसेप्ट्रोन की सीमाओं को हटा देता है। और, हाँ, इष्टतम नियंत्रण के साथ संबंध हैं, लेकिन यह ठीक है।

जेडडीनेट: तो, यह कहने का एक लंबा रास्ता है कि आपने जिन प्रभावों के साथ शुरुआत की थी, वे बैकप्रॉप पर वापस जा रहे थे, और यह आपके लिए शुरुआती बिंदु के रूप में महत्वपूर्ण था?

वाईएल: हाँ, लेकिन मुझे लगता है कि लोग किस बारे में थोड़ा भूल गए थे, इस पर काफी काम था, आप जानते हैं, 90 के दशक में, या यहां तक ​​​​कि 80 के दशक में, माइकल जॉर्डन [MIT Dept. of Brain] जैसे लोग भी शामिल थे। और संज्ञानात्मक विज्ञान] और ऐसे लोग जो अब तंत्रिका जाल नहीं कर रहे हैं, लेकिन यह विचार है कि आप नियंत्रण के लिए तंत्रिका जाल का उपयोग कर सकते हैं, और आप इष्टतम नियंत्रण के शास्त्रीय विचारों का उपयोग कर सकते हैं। इसलिए, मॉडल-प्रेडिक्टिव कंट्रोल, जिसे अब मॉडल-प्रेडिक्टिव कंट्रोल कहा जाता है, जैसी चीजें, यह विचार कि आप क्रियाओं के अनुक्रम के परिणाम का अनुकरण या कल्पना कर सकते हैं यदि आपके पास सिस्टम का एक अच्छा मॉडल है जिसे आप नियंत्रित करने का प्रयास कर रहे हैं और जिस वातावरण में यह है। और फिर क्रमिक वंश द्वारा, अनिवार्य रूप से - यह सीखना नहीं है, यह अनुमान है - आप यह पता लगा सकते हैं कि क्रियाओं का सबसे अच्छा क्रम क्या है जो मेरे उद्देश्य को कम कर देगा। तो, अनुमान के लिए एक गुप्त चर के साथ एक लागत समारोह का उपयोग, मुझे लगता है, कुछ ऐसा है जो बड़े पैमाने पर तंत्रिका जाल की वर्तमान फसलें भूल गई हैं। लेकिन यह लंबे समय तक मशीन लर्निंग का एक बहुत ही शास्त्रीय घटक था। इसलिए, प्रत्येक बायेसियन नेट या ग्राफिकल मॉडल या संभाव्य ग्राफिकल मॉडल ने इस प्रकार के अनुमान का उपयोग किया। आपके पास एक मॉडल है जो चर के एक समूह के बीच निर्भरता को पकड़ता है, आपको कुछ चर के मूल्य के बारे में बताया जाता है, और फिर आपको शेष चर के सबसे संभावित मूल्य का अनुमान लगाना होगा। ग्राफिकल मॉडल और बायेसियन नेट्स और इस तरह की चीजों में अनुमान का मूल सिद्धांत यही है। और मुझे लगता है कि मूल रूप से तर्क, तर्क और योजना के बारे में क्या होना चाहिए।

जेडडीनेट: आप एक कोठरी बायेसियन हैं।

वाईएल: मैं एक गैर-संभाव्य बायेसियन हूं। मैंने पहले वह मजाक किया था। मैं वास्तव में कुछ साल पहले न्यूरिप्स में था, मुझे लगता है कि यह 2018 या 2019 में था, और मुझे एक बायेसियन द्वारा वीडियो पर पकड़ा गया था जिसने मुझसे पूछा था कि क्या मैं बायेसियन था, और मैंने कहा, हां, मैं बायेसियन हूं, लेकिन मैं यदि आप चाहें तो एक गैर-संभाव्य बायेसियन, सॉर्ट-ऑफ, एक ऊर्जा-आधारित बायेसियन हूं। 

जेडडीनेट: जो निश्चित रूप से कुछ ऐसा लगता है स्टार ट्रेक. आपने इस पत्र के अंत में उल्लेख किया है, आप जो कल्पना करते हैं उसे महसूस करने में वास्तव में वर्षों की मेहनत लगेगी। मुझे इस बारे में बताएं कि इस समय उस काम में से कुछ में क्या शामिल है।

वाईएल: इसलिए, मैं समझाता हूं कि आप पेपर में जेईपीए को कैसे प्रशिक्षित और तैयार करते हैं। और जिस मानदंड की मैं वकालत कर रहा हूं, वह सूचना सामग्री को अधिकतम करने का कोई तरीका है जो निकाले गए अभ्यावेदन में इनपुट के बारे में है। और फिर दूसरा भविष्यवाणी त्रुटि को कम कर रहा है। और यदि आपके पास भविष्यवक्ता में एक गुप्त चर है जो भविष्यवक्ता को गैर नियतात्मक होने की अनुमति देता है, तो आपको इसकी सूचना सामग्री को कम करके इस गुप्त चर को भी नियमित करना होगा। तो, अब आपके पास दो मुद्दे हैं, यह है कि आप कुछ न्यूरल नेट के आउटपुट की सूचना सामग्री को अधिकतम कैसे करते हैं, और दूसरा यह है कि आप कुछ गुप्त चर की सूचना सामग्री को कैसे कम करते हैं? और यदि आप उन दो कामों को नहीं करते हैं, तो व्यवस्था चरमरा जाएगी। यह कुछ भी दिलचस्प नहीं सीखेगा। यह हर चीज को शून्य ऊर्जा देगा, कुछ ऐसा, जो निर्भरता का अच्छा मॉडल नहीं है। यह पतन-रोकथाम समस्या है जिसका मैं उल्लेख करता हूं। 

और मैं उन सभी चीजों के बारे में कह रहा हूं जो लोगों ने कभी की हैं, पतन को रोकने के तरीकों की केवल दो श्रेणियां हैं। एक है विरोधाभासी विधियाँ, और दूसरी है वे नियमित विधियाँ। तो, दो इनपुट के प्रतिनिधित्व की सूचना सामग्री को अधिकतम करने और गुप्त चर की सूचना सामग्री को कम करने का यह विचार, जो नियमित तरीकों से संबंधित है। लेकिन उन संयुक्त एम्बेडिंग आर्किटेक्चर में बहुत सारे काम विपरीत तरीकों का उपयोग कर रहे हैं। वास्तव में, वे शायद इस समय सबसे लोकप्रिय हैं। तो, सवाल यह है कि आप सूचना सामग्री को इस तरह से कैसे मापते हैं कि आप अनुकूलित या कम कर सकें? और यहीं चीजें जटिल हो जाती हैं क्योंकि हम वास्तव में नहीं जानते कि सूचना सामग्री को कैसे मापना है। हम इसका अनुमान लगा सकते हैं, हम इसे ऊपरी-बाध्य कर सकते हैं, हम इस तरह की चीजें कर सकते हैं। लेकिन वे वास्तव में सूचना सामग्री को नहीं मापते हैं, जो वास्तव में, कुछ हद तक अच्छी तरह से परिभाषित भी नहीं है।

जेडडीनेट: यह शैनन का नियम नहीं है? यह सूचना सिद्धांत नहीं है? आपके पास एक निश्चित मात्रा में एन्ट्रॉपी, अच्छी एन्ट्रॉपी और खराब एन्ट्रॉपी है, और अच्छी एन्ट्रॉपी एक प्रतीक प्रणाली है जो काम करती है, खराब एन्ट्रॉपी शोर है। क्या यह सब शैनन द्वारा हल नहीं किया गया है?

वाईएल: आप सही कह रहे हैं, लेकिन इसके पीछे एक बड़ी खामी है। आप इस अर्थ में सही हैं कि यदि आपके पास डेटा आ रहा है और आप किसी तरह डेटा को असतत प्रतीकों में माप सकते हैं, और फिर आप उन प्रतीकों में से प्रत्येक की संभावना को माप सकते हैं, तो उन प्रतीकों द्वारा की गई अधिकतम जानकारी है के संभावित प्रतीकों का योग पाई लॉग पाई, सही? कहाँ पे Pi प्रतीक की संभावना है मैं - वह शैनन एन्ट्रापी है। [शैनन का नियम आमतौर पर H = - pi log pi के रूप में तैयार किया जाता है।]

यहाँ समस्या है, यद्यपि: क्या है Pi? यह तब आसान होता है जब प्रतीकों की संख्या कम होती है और प्रतीकों को स्वतंत्र रूप से खींचा जाता है। जब कई प्रतीक और निर्भरताएँ होती हैं, तो यह बहुत कठिन होता है। इसलिए, यदि आपके पास बिट्स का अनुक्रम है और आप मानते हैं कि बिट्स एक-दूसरे से स्वतंत्र हैं और संभावना एक और शून्य या जो कुछ भी बराबर है, तो आप आसानी से एन्ट्रॉपी को माप सकते हैं, कोई समस्या नहीं। लेकिन अगर आपके पास आने वाली चीजें उच्च-आयामी वैक्टर हैं, जैसे, आप जानते हैं, डेटा फ्रेम, या ऐसा कुछ, क्या है Pi? वितरण क्या है? सबसे पहले आपको उस स्थान को परिमाणित करना होगा, जो एक उच्च-आयामी, निरंतर स्थान है। आपको नहीं पता कि इसे ठीक से कैसे मापें। आप k- साधन आदि का उपयोग कर सकते हैं। यह वही है जो लोग वीडियो संपीड़न और छवि संपीड़न करते समय करते हैं। लेकिन यह सिर्फ एक अनुमान है। और फिर आपको स्वतंत्रता की धारणा बनानी होगी। तो, यह स्पष्ट है कि एक वीडियो में, लगातार फ़्रेम स्वतंत्र नहीं होते हैं। निर्भरताएं हैं, और वह फ्रेम एक घंटे पहले देखे गए किसी अन्य फ्रेम पर निर्भर हो सकता है, जो उसी चीज़ की एक तस्वीर थी। तो, आप जानते हैं, आप माप नहीं सकते Pi. मापने के लिए Pi, आपके पास एक मशीन लर्निंग सिस्टम होना चाहिए जो भविष्यवाणी करना सीखता है। और इसलिए आप पिछली समस्या पर वापस आ गए हैं। तो, आप अनिवार्य रूप से केवल सूचना के माप का अनुमान लगा सकते हैं। 

मैं एक और ठोस उदाहरण लेता हूं। हम जिस एल्गोरिथम के साथ खेल रहे हैं, और मैंने इस टुकड़े के बारे में बात की है, वह है इस चीज़ को VICReg, विचरण-इनवेरिएंस-सहप्रसरण नियमितीकरण कहा जाता है। यह एक अलग पेपर में है जो ICLR में प्रकाशित हुआ था, और इसे arXiv . पर रखा गया था लगभग एक साल पहले, 2021। और वहाँ का विचार सूचना को अधिकतम करना है। और यह विचार वास्तव में मेरे समूह द्वारा पहले के एक पेपर से निकला था जिसे कहा जाता है बार्लो जुड़वां. आप मूल रूप से एक तंत्रिका जाल से निकलने वाले वेक्टर की सूचना सामग्री को अधिकतम करते हैं, यह मानते हुए कि चर के बीच एकमात्र निर्भरता सहसंबंध, रैखिक निर्भरता है। इसलिए, यदि आप मानते हैं कि एकमात्र निर्भरता जो चर के जोड़े के बीच, या आपके सिस्टम में चर के बीच संभव है, क़ीमती सामानों के जोड़े के बीच सहसंबंध है, जो बेहद मोटा अनुमान है, तो आप अपने सिस्टम से निकलने वाली सूचना सामग्री को अधिकतम कर सकते हैं यह सुनिश्चित करके कि सभी चरों में गैर-शून्य विचरण है - मान लीजिए, विचरण एक, इससे कोई फर्क नहीं पड़ता कि यह क्या है - और फिर उन्हें वापस-सहसंबद्ध करना, वही प्रक्रिया जिसे श्वेत करना कहा जाता है, यह नया भी नहीं है। इसके साथ समस्या यह है कि आप चर के समूहों या यहां तक ​​​​कि केवल चर के जोड़े के बीच बेहद जटिल निर्भरताएं प्राप्त कर सकते हैं जो रैखिक निर्भरता नहीं हैं, और वे सहसंबंधों में दिखाई नहीं देते हैं। इसलिए, उदाहरण के लिए, यदि आपके पास दो चर हैं, और उन दो चर के सभी बिंदु किसी प्रकार के सर्पिल में पंक्तिबद्ध हैं, तो उन दो चरों के बीच एक बहुत मजबूत निर्भरता है, है ना? लेकिन वास्तव में, यदि आप उन दो चरों के बीच सहसंबंध की गणना करते हैं, तो वे सहसंबद्ध नहीं होते हैं। तो, यहां एक उदाहरण दिया गया है जहां इन दो चरों की सूचना सामग्री वास्तव में बहुत छोटी है, यह केवल एक मात्रा है क्योंकि यह सर्पिल में आपकी स्थिति है। वे डी-सहसंबद्ध हैं, इसलिए आपको लगता है कि आपके पास उन दो चरों से बहुत सारी जानकारी आ रही है जब वास्तव में आप नहीं करते हैं, केवल आपके पास है, आप जानते हैं, आप अनिवार्य रूप से दूसरे से एक चर की भविष्यवाणी कर सकते हैं। तो, यह दर्शाता है कि हमारे पास सूचना सामग्री को मापने के बहुत ही अनुमानित तरीके हैं।

जेडडीनेट: और इसलिए यह उन चीजों में से एक है जिस पर आपको अभी काम करना है? यह बड़ा सवाल है कि जब हम सूचना सामग्री को अधिकतम और न्यूनतम कर रहे हैं तो हम कैसे जानते हैं?

वाईएल:  या इसके लिए हम जिस प्रॉक्सी का उपयोग कर रहे हैं वह उस कार्य के लिए पर्याप्त है जो हम चाहते हैं। वास्तव में, हम इसे हर समय मशीन लर्निंग में करते हैं। हम जिन लागत कार्यों को कम करते हैं, वे कभी भी नहीं होते हैं जिन्हें हम वास्तव में कम करना चाहते हैं। तो, उदाहरण के लिए, आप वर्गीकरण करना चाहते हैं, ठीक है? क्लासिफायरियर को प्रशिक्षित करते समय आप जिस लागत फ़ंक्शन को कम करना चाहते हैं, वह क्लासिफायर द्वारा की जाने वाली गलतियों की संख्या है। लेकिन यह एक गैर-भिन्न, भयानक लागत कार्य है जिसे आप कम नहीं कर सकते क्योंकि आप जानते हैं कि आप अपने तंत्रिका जाल के वजन को बदलने जा रहे हैं, कुछ भी नहीं बदलने वाला है जब तक कि उन नमूनों में से एक ने अपना निर्णय फ़्लिप नहीं किया, और फिर एक छलांग त्रुटि में, सकारात्मक या नकारात्मक।

जेडडीनेट: तो आपके पास एक प्रॉक्सी है जो एक उद्देश्य कार्य है जिसे आप निश्चित रूप से कह सकते हैं, हम निश्चित रूप से इस चीज़ के ग्रेडियेंट प्रवाहित कर सकते हैं।

वाईएल: सही बात है। तो लोग इस क्रॉस-एन्ट्रॉपी लॉस, या सॉफ़्टमैक्स का उपयोग करते हैं, आपके पास इसके लिए कई नाम हैं, लेकिन यह वही बात है। और यह मूल रूप से सिस्टम द्वारा की जाने वाली त्रुटियों की संख्या का एक सहज अनुमान है, जहां चौरसाई द्वारा किया जाता है, मूल रूप से, उस स्कोर को ध्यान में रखते हुए जो सिस्टम प्रत्येक श्रेणी को देता है।

जेडडीनेट: क्या ऐसा कुछ है जिसे हमने कवर नहीं किया है जिसे आप कवर करना चाहेंगे?

वाईएल: यह शायद मुख्य बिंदुओं पर जोर दे रहा है। मुझे लगता है कि एआई सिस्टम को तर्क करने में सक्षम होना चाहिए, और इसके लिए मैं जिस प्रक्रिया की वकालत कर रहा हूं वह कुछ गुप्त चर के संबंध में कुछ उद्देश्य को कम कर रही है। यह सिस्टम को योजना बनाने और तर्क करने की अनुमति देता है। मुझे लगता है कि हमें संभाव्य ढांचे को छोड़ देना चाहिए क्योंकि जब हम उच्च-आयामी, निरंतर चर के बीच निर्भरता को पकड़ने जैसी चीजें करना चाहते हैं तो यह कठिन है। और मैं जनरेटिव मॉडल को छोड़ने की वकालत कर रहा हूं क्योंकि सिस्टम को उन चीजों की भविष्यवाणी करने के लिए बहुत सारे संसाधनों को समर्पित करना होगा जो भविष्यवाणी करना बहुत मुश्किल है और शायद बहुत अधिक संसाधनों का उपभोग करते हैं। और बस यही सब है। यदि आप चाहें तो यही मुख्य संदेश है। और फिर समग्र वास्तुकला। फिर चेतना की प्रकृति और विन्यासकर्ता की भूमिका के बारे में वे अटकलें हैं, लेकिन यह वास्तव में अटकलें हैं।

जेडडीनेट: हम अगली बार उस पर पहुंचेंगे। मैं आपसे पूछने जा रहा था, आप इस चीज़ को कैसे बेंचमार्क करते हैं? लेकिन मुझे लगता है कि आप अभी बेंचमार्किंग से थोड़ा आगे हैं?

वाईएल: जरूरी नहीं कि बहुत दूर, क्रमबद्ध, सरलीकृत संस्करण। आप वह कर सकते हैं जो हर कोई नियंत्रण या सुदृढीकरण सीखने में करता है, यानी, आप अटारी गेम या ऐसा कुछ या कुछ अन्य गेम खेलने के लिए प्रशिक्षित करते हैं जिसमें कुछ अनिश्चितता होती है।

जेडडीनेट: आपके समय के लिए धन्यवाद, यान।