মেটার এআই গুরু লেকুন: আজকের বেশিরভাগ এআই পদ্ধতি কখনই সত্যিকারের বুদ্ধিমত্তার দিকে পরিচালিত করবে না

জেডডিনেট: আমরা বেশিরভাগ বিনিয়োগকারীদের বিনিয়োগের দিগন্তের বাইরে বলি।

YL: সেটা ঠিক. সুতরাং, প্রশ্ন হল, পারফরম্যান্স কাঙ্ক্ষিত স্তরে পৌঁছানোর আগে লোকেরা কি ধৈর্য হারাবে নাকি অর্থ ফুরিয়ে যাবে।

জেডডিনেট: আপনি মডেলটিতে বেছে নেওয়া কিছু উপাদান কেন বেছে নিয়েছেন সে সম্পর্কে বলার মতো কিছু কি আকর্ষণীয় আছে? কারণ আপনি কেনেথ ক্রেককে উদ্ধৃত করেছেন [1943,ব্যাখ্যার প্রকৃতি], এবং আপনি ব্রাইসন এবং হো [1969, প্রয়োগ করা সর্বোত্তম নিয়ন্ত্রণ], এবং আমি কৌতূহলী যে আপনি কেন এই প্রভাবগুলি দিয়ে শুরু করেছেন, যদি আপনি বিশেষভাবে বিশ্বাস করেন যে এই লোকেরা যা করেছে তা যতদূর পর্যন্ত পেরেছে। কেন আপনি সেখানে শুরু?

YL: ঠিক আছে, আমি মনে করি না, অবশ্যই, তারা সমস্ত বিবরণ পেরেক দিয়ে আটকে রেখেছিল। সুতরাং, ব্রাইসন এবং হো, এটি একটি বই যা আমি 1987 সালে পড়েছিলাম যখন আমি টরন্টোতে জিওফ্রে হিন্টনের সাথে পোস্টডক ছিলাম। কিন্তু আমি আমার পিএইচডি লেখার সময় কাজের এই লাইন সম্পর্কে আগে থেকেই জানতাম এবং সর্বোত্তম নিয়ন্ত্রণ এবং ব্যাকপ্রপের মধ্যে সংযোগ তৈরি করেছিলাম, মূলত। আপনি যদি সত্যিই হতে চান, আপনি জানেন, অন্য একজন স্মিডহুবার, আপনি বলবেন যে ব্যাকপ্রপের প্রকৃত উদ্ভাবক ছিলেন প্রকৃতপক্ষে সর্বোত্তম নিয়ন্ত্রণ তাত্ত্বিক হেনরি জে কেলি, আর্থার ব্রাইসন এবং সম্ভবত লেভ পন্ট্রিয়াগিন, যিনি সর্বোত্তম নিয়ন্ত্রণের একজন রাশিয়ান তাত্ত্বিক। 50 এর দশকের শেষের দিকে। 

সুতরাং, তারা এটি বের করেছে, এবং প্রকৃতপক্ষে, আপনি আসলে এর মূল দেখতে পাচ্ছেন, এর নীচের গণিতটি হল ল্যাগ্রাঞ্জিয়ান মেকানিক্স। সুতরাং আপনি অয়লার এবং ল্যাগ্রেঞ্জে ফিরে যেতে পারেন, আসলে, এবং ল্যাগ্রাঞ্জিয়ান ক্লাসিক্যাল মেকানিক্সের সংজ্ঞায় এটির একটি ঝাঁকুনি খুঁজে পেতে পারেন। সুতরাং, সর্বোত্তম নিয়ন্ত্রণের প্রেক্ষাপটে, এই ছেলেরা মূলত রকেট ট্র্যাজেক্টোরিজ কম্পিউটিং করতে আগ্রহী ছিল। আপনি জানেন, এটি ছিল আদি মহাকাশ যুগ। এবং যদি আপনার কাছে রকেটের একটি মডেল থাকে তবে এটি আপনাকে বলে যে এখানে রকেটের অবস্থা কী t, এবং এখানে আমি যে পদক্ষেপ নিতে যাচ্ছি, তাই, বিভিন্ন ধরণের থ্রাস্ট এবং অ্যাকচুয়েটর, এই সময়ে রকেটের অবস্থা টি + 1.

জেডডিনেট: একটি রাষ্ট্র-কর্ম মডেল, একটি মান মডেল।

YL: এটা ঠিক, নিয়ন্ত্রণের ভিত্তি। সুতরাং, এখন আপনি কমান্ডের একটি ক্রম কল্পনা করে আপনার রকেটের শুটিং অনুকরণ করতে পারেন, এবং তারপরে আপনার কিছু খরচ ফাংশন আছে, যা রকেটের লক্ষ্য থেকে দূরত্ব, একটি স্পেস স্টেশন বা এটি যাই হোক না কেন। এবং তারপর গ্রেডিয়েন্ট ডিসেন্টের কিছু বাছাই দ্বারা, আপনি বুঝতে পারবেন, কিভাবে আমি আমার ক্রিয়ার সিকোয়েন্স আপডেট করতে পারি যাতে আমার রকেট আসলে লক্ষ্যের যতটা সম্ভব কাছাকাছি যায়। এবং সেটাকে আসতে হবে সময়মতো পিছন দিকে সংকেত প্রচার করে। এবং যে ব্যাক-প্রচার, গ্রেডিয়েন্ট ব্যাক-প্রচার। এই সংকেতগুলোকে ল্যাগ্রাঞ্জিয়ান মেকানিক্সে কনজুগেট ভেরিয়েবল বলা হয়, কিন্তু আসলে সেগুলো হল গ্রেডিয়েন্ট। সুতরাং, তারা ব্যাকপ্রপ উদ্ভাবন করেছে, কিন্তু তারা বুঝতে পারেনি যে এই নীতিটি একটি মাল্টি-স্টেজ সিস্টেমকে প্রশিক্ষণের জন্য ব্যবহার করা যেতে পারে যা প্যাটার্ন স্বীকৃতি বা এরকম কিছু করতে পারে। এটি সম্ভবত '70 এর দশকের শেষের দিকে, 80 এর দশকের শুরু পর্যন্ত উপলব্ধি করা হয়নি এবং তারপরে বাস্তবে বাস্তবায়িত হয়নি এবং 80 এর দশকের মাঝামাঝি পর্যন্ত কাজ করা হয়নি। ঠিক আছে, তাই, এখানেই ব্যাকপ্রপ সত্যিই, ধরণের-অফ, শুরু হয়েছে কারণ লোকেরা দেখিয়েছে এখানে কোডের কয়েকটি লাইন রয়েছে যা আপনি একটি নিউরাল নেট, প্রান্ত থেকে শেষ, মাল্টিলেয়ার প্রশিক্ষণ দিতে পারেন। এবং এটি পারসেপ্ট্রনের সীমাবদ্ধতাকে তুলে দেয়। এবং, হ্যাঁ, সর্বোত্তম নিয়ন্ত্রণের সাথে সংযোগ রয়েছে, তবে এটি ঠিক আছে।

জেডডিনেট: সুতরাং, এটি বলার একটি দীর্ঘ পথ যে আপনি যে প্রভাবগুলি দিয়ে শুরু করেছিলেন তা ব্যাকপ্রপে ফিরে যাচ্ছে এবং এটি আপনার জন্য একটি সূচনা পয়েন্ট হিসাবে গুরুত্বপূর্ণ ছিল?

YL: হ্যাঁ, কিন্তু আমি মনে করি যে লোকেরা কিছুটা ভুলে গিয়েছিল, এই বিষয়ে বেশ কিছুটা কাজ ছিল, আপনি জানেন, 90 এর দশকে বা এমনকি 80 এর দশকে, মাইকেল জর্ডান [এমআইটি ডিপার্টমেন্ট অফ ব্রেইন'-এর মতো ব্যক্তিরা সহ এবং কগনিটিভ সায়েন্সেস] এবং এর মতো লোকেরা যারা আর নিউরাল নেট করছেন না, তবে ধারণা যে আপনি নিয়ন্ত্রণের জন্য নিউরাল নেট ব্যবহার করতে পারেন এবং আপনি সর্বোত্তম নিয়ন্ত্রণের ধ্রুপদী ধারণা ব্যবহার করতে পারেন। সুতরাং, মডেল-ভবিষ্যদ্বাণীমূলক নিয়ন্ত্রণের মতো জিনিসগুলি, যাকে এখন মডেল-ভবিষ্যদ্বাণীমূলক নিয়ন্ত্রণ বলা হয়, এই ধারণাটি যে আপনি নিয়ন্ত্রণ করার চেষ্টা করছেন এমন সিস্টেমের একটি ভাল মডেল থাকলে আপনি কর্মের ক্রমগুলির ফলাফল অনুকরণ বা কল্পনা করতে পারেন এবং এটি যে পরিবেশের মধ্যে রয়েছে। এবং তারপর গ্রেডিয়েন্ট ডিসেন্ট দ্বারা, মূলত - এটি শেখার নয়, এটি অনুমান - আপনি বুঝতে পারবেন কোন কর্মের সেরা ক্রম যা আমার উদ্দেশ্যকে ছোট করবে। সুতরাং, অনুমানের জন্য একটি সুপ্ত পরিবর্তনশীল সহ একটি ব্যয় ফাংশন ব্যবহার করা হল, আমি মনে করি, এমন কিছু যা বর্তমান বড় আকারের নিউরাল জালের ফসলগুলি ভুলে গেছে। তবে এটি দীর্ঘ সময়ের জন্য মেশিন লার্নিংয়ের একটি খুব ক্লাসিক্যাল উপাদান ছিল। সুতরাং, প্রতিটি Bayesian Net বা গ্রাফিকাল মডেল বা সম্ভাব্য গ্রাফিকাল মডেল এই ধরনের অনুমান ব্যবহার করেছে। আপনার কাছে একটি মডেল আছে যা একগুচ্ছ ভেরিয়েবলের মধ্যে নির্ভরতা ক্যাপচার করে, আপনাকে কিছু ভেরিয়েবলের মান বলা হয়, এবং তারপরে আপনাকে বাকি ভেরিয়েবলের সবচেয়ে সম্ভাব্য মান অনুমান করতে হবে। এটি গ্রাফিকাল মডেল এবং বায়েসিয়ান নেট এবং এই জাতীয় জিনিসগুলিতে অনুমানের মূল নীতি। এবং আমি মনে করি যে মূলত যুক্তি কি হওয়া উচিত, যুক্তি এবং পরিকল্পনা।

জেডডিনেট: আপনি একটি পায়খানা Bayesian.

YL: আমি একজন অ-সম্ভাব্য বায়েসিয়ান। আমি আগেও এমন কৌতুক করেছি। আমি আসলে কয়েক বছর আগে নিউরিআইপিএস-এ ছিলাম, আমার মনে হয় এটি 2018 বা 2019 সালে ছিল, এবং আমি একজন বায়েসিয়ানের কাছে ভিডিওতে ধরা পড়েছিলাম যিনি আমাকে জিজ্ঞেস করেছিলেন যে আমি একজন বায়েসিয়ান কিনা, এবং আমি বলেছিলাম, হ্যাঁ, আমি একজন বায়েসিয়ান, কিন্তু আমি আমি একজন অ-সম্ভাব্য বায়েসিয়ান, বাছাই, একটি শক্তি-ভিত্তিক বায়েসিয়ান, যদি আপনি চান। 

জেডডিনেট: যা অবশ্যই থেকে কিছু মত শোনাচ্ছে স্টার ট্রেক. আপনি এই কাগজের শেষে উল্লেখ করেছেন, আপনি যা কল্পনা করছেন তা উপলব্ধি করার জন্য এটি অনেক বছর ধরে কঠোর পরিশ্রম করতে যাচ্ছে। এই মুহুর্তে কিছু কাজ কি নিয়ে আমাকে বলুন।

YL: সুতরাং, আমি ব্যাখ্যা করি যে আপনি কীভাবে প্রশিক্ষণ দেন এবং কাগজে জেইপিএ তৈরি করেন। এবং আমি যে মাপকাঠির পক্ষে ওকালতি করছি তা হল তথ্য সামগ্রীকে সর্বাধিক করার কিছু উপায় যা এক্সট্রাক্ট করা উপস্থাপনাগুলি ইনপুট সম্পর্কে রয়েছে। এবং তারপরে দ্বিতীয়টি ভবিষ্যদ্বাণী ত্রুটি হ্রাস করছে। এবং যদি আপনার ভবিষ্যদ্বাণীকারীতে একটি সুপ্ত পরিবর্তনশীল থাকে যা ভবিষ্যদ্বাণীকারীকে অ-নির্ধারক হতে দেয়, তবে আপনাকে এর তথ্য বিষয়বস্তু কমিয়ে এই সুপ্ত পরিবর্তনশীলটিকেও নিয়মিত করতে হবে। সুতরাং, আপনার কাছে এখন দুটি সমস্যা রয়েছে, যেটি হল আপনি কীভাবে কিছু নিউরাল নেট আউটপুটের তথ্য সামগ্রীকে সর্বাধিক করবেন এবং অন্যটি হল আপনি কীভাবে কিছু সুপ্ত ভেরিয়েবলের তথ্য সামগ্রীকে ছোট করবেন? এবং আপনি যদি এই দুটি জিনিস না করেন তবে সিস্টেমটি ভেঙে পড়বে। এটি আকর্ষণীয় কিছু শিখবে না। এটি সবকিছুতে শূন্য শক্তি দেবে, এমন কিছু, যা নির্ভরতার একটি ভাল মডেল নয়। এটি পতন-প্রতিরোধ সমস্যা যা আমি উল্লেখ করেছি। 

এবং আমি সমস্ত জিনিস বলছি যা মানুষ কখনও করেছে, পতন রোধ করার জন্য শুধুমাত্র দুটি শ্রেণীর পদ্ধতি রয়েছে। একটি হল বিপরীত পদ্ধতি, এবং অন্যটি হল সেই নিয়মিত পদ্ধতি। সুতরাং, দুটি ইনপুটের উপস্থাপনার তথ্য সামগ্রীকে সর্বাধিক করার এবং সুপ্ত ভেরিয়েবলের তথ্য সামগ্রীকে হ্রাস করার এই ধারণা, যা নিয়মিত পদ্ধতির অন্তর্গত। কিন্তু সেই জয়েন্ট এমবেডিং আর্কিটেকচারে অনেক কাজ কনট্রাস্টিভ পদ্ধতি ব্যবহার করছে। আসলে, তারা সম্ভবত এই মুহূর্তে সবচেয়ে জনপ্রিয়। সুতরাং, প্রশ্ন হল ঠিক কীভাবে আপনি তথ্য সামগ্রীকে এমনভাবে পরিমাপ করবেন যা আপনি অপ্টিমাইজ বা ছোট করতে পারেন? এবং সেখানেই জিনিসগুলি জটিল হয়ে ওঠে কারণ আমরা আসলে তথ্য সামগ্রী কীভাবে পরিমাপ করতে পারি তা জানি না। আমরা এটিকে আনুমানিক করতে পারি, আমরা এটিকে আবদ্ধ করতে পারি, আমরা এমন কিছু করতে পারি। কিন্তু তারা আসলে তথ্য বিষয়বস্তু পরিমাপ করে না, যা আসলে, কিছু পরিমাণে এমনকি সু-সংজ্ঞায়িত নয়।

জেডডিনেট: এটা কি শ্যাননের আইন নয়? এটা কি তথ্য তত্ত্ব নয়? আপনি একটি নির্দিষ্ট পরিমাণ এনট্রপি পেয়েছেন, ভাল এনট্রপি এবং খারাপ এনট্রপি, এবং ভাল এনট্রপি একটি প্রতীক সিস্টেম যা কাজ করে, খারাপ এনট্রপি হল শব্দ। এটা সব শ্যানন দ্বারা সমাধান করা হয় না?

YL: আপনি ঠিক, কিন্তু এর পিছনে একটি বড় ত্রুটি আছে. আপনি এই অর্থে ঠিক বলেছেন যে আপনার কাছে যদি ডেটা আসে এবং আপনি কোনওভাবে ডেটাকে পৃথক চিহ্নগুলিতে পরিমাপ করতে পারেন এবং তারপরে আপনি সেই প্রতীকগুলির প্রতিটির সম্ভাব্যতা পরিমাপ করেন, তাহলে সেই চিহ্নগুলির দ্বারা বহন করা তথ্যের সর্বাধিক পরিমাণ এর সম্ভাব্য চিহ্নগুলির যোগফল পাই লগ পাই, ঠিক? কোথায় Pi প্রতীকের সম্ভাবনা আমি - এটি শ্যানন এনট্রপি। [শ্যাননের আইন সাধারণত H = – ∑ pi log pi হিসাবে প্রণয়ন করা হয়।]

এখানে সমস্যা, যদিও: কি Pi? এটা সহজ যখন চিহ্নের সংখ্যা কম হয় এবং চিহ্নগুলি স্বাধীনভাবে আঁকা হয়। যখন অনেকগুলি প্রতীক এবং নির্ভরতা থাকে, তখন এটি খুব কঠিন। সুতরাং, যদি আপনার কাছে বিটগুলির একটি ক্রম থাকে এবং আপনি ধরে নেন বিটগুলি একে অপরের থেকে স্বাধীন এবং সম্ভাব্যতা এক এবং শূন্য বা যাই হোক না কেন সমান, তাহলে আপনি সহজেই এনট্রপি পরিমাপ করতে পারেন, কোন সমস্যা নেই। কিন্তু যদি আপনার কাছে আসা জিনিসগুলি উচ্চ-মাত্রিক ভেক্টর হয়, যেমন, আপনি জানেন, ডেটা ফ্রেম বা এই জাতীয় কিছু, তাহলে কী Pi? বন্টন কি? প্রথমে আপনাকে সেই স্থানটি পরিমাপ করতে হবে, যা একটি উচ্চ-মাত্রিক, অবিচ্ছিন্ন স্থান। আপনি সঠিকভাবে এই পরিমাপ কিভাবে কোন ধারণা আছে. আপনি কে-মিন্স ইত্যাদি ব্যবহার করতে পারেন। লোকেরা যখন ভিডিও কম্প্রেশন এবং ইমেজ কম্প্রেশন করে তখন এটিই করে। কিন্তু এটা শুধুমাত্র একটি আনুমানিক. এবং তারপরে আপনাকে স্বাধীনতার অনুমান করতে হবে। সুতরাং, এটি স্পষ্ট যে একটি ভিডিওতে, ধারাবাহিক ফ্রেমগুলি স্বাধীন নয়৷ নির্ভরতা আছে, এবং সেই ফ্রেমটি নির্ভর করতে পারে অন্য একটি ফ্রেমের উপর যা আপনি এক ঘন্টা আগে দেখেছিলেন, যেটি একই জিনিসের ছবি। সুতরাং, আপনি জানেন, আপনি পরিমাপ করতে পারবেন না Pi. পরিমাপ করতে Pi, আপনার একটি মেশিন লার্নিং সিস্টেম থাকতে হবে যা ভবিষ্যদ্বাণী করতে শেখে। আর তাই আপনি আগের সমস্যায় ফিরে গেছেন। সুতরাং, আপনি শুধুমাত্র তথ্যের পরিমাপ আনুমানিক করতে পারেন, মূলত। 

আমাকে আরো একটি কংক্রিট উদাহরণ নিতে দিন. আমরা যে অ্যালগরিদম নিয়ে খেলছি তার মধ্যে একটি, এবং আমি এই বিষয়ে কথা বলেছি, এই জিনিসটিকে ভিআইসিআরজি বলা হয়, ভ্যারিয়েন্স-ইনভেরিয়েন্স-কোভেরিয়েন্স নিয়মিতকরণ। এটি একটি পৃথক কাগজে যা ICLR এ প্রকাশিত হয়েছিল, এবং এটি arXiv এ রাখা হয়েছিল প্রায় এক বছর আগে, 2021। এবং ধারণাটি তথ্য সর্বাধিক করা। এবং ধারণা আসলে একটি পূর্ববর্তী কাগজ থেকে এসেছেন আমার গ্রুপ বলা হয় বারলো টুইনস. আপনি একটি নিউরাল নেট থেকে বেরিয়ে আসা একটি ভেক্টরের তথ্য বিষয়বস্তুকে সর্বাধিক করে তোলেন, মূলত, অনুমান করে যে ভেরিয়েবলের মধ্যে একমাত্র নির্ভরতা হল পারস্পরিক সম্পর্ক, রৈখিক নির্ভরতা। সুতরাং, যদি আপনি ধরে নেন যে ভেরিয়েবলের জোড়ার মধ্যে বা আপনার সিস্টেমের ভেরিয়েবলের মধ্যে একমাত্র নির্ভরতাই সম্ভব, হল মূল্যবান জিনিসের জোড়ার মধ্যে পারস্পরিক সম্পর্ক, যা অত্যন্ত রুক্ষ আনুমানিক, তাহলে আপনি আপনার সিস্টেম থেকে আসা তথ্য সামগ্রীকে সর্বাধিক করতে পারেন সমস্ত ভেরিয়েবলের নন-জিরো ভ্যারিয়েন্স আছে তা নিশ্চিত করে — ধরা যাক, ভ্যারিয়েন্স ওয়ান, এটা কোন ব্যাপার না—এবং তারপরে সেগুলিকে পিছনে-সংলগ্ন করা, একই প্রক্রিয়া যাকে বলা হয় ঝকঝকে, এটাও নতুন নয়। এর সাথে সমস্যা হল যে আপনি খুব ভালভাবে ভেরিয়েবলের গ্রুপগুলির মধ্যে অত্যন্ত জটিল নির্ভরতা থাকতে পারেন বা এমনকি ভেরিয়েবলের জোড়ার মধ্যেও যেগুলি রৈখিক নির্ভরতা নয় এবং তারা পারস্পরিক সম্পর্কগুলিতে দেখায় না। সুতরাং, উদাহরণস্বরূপ, যদি আপনার দুটি ভেরিয়েবল থাকে, এবং সেই দুটি ভেরিয়েবলের সমস্ত পয়েন্টগুলি কিছু ধরণের সর্পিল মধ্যে লাইন আপ করে, সেই দুটি ভেরিয়েবলের মধ্যে একটি খুব শক্তিশালী নির্ভরতা আছে, তাই না? কিন্তু প্রকৃতপক্ষে, আপনি যদি এই দুটি ভেরিয়েবলের মধ্যে পারস্পরিক সম্পর্ক গণনা করেন, তবে তারা পারস্পরিক সম্পর্কযুক্ত নয়। সুতরাং, এখানে একটি উদাহরণ যেখানে এই দুটি ভেরিয়েবলের তথ্য বিষয়বস্তু আসলে খুব ছোট, এটি শুধুমাত্র একটি পরিমাণ কারণ এটি সর্পিলে আপনার অবস্থান। তারা ডি-সম্পর্কিত, তাই আপনি মনে করেন যে আপনার কাছে সেই দুটি ভেরিয়েবল থেকে প্রচুর তথ্য আসছে যখন আসলে আপনি তা করেন না, আপনার কাছে শুধুমাত্র আছে, আপনি জানেন, আপনি অন্যটির থেকে একটি ভেরিয়েবলের ভবিষ্যদ্বাণী করতে পারেন, মূলত। সুতরাং, এটি দেখায় যে আমাদের কাছে তথ্য সামগ্রী পরিমাপ করার খুব আনুমানিক উপায় রয়েছে।

জেডডিনেট: এবং তাই যে জিনিস এক যে আপনি পেয়েছেন এই সঙ্গে এখন কাজ করা? আমরা যখন তথ্যের কন্টেন্টকে সর্বাধিক এবং ছোট করছি তখন আমরা কীভাবে জানব তার বড় প্রশ্ন?

YL:  অথবা এর জন্য আমরা যে প্রক্সিটি ব্যবহার করছি তা আমরা যে কাজটি চাই তার জন্য যথেষ্ট ভাল কিনা। আসলে, আমরা মেশিন লার্নিং এ সব সময় এটি করি। আমরা যে খরচ ফাংশন মিনিমাইজ করি সেগুলি কখনই আমরা কমাতে চাই না। সুতরাং, উদাহরণস্বরূপ, আপনি শ্রেণীবিভাগ করতে চান, ঠিক আছে? শ্রেণীবিভাগকারীকে প্রশিক্ষণ দেওয়ার সময় আপনি যে খরচ ফাংশনটি কমাতে চান তা হল শ্রেণীবিভাগকারীর করা ভুলের সংখ্যা। কিন্তু এটি একটি অ-পার্থক্যযোগ্য, ভয়ঙ্কর খরচ ফাংশন যা আপনি কমাতে পারবেন না কারণ আপনি জানেন যে আপনি আপনার নিউরাল জালের ওজন পরিবর্তন করতে যাচ্ছেন, এই নমুনাগুলির মধ্যে একটি তার সিদ্ধান্তকে উল্টানো পর্যন্ত কিছুই পরিবর্তন হবে না, এবং তারপরে একটি লাফ ত্রুটিতে, ইতিবাচক বা নেতিবাচক।

জেডডিনেট: সুতরাং আপনার কাছে একটি প্রক্সি রয়েছে যা একটি উদ্দেশ্যমূলক ফাংশন যা আপনি অবশ্যই বলতে পারেন, আমরা অবশ্যই এই জিনিসটির গ্রেডিয়েন্ট প্রবাহ করতে পারি।

YL: সেটা ঠিক. সুতরাং লোকেরা এই ক্রস-এনট্রপি লস, বা SOFTMAX ব্যবহার করে, আপনার কাছে এটির বেশ কয়েকটি নাম রয়েছে, তবে এটি একই জিনিস। এবং এটি মূলত সিস্টেমের দ্বারা করা ত্রুটির সংখ্যার একটি মসৃণ আনুমানিক, যেখানে মসৃণকরণ করা হয়, মূলত, সিস্টেম প্রতিটি বিভাগে যে স্কোর দেয় তা বিবেচনা করে।

জেডডিনেট: এমন কিছু আছে যা আমরা কভার করিনি যা আপনি কভার করতে চান?

YL: এটা সম্ভবত প্রধান পয়েন্ট জোর দেওয়া. আমি মনে করি এআই সিস্টেমগুলিকে যুক্তি দিতে সক্ষম হওয়া দরকার, এবং আমি যে প্রক্রিয়াটির পক্ষে কথা বলছি তা কিছু সুপ্ত ভেরিয়েবলের ক্ষেত্রে কিছু উদ্দেশ্যকে হ্রাস করছে। এটি সিস্টেমগুলিকে পরিকল্পনা এবং যুক্তি দিতে দেয়। আমি মনে করি আমাদের সম্ভাব্য কাঠামো পরিত্যাগ করা উচিত কারণ আমরা যখন উচ্চ-মাত্রিক, অবিচ্ছিন্ন ভেরিয়েবলের মধ্যে নির্ভরতা ক্যাপচার করার মতো জিনিসগুলি করতে চাই তখন এটি জটিল। এবং আমি জেনারেটিভ মডেলগুলি পরিত্যাগ করার পক্ষে পরামর্শ দিচ্ছি কারণ সিস্টেমটিকে এমন জিনিসগুলির ভবিষ্যদ্বাণী করার জন্য অনেকগুলি সংস্থান উত্সর্গ করতে হবে যা ভবিষ্যদ্বাণী করা খুব কঠিন এবং সম্ভবত খুব বেশি সংস্থান গ্রহণ করে৷ এবং thats প্রায় কাছাকাছি এটি. আপনি যদি চান তাহলে এটাই প্রধান বার্তা। এবং তারপর সামগ্রিক স্থাপত্য. তারপরে চেতনার প্রকৃতি এবং কনফিগারারের ভূমিকা সম্পর্কে সেই অনুমান রয়েছে, তবে এটি সত্যিই অনুমান।

জেডডিনেট: আমরা যে পরের বার পেতে হবে. আমি আপনাকে জিজ্ঞাসা করতে যাচ্ছিলাম, আপনি এই জিনিসটি কীভাবে বেঞ্চমার্ক করবেন? কিন্তু আমি মনে করি আপনি এখন বেঞ্চমার্কিং থেকে একটু এগিয়ে আছেন?

YL: অগত্যা যে দূরে, সাজানোর, সরলীকৃত সংস্করণ. নিয়ন্ত্রণ বা শক্তিবৃদ্ধি শেখার ক্ষেত্রে প্রত্যেকে যা করে তা আপনি করতে পারেন, অর্থাৎ, আপনি আটারি গেমস খেলার জন্য প্রশিক্ষণ দেন বা এরকম কিছু বা অন্য কোনো গেম যাতে কিছু অনিশ্চয়তা থাকে।

জেডডিনেট: আপনার সময়ের জন্য ধন্যবাদ, ইয়ান.