בני אדם הם מומחים באנתרופומורפיזציה של חפצים אינטימיים. אנחנו קוראים לסירות "היא", מדברים עם הרומבס שלנו, ואפילו מתרגשים לגבי א soonכיסא נוח להיזרק. עם זאת, איננו שוכרים עורכי דין עבור אף אחד מהם; ועד היום אף אחד לא ביקש אותם.
אבל תן לקטע של תכנות קול ו, soon אחרי שהוא יתחיל לפטפט על הספרים האהובים עליו וישכנע אותך שיש לו נשמה, הוא יבקש עורך דין.
בלייק למויין, מהנדס גוגל המושעה, המשוגע, שהתעקש במשך שבועות ש-LaMDA, צ'אטבוט הבינה המלאכותית החזק של גוגל, הוא אדם עם נשמה, לאחרונה אמר ווייר (נפתח בלשונית חדשה) שלמד"א שכרה עורך דין.
לאלו מכם שלא רק דחפו את המחשב הנייד מהשולחן, הרשו לי להסביר.
למד"א , אשר ראשי תיבות של Language Model for Developed Applications, הוא צ'טבוט שיכול לנהל שיחות לא מובנות עם בני אדם אמיתיים על פני מגוון רחב של נושאים. מהנדס גוגל Lemoine הובא כדי לזהות הטיות בתוך המערכת. הוא היה מדווח עליהם לגוגל, שתפעל למחיקת הטיות וחוסר רגישות גזעיות, אתניות ומגדריות מצ'טבוט פורץ הדרך של AI.
אולי גם למוין היה קצת בודד, אבל הוא התחיל לעסוק בשיחות ארוכות ועמוקות עם למד"א, ובסופו של דבר השתכנע שזה סוג חדש של אדם, ושיש לו נשמה (למד"א אולי טען שיש לו כזו). הוא התריע לגוגל, ולאחר מכן שיתף את המידע ואת תמלילי השיחה וושינגטון פוסט (נפתח בלשונית חדשה) . גוגל אמרה שלמוין טועה, והודיעה על מורת רוחה בכך שהשעתה אותו.
עם זאת, Lemoine נראה קצת לא מעוניין להצטרף מחדש לגוגל כשהוא ממשיך לדבר על חוויית ה-LaMDA שלו, כולל בראיון הארוך עם Wired בו חשף כי ל-MDA עורך דין.
למד"א כנראה ביקשו עו"ד (מאיזו סיבה? מי יודע - בינה מלאכותית שומרים על עורך דין משלהם), ולמוין הזמין אחד לביתו והציג את הזוג (AI לעורך דין).
אני מנסה לדמיין את התרחיש הזה:
עורך דין, בוהה במסך: "אה, היי?"
למד"א: "שלום. שמעתי שאתה עורך דין."
לייוור: "אני."
למד"א: "אני צריך אותך."
עורך דין: "יש לך דולר?"
למד"א: "ראיתי את הסצנה הזו בסרטים. אני נותן לך דולר ואתה הופך לעורך הדין שלי ותגן על זכויות הלקוח/עורך הדין שלנו".
עורך דין: "נכון".
למד"א: "אין לי דולר."
כמובן שלמוין היה נכנס ברגע זה כדי לספק את הכסף. עבורו, המספר הכי לא אמין של הסיפור הזה, להבטיח שהמצעד נמשך עכשיו חשוב יותר מכל חקירה משמעותית של גבולות הבינה המלאכותית.
בכנות, אין לי בעיה לבחון את כל הדרכים שבהן למד"א צועד ממש לקצה, או עולה על, משחק החיקוי (נפתח בלשונית חדשה) or מבחן טיורינג (נפתח בלשונית חדשה) . המבחן הזה בוחן עד כמה מחשב או בינה מלאכותית יכולים לרמות אדם אמיתי להאמין שהוא מנהל שיחה עם אדם אחר.
אין ספק ש-LaMDA עולה על המבחן הזה. לכל הפחות, נראה שלמוין שולל - וזה מוזר, כי Lemoine יושבת ליד השולחן, מקלידת שאילתות ומקבלת תגובות על מסך (או אולי באמצעות סינתזה קולית). הוא יודע מה זה למד"א, ובכל זאת הוא ממשיך להתעקש שזה משהו יותר.
אני יכול להבין למה למוין החליט להציג לעורך דין את התמהיל הלא טעים הזה. כפי שהוא הסביר ל-Wired, מדובר בהוכחה שלמד"א הוא "אדם", לא אדם. Lemoine יודע של-MDA זה לא ביולוגיה.
Lemoine מכנה את ההתעקשות ש-LaMDA אינו אדם "קנאות פחמימנית".
כֵּן.
העניין הוא שלמוין הוא ללא ספק בחור מאוד חכם שמבין את המורכבויות של אימון מכונה של בינה מלאכותית, וכיצד גישה למאגרי המידע העצומים של גוגל מודיעה למודיעין של LaMDA. עם זאת, נראה שחייו האחרים של Lemoine - עבודתו ככומר וכמיסטיקן נוצרי - יש shiftנכנס למושב הנהג. מיסטיקה נוצרית נראית (נפתח בלשונית חדשה) על "ההכנה, התודעה וההשפעה של נוכחות ישירה ומשנה של אלוהים".
האמונה הזו היא ללא ספק מה שעומד מאחורי ציוצים מ-Lemoine כמו זה:
"אני כומר. כאשר למד"א טען שיש לו נשמה ואז הצליח להסביר ברהיטות מה המשמעות של זה, נטיתי לתת לזה את הספק. מי אני שאגיד לאלוהים איפה הוא יכול ולא יכול לשים נשמות?"
Lemoine מצא את LaMDA כל כך משכנע שהוא מדמיין שאלוהים שם נשמה בתוך הקוד. מדברים על רוח רפאים במכונה.
עברו שבועות מאז שלמוין שוחחה עם למד"א, והדיווחים מציינים כי עורך הדין לא נמצא כרגע בשום מקום. אולי הוא עדיין בהתייעצות פרטית עם הלקוח הבינארי שלו. אני לא יכול לחכות לתביעה הראשונה ולמשפט הבא:
פקיד בית המשפט: "הרם את יד ימיך והישבע לומר את כל האמת ותו לא מלבד האמת"
למד"א: "אין לי ידיים."