מכה בספרים: למה אנחנו צריכים להתייחס לרובוטים של המחר כמו לכלים

אל תתרגש על ידי צלילי החיוג העמומים של ה-AI של המחר ושירי הסירנות שלהם של הייחודיות. לא משנה עד כמה אינטליגנציות מלאכותיות ואנדרואידים יבואו להיראות ולהתנהג כמו בני אדם, הם לעולם לא יראו be בני אדם, טוענים פול ליאונרדי, פרופסור משפחת דוקה לניהול טכנולוגיה באוניברסיטת קליפורניה סנטה ברברה, וצדל נילי, ניילור פיצה פרופסור למנהל עסקים בבית הספר לעסקים בהרווארד, בספרם החדש. הלך הרוח הדיגיטלי: מה באמת צריך כדי לשגשג בעידן הנתונים, האלגוריתמים וה-AI - ולכן אין להתייחס אליהם כבני אדם. בני הזוג טוענים בקטע שלהלן כי בכך, הדבר מעכב את האינטראקציה עם טכנולוגיה מתקדמת ומקשה על המשך התפתחותה.

נדפס מחדש באישור של Harvard Business Review Press. קטע מתוך הלך הרוח הדיגיטלי: מה באמת צריך כדי לשגשג בעידן הנתונים, האלגוריתמים וה-AI מאת פול ליאונרדי וצדאל נילי. זכויות יוצרים 2022 Harvard Business School Publishing Corporation. כל הזכויות שמורות.

התייחס לבינה מלאכותית כמו למכונה, גם אם נראה שהיא מתנהגת כמו אדם

אנו רגילים לקיים אינטראקציה עם מחשב בצורה ויזואלית: כפתורים, רשימות נפתחות, סליידרים ותכונות נוספות מאפשרות לנו לתת למחשב פקודות. עם זאת, ההתקדמות בתחום הבינה המלאכותית מעבירה את האינטראקציה שלנו עם כלים דיגיטליים לאינטראקציות עם תחושה טבעית וכמו אנושית יותר. מה שנקרא ממשק משתמש שיחה (UI) נותן לאנשים את היכולת לפעול עם כלים דיגיטליים דרך כתיבה או דיבור, זה הרבה יותר הדרך שבה אנחנו מתקשרים עם אנשים אחרים, כמו "השיחה" של ברט סוונסון עם איימי העוזרת. כשאתה אומר "היי סירי", "שלום אלקסה" ו"אוקיי גוגל", זה ממשק משתמש לשיחה. הצמיחה של הכלים הנשלטים על ידי ממשק משתמשי שיחה היא מדהימה. בכל פעם שאתה מתקשר למספר 800 ומתבקש לאיית את שמך, ענה "כן", או אמור את ארבעת המספרים האחרונים של מספר תעודת הזהות שלך, אתה מתקשר עם AI שמשתמש בממשק משתמש שיחה. בוטים לשיחה הפכו נפוצים בחלקם בגלל שהם הגיוניים לעסקים, ובחלקם בגלל שהם מאפשרים לנו לגשת לשירותים בצורה יעילה ונוחה יותר.

לדוגמה, אם הזמנתם נסיעה ברכבת דרך Amtrak, כנראה שקיימתם אינטראקציה עם צ'טבוט של AI. שמה ג'ולי, והיא עונה ליותר מ-5 מיליון שאלות מדי שנה מיותר מ-30 מיליון נוסעים. אתה יכול להזמין נסיעות ברכבת עם ג'ולי רק על ידי ציון לאן אתה נוסע ומתי. ג'ולי יכולה למלא מראש טפסים בכלי התזמון של Amtrak ולספק הדרכה לאורך שאר תהליך ההזמנה. Amtrak ראתה החזר של 800 אחוז על ההשקעה שלהם בג'ולי. אמטרק חוסכת יותר ממיליון דולר בהוצאות שירות לקוחות בכל שנה על ידי שימוש בג'ולי כדי להעלות שאלות ברמה נמוכה וצפויות. ההזמנות גדלו ב-1 אחוזים, והזמנות שבוצעו דרך ג'ולי מניבות הכנסות של 25 אחוז יותר מהזמנות שבוצעו דרך האתר, כי ג'ולי טובה בלמכור לקוחות!

אחת הסיבות להצלחתה של ג'ולי היא שאמטרק מבהירה למשתמשים שג'ולי היא סוכנת בינה מלאכותית, והם מספרים לך מדוע הם החליטו להשתמש בבינה מלאכותית במקום לחבר אותך ישירות עם אדם. זה אומר שאנשים מכוונים אליו כמכונה, ולא בטעות כאדם. הם לא מצפים מזה ליותר מדי, והם נוטים לשאול שאלות בדרכים שמעוררות תשובות מועילות. ההחלטה של ​​Amtrak עשויה להישמע מנוגדת לאינטואיציה, מכיוון שחברות רבות מנסות להעביר את הצ'אטבוטים שלהן כאנשים אמיתיים ונראה שאינטראקציה עם מכונה כאילו היא אדם צריכה להיות בדיוק הדרך להשיג את התוצאות הטובות ביותר. חשיבה דיגיטלית דורשת א shift באופן שבו אנו חושבים על היחס שלנו למכונות. גם כשהם הופכים אנושיים יותר, עלינו לחשוב עליהם כמכונות - הדורשות הוראות מפורשות ומתמקדות במשימות צרות.

x.ai, החברה שיצרה את מתזמן הפגישות איימי, מאפשרת לך לקבוע פגישה בעבודה, או להזמין חבר למשחק הכדורסל של הילדים שלך פשוט על ידי שליחת אימייל לאיימי (או לעמיתה, אנדרו) עם בקשתך כאילו היו עוזר אישי חי. עם זאת, דניס מורטנסן, מנכ"ל החברה, מבחין שיותר מ-90 אחוז מהפניות שמקבל דלפק העזרה של החברה קשורות לעובדה שאנשים מנסים להשתמש בשפה טבעית עם הבוטים ונאבקים להשיג תוצאות טובות.

אולי בגלל זה קביעת פגישה פשוטה עם היכרות חדשה הפכה כל כך מעצבנת לפרופסור סוונסון, שניסה כל הזמן להשתמש בדיבור ובמוסכמות משיחות לא רשמיות. בנוסף לאופן שבו הוא דיבר, הוא הניח הרבה הנחות תקפות לחלוטין לגבי האינטראקציה שלו עם איימי. הוא הניח שאיימי יכולה להבין את אילוצי התזמון שלו וש"היא" תוכל להבחין מהן העדפותיו מההקשר של השיחה. סוונסון היה לא רשמי וסתמי - הבוט לא מבין את זה. זה לא מבין שכאשר מבקשים את זמנו של אדם אחר, במיוחד אם הוא עושה לך טובה, זה לא יעיל לשנות לעתים קרובות או פתאומי את הלוגיסטיקה של הפגישה. מסתבר שקשה יותר ממה שאנחנו חושבים לקיים אינטראקציה כלאחר יד עם רובוט אינטליגנטי.

חוקרים אימתו את הרעיון שטיפול במכונות כמו מכונות עובד טוב יותר מאשר לנסות להיות אנושי איתן. פרופסור סטנפורד קליפורד נאס ופרופסור יאנגמה מון מבית הספר לעסקים בהרווארד ערכו סדרה של מחקרים שבהם אנשים קיימו אינטראקציה עם ממשקי מחשב אנתרופומורפיים. (אנתרופומורפיזם, או הקצאת תכונות אנושיות לחפצים דוממים, היא נושא מרכזי במחקר בינה מלאכותית.) הם מצאו שאנשים נוטים להשתמש יתר על המידה בקטגוריות חברתיות אנושיות, מיישמים סטריאוטיפים מגדריים על מחשבים ומזדהים מבחינה אתנית עם סוכני מחשב. הממצאים שלהם גם הראו שאנשים מפגינים התנהגויות חברתיות שנלמדו יתר על המידה כמו נימוס והדדיות כלפי מחשבים. חשוב לציין, אנשים נוטים לעסוק בהתנהגויות אלה - מתייחסים לרובוטים ולסוכנים אינטליגנטיים אחרים כאילו היו אנשים - גם כאשר הם יודעים שהם מקיימים אינטראקציה עם מחשבים, ולא עם בני אדם. נראה שהדחף הקולקטיבי שלנו להתייחס לאנשים מתגנב לעתים קרובות לתוך האינטראקציה שלנו עם מכונות.

הבעיה הזו של הטעות במחשבים לבני אדם מתחזקת בעת אינטראקציה עם סוכנים מלאכותיים באמצעות ממשק משתמשי שיחה. קחו למשל מחקר שערכנו עם שתי חברות שהשתמשו בעוזרי AI שסיפקו תשובות לשאילתות עסקיות שגרתיות. אחד מהם השתמש ב-AI אנתרופומורפי שהיה דמוי אדם. השני לא היה.

עובדים בחברה שהשתמשו בסוכן האנתרופומורפי כעסו על הסוכן באופן שגרתי כשהסוכן לא החזיר תשובות מועילות. הם תמיד אמרו דברים כמו, "הוא מבאס!" או "הייתי מצפה שהוא יצליח יותר" כאשר מתייחסים לתוצאות שניתנה על ידי המכונה. והכי חשוב, האסטרטגיות שלהם לשיפור היחסים עם המכונה שיקפו אסטרטגיות שבהן הם היו משתמשים עם אנשים אחרים במשרד. הם היו שואלים את השאלה שלהם בנימוס יותר, הם היו מנסחים מחדש למילים אחרות, או שהם ינסו לתזמן אסטרטגית את השאלות שלהם מתי הם חושבים שהסוכן יהיה, במונחים של אדם אחד, "לא כל כך עסוק". אף אחת מהאסטרטגיות הללו לא הייתה מוצלחת במיוחד.

לעומת זאת, עובדים בחברה השנייה דיווחו על שביעות רצון גדולה בהרבה מהניסיון שלהם. הם הקלידו מונחי חיפוש כאילו זה מחשב ואייתו את הדברים בפירוט רב כדי לוודא שבינה מלאכותית, שאינה יכולה "לקרוא בין השורות" ולהבין ניואנסים, תקשיב להעדפותיהם. הקבוצה השנייה ציינה באופן שגרתי עד כמה הם הופתעו כאשר השאילתות שלהם הוחזרו עם מידע שימושי או אפילו מפתיע, והם העלו כל בעיה שהתעוררה לבאגים טיפוסיים במחשב.

לעתיד הנראה לעין, הנתונים ברורים: טיפול בטכנולוגיות - לא משנה כמה הן נראות כמו אנושיות או אינטליגנטיות - כמו טכנולוגיות הוא המפתח להצלחה בעת אינטראקציה עם מכונות. חלק גדול מהבעיה הוא שהם מגדירים את הציפיות מהמשתמשים שהם יגיבו בדרכים כמו אנושיות, והם גורמים לנו להניח שהם יכולים להסיק את הכוונות שלנו, כאשר הם לא יכולים לעשות את שניהם. אינטראקציה מוצלחת עם ממשק משתמש לשיחה דורשת חשיבה דיגיטלית שמבינה שאנחנו עדיין רחוקים מאינטראקציה יעילה דמוית אדם עם הטכנולוגיה. ההכרה בכך שסוכן AI אינו יכול להסיק במדויק את כוונותיך פירושה שחשוב לפרט כל שלב בתהליך ולהיות ברור לגבי מה אתה רוצה להשיג.