本を読む: 未来のロボットをツールのように扱う必要がある理由

明日の AI の甘美なダイヤルトーンや特異点のサイレンの歌に振り回されないでください。人工知能やアンドロイドがどれだけ人間に似た見た目や行動をするようになったとしても、実際には決して人間に似ることはありません。 be カリフォルニア大学サンタバーバラ校のテクノロジーマネジメントのドゥカ・ファミリー教授であるポール・レオナルディ氏と、ハーバード・ビジネス・スクールの経営学教授であるネイラー・フィッツヒュー氏のツェダル・ニーリー氏は、新著の中で人間は人間であると主張している。 デジタルマインドセット: データ、アルゴリズム、AI の時代に成功するために本当に必要なこと したがって、人間として扱われるべきではありません。両氏は以下の抜粋で、そうすることで先進技術との相互作用が妨げられ、そのさらなる発展が妨げられると主張している。

ハーバードビジネスレビュープレスの許可を得て転載。 から抜粋 デジタルの考え方: データ、アルゴリズム、AI の時代に成功するために本当に必要なこと ポール・レオナルディとツェダル・ニーリー著。著作権 2022 Harvard Business School Publishing Corporation.無断転載を禁じます。

AI は人間のように振る舞うように見えても、機械のように扱う

私たちは視覚的な方法でコンピュータを操作することに慣れています。ボタン、ドロップダウン リスト、スライダー、その他の機能を使用して、コンピュータにコマンドを与えることができます。しかし、AI の進歩により、デジタル ツールとの対話は、より自然な感覚と人間のような対話へと移行しています。いわゆる会話型ユーザー インターフェイス (UI) により、人々は、バート スワンソンとアシスタントのエイミーの「会話」のように、他の人々と対話する方法に近い、書いたり話したりすることでデジタル ツールを操作できるようになります。 「Hey Siri」、「Hello Alexa」、「OK Google」と言うと、それが会話型 UI になります。会話型 UI によって制御されるツールの成長は驚異的です。 800 番に電話し、名前のつづりを尋ねられたり、「はい」と答えたり、社会保障番号の最後の XNUMX つの数字を言うたびに、会話型 UI を使用する AI と対話していることになります。会話ボットが普及した理由の XNUMX つは、ビジネス上合理的であること、また、より効率的かつ便利にサービスにアクセスできるようにするためです。

たとえば、アムトラックで電車の旅行を予約した場合は、おそらく AI チャットボットとやり取りしたことがあるでしょう。その名前は Julie で、5 万人以上の乗客からの年間 30 万件以上の質問に答えています。どこにいつ行くかを伝えるだけで、ジュリーとの鉄道旅行を予約できます。 Julie は、アムトラックのスケジュール ツールでフォームに事前に入力し、予約プロセスの残りの部分についてガイダンスを提供できます。アムトラックはジュリーへの投資から 800% の収益を上げています。アムトラックは、Julie を使用して低レベルで予測可能な質問に対応することで、顧客サービス経費を毎年 1 万ドル以上節約しています。予約は 25% 増加し、Julie を通じて行われた予約は、Web サイトを通じて行われた予約よりも 30% 多くの収益を生み出しています。これは、Julie が顧客にアップセルするのが得意であるためです。

ジュリーの成功の理由の 1 つは、アムトラックがジュリーが AI エージェントであることをユーザーに明確にし、人間と直接接続するのではなく AI を使用することに決めた理由を説明していることです。それは、人々がそれを人間であると誤って認識するのではなく、機械として認識することを意味します。彼らはあまり多くを期待しておらず、役立つ答えを引き出す方法で質問する傾向があります。アムトラックの決定は直感に反するように聞こえるかもしれない。なぜなら、多くの企業が自社のチャットボットを本物の人間に見せかけようとしており、あたかも人間であるかのように機械と対話することがまさに最良の結果を得る方法であるはずだからだ。デジタル的な考え方には、 shift 私たちが機械との関係についてどのように考えるかについてです。たとえそれらがより人間らしくなったとしても、私たちはそれらを機械として考える必要があります。明示的な指示が必要で、狭いタスクに集中する必要があります。

会議スケジューラー Amy を開発した会社である x.ai を使用すると、エイミー (または彼女の相手であるアンドリュー) にメールでリクエストを送信するだけで、職場での会議をスケジュールしたり、友人を子供のバスケットボールの試合に招待したりできます。ライブパーソナルアシスタント。しかし、同社の CEO、デニス・モーテンセン氏は、同社のヘルプデスクに寄せられる問い合わせの 90% 以上が、人々がボットで自然言語を使おうとして、良い結果を得るのに苦労しているという事実に関連していると述べています。

おそらくそれが、非公式な会話から口語や慣例を使おうとし続けたスワンソン教授にとって、新しい知人との簡単な会議のスケジュールを立てることが非常に煩わしくなった理由です。彼の話し方に加えて、彼はエイミーとのやり取りについて多くの完全に正当な仮定を立てていました。彼は、エイミーは彼のスケジュール上の制約を理解しており、「彼女」は会話の文脈から彼の好みを識別できるだろうと考えていました。スワンソンは非公式でカジュアルな態度をとりましたが、ボットにはそれがわかりません。他の人に時間を求めるとき、特に相手があなたに好意を寄せている場合、会議の手順を頻繁にまたは突然変更するのは効果的ではないことを理解していません。知的なロボットとカジュアルに対話するのは、私たちが思っているよりも難しいことがわかりました。

研究者らは、機械を機械のように扱うほうが、人間らしく扱うより効果があるという考えを検証しました。スタンフォード大学のクリフォード・ナス教授とハーバード・ビジネス・スクールのヨンミー・ムーン教授は、人々が擬人化されたコンピューター・インターフェースと対話する一連の研究を実施した。 （擬人化、つまり無生物に人間の属性を割り当てることは、AI 研究における主要な問題です。）彼らは、個人が人間の社会的カテゴリーを過度に使用する傾向があり、性別の固定観念をコンピューターに適用し、コンピューターエージェントと民族的に同一視する傾向があることを発見しました。彼らの調査結果は、人々がコンピュータに対して礼儀正しさや相互主義などの過剰学習された社会的行動を示すことも示した。重要なのは、人間は、人間ではなくコンピューターと対話しているとわかっていても、ロボットやその他の知的エージェントをあたかも人間であるかのように扱う、このような行動をとる傾向があるということです。人々と関わりたいという私たちの集団的な衝動が、機械との相互作用に忍び込んでいることが多いようです。

コンピュータを人間と間違えるというこの問題は、会話型 UI を介して人工エージェントと対話するときにさらに悪化します。たとえば、日常的なビジネス クエリに回答を提供する AI アシスタントを使用している 2 つの企業に対して私たちが実施した調査を考えてみましょう。 1つは人間に似た擬人化AIを使用した。もう一方はそうではありませんでした。

擬人化エージェントを使用していた会社の従業員は、エージェントが有用な回答を返さないと、日常的にエージェントに腹を立てていました。彼らは「彼は最低だ！」などと日常的に言いました。または、マシンによって与えられた結果について言及するときに「私は彼がもっとうまくやると期待しています」。最も重要なことは、マシンとの関係を改善するための彼らの戦略は、オフィス内の他の人々に対して使用する戦略を反映していたことです。彼らは、より丁寧に質問したり、別の言葉に言い換えたり、ある人の言葉で言えば、エージェントが「それほど忙しくない」と思われる時間帯に戦略的に質問のタイミングを計ろうとしたりします。これらの戦略はいずれも特に成功しませんでした。

対照的に、他の会社の従業員は、自分たちの経験に対してはるかに高い満足度を報告しました。彼らはあたかもコンピュータであるかのように検索語を入力し、「行間を読んで」ニュアンスを察知することができない AI が彼らの好みを確実に理解できるように、物事を詳細に説明しました。 2 番目のグループは、クエリで役立つ情報や驚くべき情報が返されたときの驚きを定期的に述べ、コンピューターの典型的なバグに起因する問題をすべてチョークで書きました。

近い将来、データは明らかです。テクノロジーがどれほど人間に似ていても、あるいは知的に見えても、機械と対話する際にはテクノロジーのように扱うことが成功の鍵となります。問題の大きな部分は、ユーザーが人間のような方法で反応するだろうという期待をユーザーに与え、ユーザーがどちらもできないのに、ユーザーは私たちの意図を推測できると思い込ませることです。会話型 UI と適切に対話するには、テクノロジーと人間のような効果的な対話にはまだ程遠いということを理解するデジタル的な考え方が必要です。 AI エージェントがユーザーの意図を正確に推測できないことを認識するということは、プロセスの各ステップを詳しく説明し、何を達成したいのかを明確にすることが重要であることを意味します。