Hitting Books: 미래의 로봇을 도구처럼 다루어야 하는 이유

미래의 AI의 둔탁한 발신음과 특이점의 사이렌 노래에 흔들리지 마십시오. 인공 지능과 안드로이드가 인간처럼 보이고 행동하게 되더라도 실제로는 결코 be 캘리포니아 산타 바바라 대학의 Duca 가족 기술 관리 교수인 Paul Leonardi와 Harvard Business School의 Naylor Fitzhugh 경영학 교수인 Tsedal Neeley가 새 책에서 디지털 사고방식: 데이터, 알고리즘, AI 시대에 성공하기 위해 필요한 것 — 따라서 인간처럼 취급되어서는 안 됩니다. 쌍은 아래 발췌문에서 그렇게 하는 것이 첨단 기술과의 상호 작용을 방해하고 추가 개발을 방해한다고 주장합니다.

Harvard Business Review Press의 허가를 받아 재인쇄되었습니다. 에서 발췌 디지털 사고방식: 데이터, 알고리즘, AI 시대에 성공하기 위해 필요한 것 Paul Leonardi와 Tsedal Neeley. Copyright 2022 Harvard Business School Publishing Corporation. 판권 소유.

AI가 사람처럼 행동하더라도 기계처럼 취급하십시오

우리는 시각적인 방식으로 컴퓨터와 상호 작용하는 데 익숙합니다. 버튼, 드롭다운 목록, 슬라이더 및 기타 기능을 통해 컴퓨터에 명령을 내릴 수 있습니다. 그러나 AI의 발전은 디지털 도구와의 상호 작용을 보다 자연스럽고 인간과 유사한 상호 작용으로 옮기고 있습니다. 대화형 UI(사용자 인터페이스)라고 하는 것은 Burt Swanson이 Amy 조수와의 "대화"와 같이 다른 사람들과 상호 작용하는 방식보다 훨씬 더 많은 방식으로 쓰기 또는 말하기를 통해 디지털 도구로 행동할 수 있는 기능을 제공합니다. "Siri야", "Hello Alexa", "OK Google"이라고 말하면 대화형 UI입니다. 대화형 UI로 제어되는 도구의 성장은 놀랍습니다. 800 번호로 전화를 걸고 이름의 철자를 물어볼 때마다 "예"라고 대답하거나 사회 보장 번호의 마지막 XNUMX자리 숫자를 말하면 대화형 UI를 사용하는 AI와 상호 작용하는 것입니다. 대화형 봇은 부분적으로는 비즈니스에 적합하고 부분적으로는 서비스에 보다 효율적이고 편리하게 액세스할 수 있기 때문에 어디에나 있습니다.

예를 들어 Amtrak을 통해 기차 여행을 예약했다면 아마도 AI 챗봇과 상호 작용했을 것입니다. 그 이름은 Julie이며 5천만 명 이상의 승객이 매년 30백만 개 이상의 질문에 답합니다. 목적지와 시간을 말하면 Julie와 함께 기차 여행을 예약할 수 있습니다. Julie는 Amtrak의 일정 도구에서 양식을 미리 채우고 나머지 예약 프로세스에 대한 지침을 제공할 수 있습니다. Amtrak은 Julie에 대한 투자에서 800%의 수익을 거두었습니다. Amtrak은 Julie를 사용하여 낮은 수준의 예측 가능한 질문을 처리함으로써 매년 1만 달러 이상의 고객 서비스 비용을 절약합니다. 예약은 25% 증가했으며 Julie를 통한 예약은 웹사이트를 통한 예약보다 30% 더 많은 수익을 창출합니다. Julie는 고객을 상향 판매하는 데 능숙하기 때문입니다!

Julie의 성공에 대한 한 가지 이유는 Amtrak이 사용자에게 Julie가 AI 에이전트임을 분명히 하고 사용자가 사용자를 인간과 직접 연결하는 대신 AI를 사용하기로 결정한 이유를 알려 주기 때문입니다. 그것은 사람들이 그것을 인간으로 착각하지 않고 기계로 지향한다는 것을 의미합니다. 그들은 그것에 대해 너무 많은 것을 기대하지 않으며 유용한 답변을 이끌어내는 방식으로 질문하는 경향이 있습니다. Amtrak의 결정은 반직관적으로 들릴 수 있습니다. 많은 회사가 챗봇을 실제 사람으로 위장하려고 하고 마치 사람처럼 기계와 상호 작용하는 것이 최상의 결과를 얻는 정확한 방법인 것처럼 보이기 때문입니다. 디지털 마인드가 필요합니다. shift 우리가 기계와의 관계에 대해 생각하는 방식에서. 그것들이 더 인간적이 되더라도 우리는 그것들을 기계로 생각할 필요가 있습니다. 명시적인 지시가 필요하고 좁은 작업에 집중해야 합니다.

회의 스케줄러 Amy를 만든 회사인 x.ai를 사용하면 Amy(또는 그녀의 상대인 Andrew)에게 이메일로 요청을 마치 친구처럼 요청하여 직장에서 회의를 예약하거나 친구를 자녀의 농구 경기에 초대할 수 있습니다. 라이브 개인 비서. 그러나 회사의 CEO인 Dennis Mortensen은 회사의 헬프 데스크에서 받는 문의의 90% 이상이 사람들이 봇과 함께 자연어를 사용하려고 하고 좋은 결과를 얻기 위해 고군분투한다는 사실과 관련이 있다고 관찰합니다.

비공식 대화에서 구어체와 관례를 계속 사용하려고 했던 Swanson 교수는 새로운 지인과의 간단한 회의 일정을 잡는 것이 그토록 짜증나는 일이었는지도 모릅니다. 그는 말하는 방식 외에도 Amy와의 상호 작용에 대해 완벽하게 유효한 가정을 많이 했습니다. 그는 Amy가 자신의 일정 제약을 이해할 수 있고 "그녀"가 대화의 맥락에서 자신의 선호도가 무엇인지 식별할 수 있다고 가정했습니다. Swanson은 비공식적이고 캐주얼했습니다. 봇은 이를 이해하지 못합니다. 다른 사람에게 시간을 요구할 때, 특히 그들이 당신에게 호의를 베풀고 있다면, 자주 또는 갑자기 회의 일정을 변경하는 것이 효과적이지 않다는 것을 이해하지 못합니다. 지능 로봇과 자연스럽게 상호 작용하는 것이 생각보다 어렵다는 것이 밝혀졌습니다.

연구원들은 기계를 기계처럼 취급하는 것이 인간이 기계를 다루려고 하는 것보다 더 효과적이라는 아이디어를 검증했습니다. 스탠포드 대학교의 클리포드 나스 교수와 하버드 경영대학원의 문영미 교수는 사람들이 의인화된 컴퓨터 인터페이스와 상호 작용하는 일련의 연구를 수행했습니다. (의인화 또는 인간의 속성을 무생물에 할당하는 것은 AI 연구의 주요 문제입니다.) 그들은 개인이 인간의 사회적 범주를 남용하는 경향이 있으며, 컴퓨터에 성별 고정 관념을 적용하고 컴퓨터 에이전트와 인종적으로 동일시하는 경향이 있음을 발견했습니다. 그들의 발견은 또한 사람들이 컴퓨터에 대한 공손함과 호혜성과 같은 지나치게 학습된 사회적 행동을 보인다는 것을 보여주었습니다. 중요하게도, 사람들은 인간이 아닌 컴퓨터와 상호 작용하고 있음을 알면서도 로봇 및 기타 지능형 에이전트를 마치 사람인 것처럼 취급하는 이러한 행동에 참여하는 경향이 있습니다. 사람들과 관계를 맺고자 하는 우리의 집단적 충동은 종종 기계와의 상호 작용에 스며드는 것 같습니다.

컴퓨터를 인간으로 착각하는 이 문제는 대화형 UI를 통해 인공 에이전트와 상호 작용할 때 더 복잡해집니다. 예를 들어 일상적인 비즈니스 쿼리에 대한 답변을 제공하는 AI 도우미를 사용하는 두 회사와 함께 수행한 연구를 예로 들어 보겠습니다. 하나는 인간과 같은 의인화 된 AI를 사용했습니다. 다른 하나는 그렇지 않았습니다.

의인화된 에이전트를 사용하는 회사의 직원은 에이전트가 유용한 답변을 반환하지 않을 때 에이전트에게 일상적으로 화를 냈습니다. 그들은 일상적으로 "그는 짜증난다!"와 같은 말을 했습니다. 또는 기계가 제공한 결과를 언급할 때 "나는 그가 더 잘하기를 기대합니다." 가장 중요한 것은 기계와의 관계를 개선하기 위한 그들의 전략이 사무실의 다른 사람들과 사용하는 전략을 반영했다는 것입니다. 그들은 좀 더 정중하게 질문을 하고, 다른 단어로 바꾸거나, 상담원이 한 사람의 표현으로 "그렇게 바쁘지 않을 것"이라고 생각되는 시간에 전략적으로 질문 시간을 맞추려고 했습니다. 이러한 전략 중 어느 것도 특별히 성공하지 못했습니다.

이에 반해, 다른 회사의 직원들은 경험에 대해 훨씬 더 큰 만족도를 보고했습니다. 그들은 마치 컴퓨터처럼 검색어를 입력하고 "줄 사이를 읽지" 못하고 뉘앙스를 알아차릴 수 없는 AI가 자신의 선호도에 주의를 기울일 수 있도록 아주 자세하게 철자했습니다. 두 번째 그룹은 쿼리가 유용하거나 심지어 놀라운 정보와 함께 반환되었을 때 얼마나 놀랐는지 일상적으로 언급하고 컴퓨터의 일반적인 버그에서 발생하는 모든 문제를 분필로 표시했습니다.

가까운 미래에 데이터는 명확합니다. 기술이 아무리 인간과 같거나 지능적으로 나타나더라도 기술을 기계와 상호 작용할 때 기술과 같은 방식으로 처리하는 것이 성공의 열쇠입니다. 문제의 큰 부분은 사용자가 인간과 같은 방식으로 응답할 것이라는 기대치를 설정하고, 둘 다 할 수 없는 경우에도 사용자가 우리의 의도를 추론할 수 있다고 가정하게 한다는 것입니다. 대화형 UI와 성공적으로 상호 작용하려면 기술과 인간과 같은 효과적인 상호 작용이 아직 멀었다는 것을 이해하는 디지털 사고 방식이 필요합니다. AI 에이전트가 당신의 의도를 정확하게 유추할 수 없다는 것을 인식한다는 것은 프로세스의 각 단계를 설명하고 달성하고자 하는 바를 명확히 하는 것이 중요하다는 것을 의미합니다.