Đánh vào sách: Tại sao chúng ta cần coi robot của ngày mai như những công cụ

Đừng bị ảnh hưởng bởi âm thanh quay số êm dịu của AI của ngày mai và những bài hát hấp dẫn của chúng về điểm kỳ dị. Cho dù trí tuệ nhân tạo và android có thể trông giống và hành động giống con người đến mức nào, chúng sẽ không bao giờ thực sự be con người, Paul Leonardi, Giáo sư Quản lý Công nghệ của Gia đình Duca tại Đại học California Santa Barbara, và Tsedal Neeley, Giáo sư Quản trị Kinh doanh Naylor Fitzhugh tại Trường Kinh doanh Harvard, trong cuốn sách mới của họ. Tư duy kỹ thuật số: Điều gì thực sự cần để phát triển mạnh trong thời đại dữ liệu, thuật toán và AI - và do đó không nên bị đối xử như con người. Cặp đôi tranh luận trong đoạn trích dưới đây rằng làm như vậy sẽ cản trở sự tương tác với công nghệ tiên tiến và cản trở sự phát triển hơn nữa của nó.

Tái bản với sự cho phép của Harvard Business Review Press. Trích từ TƯ DUY KỸ THUẬT SỐ: Điều thực sự cần thiết để phát triển trong thời đại dữ liệu, thuật toán và AI của Paul Leonardi và Tsedal Neeley. Bản quyền 2022 Tập đoàn Xuất bản Trường Kinh doanh Harvard. Đã đăng ký Bản quyền.

Hãy đối xử với AI như một cỗ máy, ngay cả khi nó có vẻ hoạt động như con người

Chúng ta đã quen với việc tương tác với máy tính theo cách trực quan: các nút, danh sách thả xuống, thanh trượt và các tính năng khác cho phép chúng ta ra lệnh cho máy tính. Tuy nhiên, những tiến bộ trong AI đang chuyển sự tương tác của chúng ta với các công cụ kỹ thuật số sang những tương tác có cảm giác tự nhiên hơn và giống con người hơn. Cái được gọi là giao diện người dùng đàm thoại (UI) cung cấp cho mọi người khả năng hành động với các công cụ kỹ thuật số thông qua viết hoặc nói chuyện, đó chính là cách chúng ta tương tác với người khác, chẳng hạn như “cuộc trò chuyện” của Burt Swanson với trợ lý Amy. Khi bạn nói “Hey Siri”, “Xin chào Alexa” và “OK Google”, đó là giao diện người dùng đàm thoại. Sự phát triển của các công cụ được điều khiển bởi giao diện người dùng đàm thoại thật đáng kinh ngạc. Mỗi khi bạn gọi đến số 800 và được yêu cầu đánh vần tên của mình, hãy trả lời “Có” hoặc nói bốn số cuối trong số an sinh xã hội của bạn, tức là bạn đang tương tác với một AI sử dụng giao diện người dùng đàm thoại. Các bot đàm thoại đã trở nên phổ biến một phần vì chúng có ý nghĩa kinh doanh tốt và một phần vì chúng cho phép chúng ta truy cập các dịch vụ hiệu quả hơn và thuận tiện hơn.

Ví dụ: nếu bạn đã đặt chuyến tàu qua Amtrak, có thể bạn đã tương tác với một chatbot AI. Tên của nó là Julie và nó trả lời hơn 5 triệu câu hỏi mỗi năm từ hơn 30 triệu hành khách. Bạn có thể đặt chuyến đi đường sắt với Julie chỉ bằng cách nói bạn sẽ đi đâu và khi nào. Julie có thể điền trước biểu mẫu trên công cụ lập lịch trình của Amtrak và cung cấp hướng dẫn trong phần còn lại của quy trình đặt chỗ. Amtrak đã nhận được lợi nhuận 800% từ khoản đầu tư của họ vào Julie. Amtrak tiết kiệm hơn 1 triệu USD chi phí dịch vụ khách hàng mỗi năm bằng cách sử dụng Julie để giải quyết các câu hỏi cấp thấp, có thể dự đoán được. Số lượt đặt chỗ đã tăng 25 phần trăm và các lượt đặt chỗ được thực hiện thông qua Julie tạo ra doanh thu cao hơn 30% so với các lượt đặt chỗ được thực hiện qua trang web vì Julie rất giỏi trong việc bán thêm hàng cho khách hàng!

Một lý do dẫn đến thành công của Julie là Amtrak nói rõ với người dùng rằng Julie là đặc vụ AI và họ cho bạn biết lý do tại sao họ quyết định sử dụng AI thay vì kết nối bạn trực tiếp với con người. Điều đó có nghĩa là con người hướng tới nó như một cái máy chứ không nhầm lẫn là con người. Họ không mong đợi quá nhiều từ điều đó và họ có xu hướng đặt câu hỏi theo cách gợi ra những câu trả lời hữu ích. Quyết định của Amtrak nghe có vẻ phản trực giác, vì nhiều công ty cố gắng coi chatbot của họ là người thật và có vẻ như việc tương tác với máy như thể đó là con người chính xác là cách để đạt được kết quả tốt nhất. Một tư duy kỹ thuật số đòi hỏi một shift trong cách chúng ta nghĩ về mối quan hệ của chúng ta với máy móc. Ngay cả khi chúng trở nên nhân văn hơn, chúng ta vẫn cần coi chúng như những cỗ máy—cần có những hướng dẫn rõ ràng và tập trung vào những nhiệm vụ hẹp.

x.ai, công ty tạo ra công cụ lập lịch cuộc họp cho Amy, cho phép bạn lên lịch một cuộc họp tại nơi làm việc hoặc mời một người bạn đến xem trận đấu bóng rổ của con bạn bằng cách gửi email cho Amy (hoặc đối tác của cô ấy, Andrew) với yêu cầu của bạn như thể họ là một trợ lý cá nhân trực tiếp. Tuy nhiên, Dennis Mortensen, Giám đốc điều hành của công ty, nhận thấy rằng hơn 90% câu hỏi mà bộ phận trợ giúp của công ty nhận được có liên quan đến thực tế là mọi người đang cố gắng sử dụng ngôn ngữ tự nhiên với bot và đang nỗ lực để đạt được kết quả tốt.

Có lẽ đó là lý do tại sao việc lên lịch cho một cuộc gặp đơn giản với một người mới quen lại trở nên khó chịu đối với Giáo sư Swanson, người luôn cố gắng sử dụng những từ thông tục và quy ước trong cuộc trò chuyện thân mật. Ngoài cách nói chuyện, anh ấy còn đưa ra nhiều giả định hoàn toàn có cơ sở về sự tương tác của anh ấy với Amy. Anh ấy cho rằng Amy có thể hiểu được những hạn chế về lịch trình của anh ấy và rằng “cô ấy” sẽ có thể nhận ra sở thích của anh ấy là gì từ bối cảnh của cuộc trò chuyện. Swanson tỏ ra thân mật và giản dị—bot không hiểu được điều đó. Không hiểu rằng khi xin thời gian của người khác, đặc biệt nếu họ đang giúp đỡ bạn, việc thay đổi nội dung cuộc họp thường xuyên hoặc đột ngột sẽ không hiệu quả. Hóa ra việc tương tác ngẫu nhiên với một robot thông minh khó hơn chúng ta nghĩ.

Các nhà nghiên cứu đã xác nhận ý tưởng rằng việc xử lý máy móc giống như máy móc hoạt động tốt hơn là cố gắng trở thành con người với chúng. Giáo sư Clifford Nass của Stanford và giáo sư Youngme Moon của Trường Kinh doanh Harvard đã thực hiện một loạt nghiên cứu trong đó mọi người tương tác với các giao diện máy tính được nhân cách hóa. (Thuyết nhân cách hóa, hay gán thuộc tính của con người cho các vật thể vô tri, là một vấn đề chính trong nghiên cứu AI.) Họ phát hiện ra rằng các cá nhân có xu hướng lạm dụng quá mức các phạm trù xã hội của con người, áp dụng định kiến ​​giới tính vào máy tính và xác định chủng tộc bằng các tác nhân máy tính. Phát hiện của họ cũng cho thấy mọi người thể hiện những hành vi xã hội được học hỏi quá mức như lịch sự và có đi có lại đối với máy tính. Điều quan trọng là mọi người có xu hướng thực hiện những hành vi này - đối xử với robot và các tác nhân thông minh khác như thể chúng là con người - ngay cả khi họ biết mình đang tương tác với máy tính chứ không phải con người. Có vẻ như sự thúc đẩy chung của chúng ta trong việc liên hệ với con người thường len lỏi vào sự tương tác của chúng ta với máy móc.

Vấn đề nhầm máy tính với con người này trở nên phức tạp hơn khi tương tác với các tác nhân nhân tạo thông qua giao diện người dùng đàm thoại. Lấy ví dụ: một nghiên cứu mà chúng tôi thực hiện với hai công ty sử dụng trợ lý AI để cung cấp câu trả lời cho các truy vấn kinh doanh thông thường. Một người đã sử dụng AI được nhân cách hóa giống con người. Người kia thì không.

Những công nhân tại công ty sử dụng tác nhân nhân hình thường nổi giận với tác nhân khi tác nhân không trả lời những câu trả lời hữu ích. Họ thường xuyên nói những câu như, "Anh ấy thật tệ!" hoặc “Tôi mong anh ấy làm tốt hơn” khi đề cập đến kết quả mà máy đưa ra. Quan trọng nhất, các chiến lược cải thiện mối quan hệ với máy móc của họ phản ánh các chiến lược mà họ sẽ sử dụng với những người khác trong văn phòng. Họ sẽ đặt câu hỏi một cách lịch sự hơn, họ sẽ diễn đạt lại bằng những từ khác nhau hoặc họ sẽ cố gắng sắp xếp thời gian câu hỏi một cách có chiến lược khi họ nghĩ rằng người đại diện sẽ “không bận lắm”, theo cách nói của một người. Không có chiến lược nào trong số này đặc biệt thành công.

Ngược lại, công nhân ở công ty kia cho biết họ hài lòng hơn nhiều với trải nghiệm của mình. Họ nhập các cụm từ tìm kiếm như thể đó là một chiếc máy tính và đánh vần mọi thứ một cách chi tiết để đảm bảo rằng AI, người không thể “đọc giữa các dòng” và nắm bắt các sắc thái, sẽ chú ý đến sở thích của họ. Nhóm thứ hai thường xuyên nhận xét rằng họ ngạc nhiên như thế nào khi các truy vấn của họ được trả về với thông tin hữu ích hoặc thậm chí đáng ngạc nhiên và họ viết ra bất kỳ vấn đề nào phát sinh từ các lỗi điển hình của máy tính.

Trong tương lai gần, dữ liệu rất rõ ràng: xử lý các công nghệ - bất kể chúng trông giống con người hay thông minh đến mức nào - giống công nghệ là chìa khóa thành công khi tương tác với máy móc. Một phần lớn của vấn đề là họ đặt kỳ vọng cho người dùng rằng họ sẽ phản hồi theo cách giống con người và khiến chúng tôi cho rằng họ có thể suy ra ý định của chúng tôi, trong khi họ không thể làm được. Tương tác thành công với giao diện người dùng đàm thoại đòi hỏi tư duy kỹ thuật số hiểu rằng chúng ta vẫn còn cách xa sự tương tác hiệu quả giống như con người với công nghệ. Nhận thức được rằng tác nhân AI không thể suy luận chính xác ý định của bạn có nghĩa là điều quan trọng là phải nêu rõ từng bước của quy trình và rõ ràng về những gì bạn muốn đạt được.