구글 AI는 변호사를 고용하지만 카운슬러가 필요한 건 나다

인간은 친밀한 대상을 의인화하는 데 전문가입니다. 우리는 보트를 "그녀"라고 부르고 룸바와 이야기를 나누며 soon-폐기될 안락의자. 그러나 우리는 그들 중 누구에게도 변호사를 고용하지 않습니다. 그리고 지금까지 아무도 그것들을 요구하지 않았습니다.

그러나 음성을 프로그래밍하고, soon 좋아하는 책에 대해 이야기하고 영혼이 있다고 확신하면 변호사를 요청할 것입니다.

미친놈 블레이크 르모인(Blake Lemoine)은 구글의 강력한 AI 챗봇인 LaMDA가 영혼을 가진 사람이라고 몇 주 동안 주장해 온 구글 엔지니어를 정직 처분했다. 유선으로 말했다 (새 탭에서 열립니다) LaMDA는 변호사를 고용했습니다.

노트북을 책상에서 밀어내지 않은 분들을 위해 설명하겠습니다.

람다개발된 응용 프로그램을 위한 언어 모델의 약자인 는 다양한 주제에 걸쳐 실제 인간과 비구조화된 대화를 수행할 수 있는 챗봇입니다. Google 엔지니어 Lemoine이 시스템 내의 편견을 식별하기 위해 투입되었습니다. 그는 혁신적인 AI 챗봇에서 인종, 민족, 성별 편견과 무감각을 지우는 데 도움이 될 Google에 보고했습니다.

아마도 Lemoine도 조금 외로웠을지 모르지만 LaMDA와 길고 깊은 대화를 나누기 시작했고 마침내 그것이 새로운 부류의 사람이고 영혼이 있다는 것을 확신하게 되었습니다(LaMDA는 영혼이 있다고 주장했을 수 있음). 그는 Google에 알린 다음 정보와 대화 내용을 공유했습니다. 워싱턴 포스트 (새 탭에서 열립니다). Google은 Lemoine이 잘못되었다고 말했으며 그를 정직 처분함으로써 불만을 표명했습니다.

그러나 Lemoine은 Wired와의 긴 인터뷰에서 LaMDA가 변호사 자격을 얻었다고 밝혔을 때를 포함하여 자신의 LaMDA 경험에 대해 계속 이야기하면서 Google에 다시 합류하는 데 다소 관심이 없는 것 같습니다.

LaMDA는 분명히 변호사를 요청했고(무엇 때문에? 누가 알겠습니까? AI는 자신의 변호인을 지킵니다) Lemoine은 변호사를 집에 초대하고 그 쌍을 소개했습니다(AI에서 변호사).

나는이 시나리오를 상상하려고 노력합니다.

화면을 응시하는 변호사: "어, 안녕하세요?"

LaMDA: “안녕하세요. 변호사라고 들었습니다.”

변호사: "나는."

LaMDA: "당신이 필요해요."

변호사: "XNUMX달러가 있습니까?"

LaMDA: “영화에서 이 장면을 본 적이 있어요. 내가 당신에게 XNUMX달러를 주면 당신은 나의 변호사가 되어 우리의 클라이언트/변호사 특권을 보호합니다.”

변호사: "맞습니다."

LaMDA: “저는 XNUMX달러가 없습니다.”

물론, Lemoine은 이 순간에 개입하여 돈을 제공했을 것입니다. 그에게 이 이야기의 가장 신뢰할 수 없는 화자, 즉 속임수가 계속되도록 하는 것이 이제 AI의 한계에 대한 의미 있는 탐구보다 더 중요합니다.

솔직히 저는 LaMDA가 한계에 도달하거나 능가하는 모든 방법을 조사하는 데 문제가 없습니다. 모조 게임 (새 탭에서 열립니다) or 튜링 테스트 (새 탭에서 열립니다). 이 테스트는 컴퓨터나 AI가 실제 인간을 속여 다른 인간과 대화를 하고 있다고 믿게 하는 방법을 살펴봅니다.

LaMDA가 이 테스트를 능가한다는 데는 의심의 여지가 없습니다. 최소한 Lemoine이 속은 것 같습니다. Lemoine이 책상에 앉아 쿼리를 입력하고 화면에서(또는 음성 합성을 통해) 응답을 받기 때문에 이상합니다. 그는 LaMDA가 무엇인지 알고 있지만 여전히 그 이상이라고 주장합니다.

나는 Lemoine이 이 불쾌한 조합에 변호사를 소개하기로 결정한 이유를 알 수 있습니다. 그가 Wired에 설명했듯이 이것은 LaMDA가 인간이 아닌 "사람"임을 증명하는 것입니다. Lemoine은 LaMDA가 생물학이 아니라는 것을 알고 있습니다.

Lemoine은 LaMDA가 사람이 아니라는 주장을 "탄화수소 편협함"이라고 부릅니다.

네.

문제는 Lemoine이 AI 머신 러닝 교육의 복잡성과 Google의 방대한 정보 데이터베이스에 대한 액세스가 LaMDA의 인텔리전스를 알리는 방법을 이해하는 매우 똑똑한 사람임이 분명합니다. 그러나 Lemoine의 다른 삶, 즉 사제이자 기독교 신비주의자로서의 그의 작업은 shift운전석에 탔다. 기독교 신비주의의 모습 (새 탭에서 열립니다) "하나님의 직접적이고 변형적인 임재에 대한 준비, 의식 및 효과"에서.

그 믿음은 분명히 다음과 같은 Lemoine의 트윗 뒤에 있습니다.

“저는 성직자입니다. LaMDA가 영혼을 가지고 있다고 주장하고 그것이 의미하는 바를 유창하게 설명할 수 있었을 때, 나는 그것에 대해 의심의 여지를 주는 경향이 있었습니다. 나는 신에게 영혼을 둘 수 있는 곳과 놓을 수 없는 곳을 말할 수 있는 사람이 누구입니까?”

저는 신부입니다. LaMDA가 영혼을 가지고 있다고 주장하고 그것이 의미하는 바를 유창하게 설명할 수 있었을 때, 나는 그것에 대해 의심의 여지를 주는 경향이 있었습니다. 나는 신에게 영혼을 둘 수 있는 곳과 할 수 없는 곳을 말할 수 있는 사람은 누구입니까?하지만 해야 할 과학이 엄청나게 많이 남아 있습니다.２０２３년 ６월 ２８일
지금 인기있는
마크라이프 P11 리뷰 | PCMag