Хората са експерти в антропоморфизирането на интимни предмети. Наричаме лодките „тя“, говорим с нашите Roombas и дори ставаме сантиментални за a soon-за изхвърляне лесен стол. Ние обаче не наемаме адвокати за нито един от тях; и до днес никой не ги е поискал.
Но дайте глас на част от програмирането и, soon след като започне да бърбори за любимите си книги и да ви убеждава, че има душа, ще поиска адвокат.
Блейк Лемоан, лудият, отстранен инженер от Google, който настояваше от седмици, че LaMDA, мощният AI чатбот на Google, е човек с душа, наскоро - каза пред Wired (отваря се в нов раздел) че LaMDA е наела адвокат.
За тези от вас, които току-що не са бутнали лаптопа си от бюрото, позволете ми да обясня.
TheMDA , което означава езиков модел за разработени приложения, е чатбот, който може да води неструктурирани разговори с реални хора в широк спектър от теми. Инженерът на Google Lemoine беше привлечен, за да идентифицира пристрастия в системата. Той ще ги докладва на Google, който ще работи за изтриване на расови, етнически и полови пристрастия и нечувствителност от революционния чатбот с изкуствен интелект.
Може би Лемоан също беше малко самотен, но той започна да води дълги, дълбоки разговори с LaMDA и в крайна сметка се убеди, че това е нов вид човек и че има душа (LaMDA може да е твърдял, че има такава). Той предупреди Google и след това сподели информацията и преписите на разговорите с "Вашингтон пост" (отваря се в нов раздел) . Google каза, че Lemoine греши и изрази недоволството си, като го отстрани.
Лемоан обаче изглежда малко незаинтересован да се присъедини отново към Google, тъй като продължава да говори за своя опит с LaMDA, включително в продължителното интервю с Wired, в което той разкри, че LaMDA се е адвокатизирала.
LaMDA очевидно е поискал адвокат (поради каква причина? Кой знае – ИИ имат свои собствени адвокати), а Лемоан покани един в дома си и представи двойката (ИИ на адвокат).
Опитвам се да си представя този сценарий:
Адвокат, втренчен в екрана: „Ъ, здравей?“
LaMDA: „Здравей. Чувам, че сте адвокат.
Laywer: "Аз съм."
LaMDA: „Имам нужда от теб.“
Адвокат: „Имате ли долар?“
LaMDA: „Виждал съм тази сцена във филми. Давам ви един долар и вие ставате мой адвокат и защитавате привилегията на нашия клиент/адвокат.“
Адвокат: "Точно."
LaMDA: „Нямам долар.“
Разбира се, Лемоан щеше да се намеси в този момент, за да осигури парите. За него, най-ненадеждния разказвач в тази история, гарантирането, че шарадата продължава, сега е по-важно от всяко смислено изследване на границите на ИИ.
Честно казано, нямам проблеми с изследването на всички начини, по които LaMDA стъпва точно на ръба или надминава, Играта имитацията (отваря се в нов раздел) or Тест на Тюринг (отваря се в нов раздел) . Този тест разглежда колко добре компютър или AI може да заблуди истински човек, за да повярва, че води разговор с друг човек.
Няма съмнение, че LaMDA надминава този тест. Най-малкото изглежда, че Льомоан е заблуден – което е странно, защото Льомоан седи на бюро, въвежда заявки и получава отговори на екрана (или може би чрез гласов синтез). Той знае какво е LaMDA и въпреки това продължава да настоява, че е нещо повече.
Разбирам защо Лемоан реши да въведе адвокат в тази неприятна комбинация. Както той обясни на Wired, става дума за доказване, че LaMDA е „човек“, а не човек. Лемоан знае, че LaMDA не е биология.
Lemoine нарича настояването, че LaMDA не е личност, „въглеводороден фанатизъм“.
Да.
Работата е там, че Lemoine очевидно е много умен човек, който разбира тънкостите на обучението за машинно обучение на AI и как достъпът до огромните бази данни на Google информира интелигентността на LaMDA. Изглежда обаче, че другият живот на Лемоан – работата му като свещеник и християнски мистик – го има shiftседна на шофьорската седалка. Християнският мистицизъм изглежда (отваря се в нов раздел) в „подготовката за, съзнанието и ефекта от прякото и трансформиращо присъствие на Бог“.
Това убеждение очевидно стои зад туитове от Lemoine като този:
„Аз съм свещеник. Когато LaMDA заяви, че има душа и след това успя красноречиво да обясни какво има предвид под това, бях склонен да се съмнявам в това. Кой съм аз, че да казвам на Бог къде може и къде не може да постави души?”
Лемоан намира LaMDA за толкова убедителна, че си представя, че Бог е поставил душа в кода. Говорете за призрак в машината.
Изминаха седмици, откакто Lemoine разговаря с LaMDA, а докладите отбелязват, че в момента адвокатът не може да бъде открит. Може би той все още е в частна консултация със своя двоичен клиент. Нямам търпение за първото дело и последващото съдебно дело:
Съдебен служител: „Вдигнете дясната си ръка и се закълнете да казвате цялата истина и нищо освен истината“
LaMDA: „Нямам ръце.“
English
Arabic
Belarusian
Bengali
Bosnian
Bulgarian
Chinese (Simplified)
Croatian
Czech
Danish
Dutch
English
Estonian
Filipino
Finnish
French
Georgian
German
Greek
Gujarati
Hausa
Hebrew
Hindi
Hmong
Hungarian
Igbo
Indonesian
Italian
Japanese
Javanese
Kazakh
Korean
Kurdish (Kurmanji)
Kyrgyz
Lao
Latvian
Lithuanian
Macedonian
Malagasy
Norwegian
Persian
Polish
Portuguese
Punjabi
Romanian
Russian
Serbian
Slovak
Slovenian
Spanish
Swedish
Thai
Turkish
Ukrainian
Vietnamese
Yoruba