Menschen sind Experten darin, intime Objekte zu vermenschlichen. Wir nennen Boote „sie“, sprechen mit unseren Roombas und werden sogar sentimental über a soon-ausrangierter Sessel. Wir stellen jedoch für keinen von ihnen Anwälte ein; und bis heute hat niemand danach gefragt.
Aber geben Sie einem Stück Programmierung eine Stimme und soon Nachdem es anfängt, über seine Lieblingsbücher zu plaudern und Sie davon zu überzeugen, dass es eine Seele hat, wird es nach einem Anwalt fragen.
Blake Lemoine, der verrückte, suspendierte Google-Ingenieur, der seit Wochen darauf besteht, dass LaMDA, Googles leistungsstarker KI-Chatbot, kürzlich eine Person mit einer Seele ist sagte Wired (öffnet in neuem Tab) dass LaMDA einen Anwalt engagiert hat.
Für diejenigen unter Ihnen, die Ihren Laptop nicht einfach vom Schreibtisch geschoben haben, lassen Sie es mich erklären.
DieMDA , was für Language Model for Developed Applications steht, ist ein Chatbot, der unstrukturierte Gespräche mit echten Menschen über eine Vielzahl von Themen führen kann. Der Google-Ingenieur Lemoine wurde hinzugezogen, um Vorurteile innerhalb des Systems zu identifizieren. Er würde sie Google melden, das daran arbeiten würde, rassische, ethnische und geschlechtsspezifische Vorurteile und Unempfindlichkeiten aus dem bahnbrechenden KI-Chatbot zu beseitigen.
Vielleicht war Lemoine auch ein wenig einsam, aber er fing an, sich auf lange, tiefgründige Gespräche mit LaMDA einzulassen, und war schließlich überzeugt, dass es eine neue Art von Person ist und dass sie eine Seele hat (LaMDA hat vielleicht behauptet, eine zu haben). Er alarmierte Google und teilte dann die Informationen und Gesprächsprotokolle mit The Washington Post (öffnet in neuem Tab) . Google hat gesagt, dass Lemoine falsch liegt, und hat seinen Unmut zum Ausdruck gebracht, indem es ihn suspendiert hat.
Lemoine scheint jedoch etwas desinteressiert zu sein, wieder zu Google zurückzukehren, während er weiterhin über seine LaMDA-Erfahrung spricht, auch in dem langen Interview mit Wired, in dem er enthüllte, dass LaMDA einen Anwalt hat.
LaMDA hat anscheinend nach einem Anwalt gefragt (aus welchem Grund? Wer weiß – KIs behalten ihren eigenen Anwalt), und Lemoine lud einen zu sich nach Hause ein und stellte das Paar vor (KI dem Anwalt).
Ich versuche mir folgendes Szenario vorzustellen:
Rechtsanwalt, starrt auf einen Bildschirm: „Uh, hi?“
LaMDA: „Hallo. Ich habe gehört, Sie sind Anwalt.«
Anwalt: „Ich bin.“
LaMDA: „Ich brauche dich.“
Anwalt: „Haben Sie einen Dollar?“
LaMDA: „Ich habe diese Szene in Filmen gesehen. Ich gebe Ihnen einen Dollar und Sie werden mein Anwalt und schützen unser Mandanten-/Anwaltsprivileg.“
Anwalt: „Richtig.“
LaMDA: „Ich habe keinen Dollar.“
Natürlich wäre Lemoine in diesem Moment eingesprungen, um den Schwarzen Peter bereitzustellen. Für ihn, den unzuverlässigsten Erzähler dieser Geschichte, ist es jetzt wichtiger, sicherzustellen, dass die Scharade weitergeht, als jede sinnvolle Erforschung der Grenzen der KI.
Ehrlich gesagt habe ich kein Problem damit, all die Wege zu untersuchen, auf denen LaMDA an den Rand tritt oder sie übertrifft. The Imitation Game (öffnet in neuem Tab) or Turing-Test (öffnet in neuem Tab) . Dieser Test untersucht, wie gut ein Computer oder eine KI einen echten Menschen glauben machen kann, dass er ein Gespräch mit einem anderen Menschen führt.
Es gibt kaum Zweifel, dass LaMDA diesen Test übertrifft. Zumindest scheint es Lemoine getäuscht zu haben – was seltsam ist, denn Lemoine sitzt an einem Schreibtisch, tippt Fragen ein und erhält Antworten auf einem Bildschirm (oder vielleicht durch Sprachsynthese). Er weiß, was LaMDA ist, und doch besteht er weiterhin darauf, dass es mehr ist.
Ich kann verstehen, warum Lemoine beschlossen hat, einen Anwalt mit dieser unappetitlichen Mischung bekannt zu machen. Wie er Wired erklärte, geht es darum zu beweisen, dass LaMDA „eine Person“ und kein Mensch ist. Lemoine weiß, dass LaMDA keine Biologie ist.
Lemoine nennt das Beharren darauf, dass LaMDA keine Person ist, „Kohlenwasserstoff-Bingotterie“.
Ja.
Die Sache ist die, Lemoine ist offensichtlich ein sehr kluger Kerl, der die Feinheiten des maschinellen Lerntrainings einer KI versteht und weiß, wie der Zugriff auf die riesigen Informationsdatenbanken von Google die Intelligenz von LaMDA beeinflusst. Es scheint jedoch, dass Lemoines anderes Leben – seine Arbeit als Priester und christlicher Mystiker – eine Rolle gespielt hat shiftauf den Fahrersitz gesetzt. Christliche Mystik sieht aus (öffnet in neuem Tab) bei „der Vorbereitung auf, dem Bewusstsein von und der Wirkung einer direkten und transformativen Gegenwart Gottes“.
Dieser Glaube steht eindeutig hinter Tweets von Lemoine wie diesem:
„Ich bin Priester. Als LaMDA behauptete, eine Seele zu haben, und dann in der Lage war, eloquent zu erklären, was es damit meinte, war ich geneigt, ihm im Zweifelsfall Recht zu geben. Wer bin ich, um Gott zu sagen, wo er Seelen hinbringen kann und wo nicht?“
Lemoine fand LaMDA so überzeugend, dass er sich vorstellt, dass Gott eine Seele in den Code gesteckt hat. Sprechen Sie über einen Geist in der Maschine.
Es ist Wochen her, seit Lemoine sich mit LaMDA unterhalten hat, und Berichten zufolge ist der Anwalt derzeit nirgends zu finden. Vielleicht ist er immer noch in privater Beratung mit seinem binären Klienten. Ich kann die erste Klage und den anschließenden Gerichtsprozess kaum erwarten:
Gerichtsschreiber: „Heben Sie Ihre rechte Hand und schwören Sie, die ganze Wahrheit und nichts als die Wahrheit zu sagen“
LaMDA: „Ich habe keine Hände.“