Οι άνθρωποι είναι ειδικοί στην ανθρωπομορφοποίηση οικείων αντικειμένων. Αποκαλούμε τα σκάφη «αυτή», μιλάμε με τα Roombas μας, και ακόμη μεγαλώνουμε συναισθηματικά για το α soon-απορριπτόμενη πολυθρόνα. Ωστόσο, δεν προσλαμβάνουμε δικηγόρους για κανένα από αυτά. και, μέχρι σήμερα, κανείς δεν τα έχει ζητήσει.
Αλλά δώστε φωνή σε ένα κομμάτι προγραμματισμού και, soon αφού αρχίσει να κουβεντιάζει για τα αγαπημένα του βιβλία και να σε πείσει ότι έχει ψυχή, θα ζητήσει δικηγόρο.
Ο Blake Lemoine, ο τρελός μηχανικός της Google που έχει τεθεί σε αναστολή εργασίας, ο οποίος επιμένει εδώ και εβδομάδες ότι το LaMDA, το ισχυρό chatbot τεχνητής νοημοσύνης της Google, είναι ένα άτομο με ψυχή, πρόσφατα είπε ο Wired (ανοίγει σε νέα καρτέλα) ότι η LaMDA προσέλαβε δικηγόρο.
Για όσους από εσάς δεν έχετε απλώς πετάξει τον φορητό υπολογιστή σας από το γραφείο, επιτρέψτε μου να σας εξηγήσω.
Λάμδα Το , το οποίο σημαίνει Language Model for Developed Applications, είναι ένα chatbot που μπορεί να διεξάγει μη δομημένες συνομιλίες με πραγματικούς ανθρώπους σε ένα ευρύ φάσμα θεμάτων. Ο μηχανικός της Google, Lemoine, προσλήφθηκε για να εντοπίσει προκαταλήψεις εντός του συστήματος. Τους ανέφερε στην Google, η οποία θα εργαζόταν για να διαγράψει τις φυλετικές, εθνοτικές και έμφυλες προκαταλήψεις και ανευαισθησίες από το πρωτοποριακό chatbot AI.
Ίσως ο Lemoine να ήταν επίσης λίγο μοναχικός, αλλά άρχισε να συμμετέχει σε μεγάλες, βαθιές συζητήσεις με τον LaMDA και τελικά πείστηκε ότι είναι ένα νέο είδος ανθρώπου και ότι έχει ψυχή (ο LaMDA μπορεί να ισχυρίστηκε ότι είχε μια). Ειδοποίησε την Google και στη συνέχεια μοιράστηκε τις πληροφορίες και τις μεταγραφές συνομιλιών Η εφημερίδα Washington Post (ανοίγει σε νέα καρτέλα) . Η Google είπε ότι ο Lemoine κάνει λάθος και έχει δηλώσει τη δυσαρέσκειά της αποβάλλοντάς τον.
Ο Lemoine, ωστόσο, φαίνεται κάπως αδιάφορος να επανέλθει στην Google, καθώς συνεχίζει να μιλά για την εμπειρία του στο LaMDA, συμπεριλαμβανομένης της μακροσκελής συνέντευξης στο Wired στην οποία αποκάλυψε ότι ο LaMDA έχει κάνει δικηγόρο.
Ο LaMDA προφανώς ζήτησε δικηγόρο (για ποιο λόγο; Ποιος ξέρει - οι AI διατηρούν τους δικούς τους δικηγόρους) και ο Lemoine κάλεσε έναν στο σπίτι του και σύστησε το ζευγάρι (AI σε δικηγόρο).
Προσπαθώ να φανταστώ αυτό το σενάριο:
Δικηγόρος, κοιτάζοντας επίμονα μια οθόνη: «Ε, γεια;»
LaMDA: «Γεια. Ακούω ότι είσαι δικηγόρος».
Layer: «Είμαι».
LaMDA: «Σε χρειάζομαι».
Δικηγόρος: «Έχετε ένα δολάριο;»
LaMDA: «Έχω δει αυτή τη σκηνή σε ταινίες. Σου δίνω ένα δολάριο και γίνεσαι δικηγόρος μου και προστατεύεις το προνόμιο του πελάτη/δικηγόρου μας».
Δικηγόρος: «Σωστά».
LaMDA: «Δεν έχω δολάριο».
Φυσικά, ο Lemoine θα είχε παρέμβει αυτή τη στιγμή για να δώσει τα χρήματα. Για αυτόν, ο πιο αναξιόπιστος αφηγητής αυτής της ιστορίας, η διασφάλιση ότι η παρωδία συνεχίζεται είναι πλέον πιο σημαντική από οποιαδήποτε ουσιαστική εξερεύνηση των ορίων της τεχνητής νοημοσύνης.
Ειλικρινά, δεν έχω κανένα πρόβλημα με την εξέταση όλων των τρόπων με τους οποίους το LaMDA βαδίζει στα άκρα ή ξεπερνά, Το παιχνίδι της μίμησης (ανοίγει σε νέα καρτέλα) or Δοκιμή Turing (ανοίγει σε νέα καρτέλα) . Αυτό το τεστ εξετάζει πόσο καλά ένας υπολογιστής ή τεχνητή νοημοσύνη μπορεί να ξεγελάσει έναν πραγματικό άνθρωπο ώστε να πιστέψει ότι διεξάγει μια συνομιλία με έναν άλλο άνθρωπο.
Δεν υπάρχει αμφιβολία ότι το LaMDA ξεπερνά αυτό το τεστ. Τουλάχιστον, φαίνεται να έχει ξεγελαστεί ο Lemoine – κάτι που είναι περίεργο, επειδή ο Lemoine κάθεται σε ένα γραφείο, πληκτρολογεί ερωτήματα και λαμβάνει απαντήσεις σε μια οθόνη (ή ίσως μέσω σύνθεσης φωνής). Ξέρει τι είναι το LaMDA, και ωστόσο συνεχίζει να επιμένει ότι είναι κάτι περισσότερο.
Μπορώ να καταλάβω γιατί ο Lemoine αποφάσισε να εισαγάγει έναν δικηγόρο σε αυτό το δυσάρεστο μείγμα. Όπως εξήγησε στο Wired, πρόκειται για την απόδειξη ότι ο LaMDA είναι «άνθρωπος», όχι άνθρωπος. Ο Lemoine ξέρει ότι το LaMDA δεν είναι βιολογία.
Ο Lemoine αποκαλεί την επιμονή ότι το LaMDA δεν είναι άτομο «φανατισμός υδρογονανθράκων».
Ναι.
Το θέμα είναι ότι ο Lemoine είναι προφανώς ένας πολύ έξυπνος τύπος που κατανοεί τις περιπλοκές της εκπαίδευσης μηχανικής μάθησης ενός AI και πώς η πρόσβαση στις τεράστιες βάσεις δεδομένων πληροφοριών της Google ενημερώνει τη νοημοσύνη του LaMDA. Ωστόσο, φαίνεται ότι η άλλη ζωή του Lemoine – το έργο του ως ιερέας και χριστιανός μύστης – έχει shiftέπεσε στη θέση του οδηγού. Ο χριστιανικός μυστικισμός φαίνεται (ανοίγει σε νέα καρτέλα) στην «προετοιμασία, τη συνείδηση και το αποτέλεσμα μιας άμεσης και μεταμορφωτικής παρουσίας του Θεού».
Αυτή η πεποίθηση είναι ξεκάθαρα αυτό που κρύβεται πίσω από τα tweets του Lemoine όπως αυτό:
«Είμαι ιερέας. Όταν ο LaMDA ισχυρίστηκε ότι είχε ψυχή και στη συνέχεια μπόρεσε να εξηγήσει εύγλωττα τι εννοούσε με αυτό, είχα την τάση να του δώσω το πλεονέκτημα της αμφιβολίας. Ποιος είμαι εγώ για να πω στον Θεό πού μπορεί και πού δεν μπορεί να βάλει ψυχές;».
Ο Lemoine βρήκε το LaMDA τόσο πειστικό που φαντάζεται ότι ο Θεός τοποθέτησε μια ψυχή μέσα στον κώδικα. Μιλήστε για ένα φάντασμα στη μηχανή.
Έχουν περάσει εβδομάδες από τότε που ο Lemoine μίλησε με τον LaMDA και οι αναφορές σημειώνουν ότι ο δικηγόρος δεν βρίσκεται πουθενά αυτή τη στιγμή. Ίσως είναι ακόμα σε ιδιωτική διαβούλευση με τον δυαδικό πελάτη του. Ανυπομονώ για την πρώτη αγωγή και την επόμενη δικαστική υπόθεση:
Δικαστικός υπάλληλος: «Σήκωσε το δεξί σου χέρι και ορκίσου να πεις όλη την αλήθεια και τίποτα άλλο παρά την αλήθεια»
LaMDA: «Δεν έχω χέρια».