Das neue Tool von OpenAI kann Ihnen helfen, Text zu identifizieren, der von ChatGPT geschrieben wurde

OpenAI hat ein Tool veröffentlicht um Ihnen bei der Bestimmung zu helfen, ob Text eher von einem Menschen oder einer KI geschrieben wurde. Der ChatGPT-Hersteller warnt jedoch davor, dass sein Äquivalent zu Blade RunnerDer Voight-Kampff-Test kann auch falsch liegen.

Das Tool enthält ein Feld, in das Sie Text einfügen können, der mindestens 1,000 Zeichen lang ist. Es wird dann ein Urteil ausspucken, wie „Der Klassifikator hält den Text für sehr unwahrscheinlich KI-generiert“ oder „Der Klassifikator hält den Text für möglicherweise KI-generiert“.

Ich habe es getestet, indem ich ChatGPT aufgefordert habe, einen Aufsatz über die Zugmuster von Vögeln zu schreiben, die das Erkennungstool dann als „möglicherweise KI-generiert“ bezeichnete. In der Zwischenzeit wurden mehrere von Menschen verfasste Artikel als „sehr unwahrscheinlich von KI generiert“ eingestuft. Obwohl das Tool falsche Flaggen in beide Richtungen setzen könnte, deutet mein (winziger Stichprobenumfang) Test zumindest auf ein gewisses Maß an Genauigkeit hin. Dennoch warnt OpenAI davor, das Tool allein zu verwenden, um die Authentizität von Inhalten zu bestimmen; Es funktioniert auch am besten mit Texten von 1,000 Wörtern oder mehr.

Das Startup wurde nach der Veröffentlichung seines ChatGPT-Tools im November von Pädagogen unter Druck gesetzt, das KI-geschriebene Inhalte erstellt, die manchmal als menschliches Schreiben durchgehen können. Das natürliche Sprachmodell kann Aufsätze in Sekundenschnelle erstellen, basierend auf einfachen Texteingabeaufforderungen – sogar das Bestehen einer Abschlussprüfung in Wirtschaftswissenschaften und Jura – und bietet Studenten eine verlockende neue Gelegenheit zum Schummeln. Infolgedessen haben öffentliche Schulen in New York den Bot aus ihren WLAN-Netzwerken und Schulgeräten verbannt.

Während die Ankunft von ChatGPT in letzter Zeit ein viel diskutiertes Thema war und sich sogar auf Medien erstreckte, die bestrebt sind, SEO-freundliche Artikel zu automatisieren, ist der Bot ein großes Geschäft für OpenAI. Berichten zufolge sicherte sich das Unternehmen Anfang dieses Monats eine Investition in Höhe von 10 Milliarden US-Dollar von Microsoft, das plant, es in Bing und Office 365 zu integrieren. OpenAI hat angeblich Ende letzten Jahres über den Verkauf von Aktien zu einem Wert von 29 Milliarden US-Dollar gesprochen, was es zu einem der wertvollsten US-Startups machen würde .

Obwohl ChatGPT derzeit das beste öffentlich verfügbare KI-Modell für natürliche Sprache ist, arbeiten Google, Baidu und andere an Wettbewerbern. Googles LaMDA ist überzeugend genug, dass ein ehemaliger Forscher letztes Jahr seinen Job bei dem Suchgiganten aufgab, indem er behauptete, der Chatbot sei empfindungsfähig. (Die menschliche Tendenz, Gefühle und Bewusstsein auf Algorithmen zu projizieren, ist ein Konzept, von dem wir in den kommenden Jahren wahrscheinlich viel hören werden.) Google hat nur extrem eingeschränkte Versionen seines Chatbots in einer Beta veröffentlicht, vermutlich aus ethischen Bedenken. Mit dem Geist aus der Flasche wird es interessant sein zu sehen, wie lange diese Zurückhaltung anhält.