OpenAI:s nya verktyg kan hjälpa dig att identifiera text skriven av ChatGPT

OpenAI har släppt ett verktyg för att hjälpa dig att avgöra om text mer sannolikt var skriven av en människa eller AI. ChatGPT-tillverkaren varnar dock för att dess motsvarighet till Blade Runners Voight-Kampff-test kan också få fel.

Verktyget innehåller en ruta där du kan klistra in text som är minst 1,000 XNUMX tecken lång. Den kommer då att spotta ut ett domslut, som "Klassifieraren anser att texten är mycket osannolik AI-genererad" eller "Klassifieraren anser att texten möjligen är AI-genererad."

Jag testade det genom att uppmana ChatGPT att skriva en uppsats om fåglars flyttmönster, som detektionsverktyget sedan beskrev som "möjligen AI-genererat." Samtidigt bedömde den flera mänskligt skrivna artiklar som "mycket osannolikt AI-genererade." Så även om verktyget kan höja falska flaggor i båda riktningarna, föreslår mitt (liten provstorlek) test åtminstone en viss grad av noggrannhet. Ändå varnar OpenAI för att inte använda verktyget ensamt för att fastställa innehållets äkthet; det fungerar också bäst med text på 1,000 XNUMX ord eller längre.

Startupen har mött press från pedagoger efter releasen i november av dess ChatGPT-verktyg, som producerar AI-skrivet innehåll som ibland kan passera för mänskligt skrivande. Den naturliga språkmodellen kan skapa uppsatser på några sekunder baserade på enkla textuppmaningar – till och med klara ett examen i företagsekonomi och juridik – samtidigt som studenterna får en frestande ny fuskmöjlighet. Som ett resultat förbjöd offentliga skolor i New York boten från sina WiFi-nätverk och skolenheter.

Medan ChatGPTs ankomst har varit ett populärt ämne på senare tid, till och med sträcker sig till media som är ivriga att automatisera SEO-vänliga artiklar, är boten en stor affär för OpenAI. Företaget ska ha säkrat en investering på 10 miljarder dollar tidigare den här månaden från Microsoft, som planerar att integrera den i Bing och Office 365. OpenAI ska ha diskuterat försäljning av aktier till en värdering på 29 miljarder dollar i slutet av förra året, vilket skulle göra det till en av de mest värdefulla startups i USA .

Även om ChatGPT för närvarande är den bästa offentligt tillgängliga AI-modellen för naturligt språk, arbetar Google, Baidu och andra på konkurrenter. Googles LaMDA är övertygande nog att en före detta forskare kastade bort sitt jobb hos sökjätten förra året genom att hävda att chatboten är känslig. (Den mänskliga tendensen att projicera känslor och medvetande på algoritmer är ett koncept som vi förmodligen kommer att höra mycket om under de kommande åren.) Google har bara släppt extremt begränsade versioner av sin chatbot i en betaversion, förmodligen av etiska skäl. Med ande ur flaskan blir det intressant att se hur länge den begränsningen varar.