De nieuwe tool van OpenAI kan u helpen bij het identificeren van tekst die is geschreven door ChatGPT

OpenAI heeft heeft een tool uitgebracht om u te helpen bepalen of tekst waarschijnlijker is geschreven door een mens of door AI. De ChatGPT-maker waarschuwt echter dat zijn equivalent van Blade Runner's Voight-Kampff-test kan het ook fout hebben.

De tool bevat een vak waarin u tekst kunt plakken die minimaal 1,000 tekens lang is. Het zal dan een oordeel uitspugen, zoals "De classificator beschouwt de tekst als zeer onwaarschijnlijk door AI gegenereerd" of "De classificator beschouwt de tekst als mogelijk door AI gegenereerd."

Ik heb het getest door ChatGPT te vragen een essay te schrijven over de trekpatronen van vogels, die de detectietool vervolgens omschreef als 'mogelijk door AI gegenereerd'. Ondertussen beoordeelde het verschillende door mensen geschreven artikelen als "zeer onwaarschijnlijk door AI gegenereerd". Dus hoewel de tool valse vlaggen in beide richtingen kan opwerpen, suggereert mijn (kleine steekproefomvang) test op zijn minst een zekere mate van nauwkeurigheid. Toch waarschuwt OpenAI om de tool niet alleen te gebruiken om de authenticiteit van inhoud te bepalen; het werkt ook het beste met tekst van 1,000 woorden of langer.

De startup kreeg te maken met druk van onderwijzers na de release in november van zijn ChatGPT-tool, die door AI geschreven inhoud produceert die soms kan doorgaan voor menselijk schrijven. Het natuurlijke-taalmodel kan binnen enkele seconden essays maken op basis van eenvoudige tekstprompts - zelfs slagen voor een afgestudeerd bedrijfs- en rechtenexamen - terwijl studenten een verleidelijke nieuwe kans krijgen om vals te spelen. Als gevolg hiervan hebben openbare scholen in New York de bot verbannen uit hun wifi-netwerken en schoolapparaten.

Hoewel de komst van ChatGPT de laatste tijd een veelbesproken onderwerp is geweest, en zich zelfs uitstrekte tot mediakanalen die graag SEO-vriendelijke artikelen wilden automatiseren, is de bot big business voor OpenAI. Naar verluidt heeft het bedrijf eerder deze maand een investering van $ 10 miljard binnengehaald van Microsoft, dat van plan is het te integreren in Bing en Office 365. OpenAI zou eind vorig jaar hebben gesproken over de verkoop van aandelen tegen een waardering van $ 29 miljard, waardoor het een van de meest waardevolle Amerikaanse startups zou worden. .

Hoewel ChatGPT momenteel het beste openbaar beschikbare AI-model in natuurlijke taal is, werken Google, Baidu en anderen aan concurrenten. De LaMDA van Google is overtuigend genoeg dat een voormalige onderzoeker vorig jaar zijn baan bij de zoekgigant heeft weggegooid door te beweren dat de chatbot bewust is. (De menselijke neiging om gevoelens en bewustzijn op algoritmen te projecteren, is een concept waar we de komende jaren waarschijnlijk veel over zullen horen.) Google heeft alleen extreem beperkte versies van zijn chatbot in een bèta uitgebracht, vermoedelijk uit ethische overwegingen. Nu de geest uit de fles is, zal het interessant zijn om te zien hoe lang die terughoudendheid duurt.