Nový nástroj OpenAI vám může pomoci identifikovat text napsaný ChatGPT

OpenAI má uvolnil nástroj které vám pomohou určit, zda text s větší pravděpodobností napsal člověk nebo umělá inteligence. Tvůrce ChatGPT však varuje, že jeho ekvivalent Blade RunnerVoight-Kampffův test se také může mýlit.

Nástroj obsahuje pole, kam můžete vložit text dlouhý alespoň 1,000 XNUMX znaků. Poté vyplivne verdikt, jako „Klasifikátor považuje text za velmi nepravděpodobný generovaný AI“ nebo „Klasifikátor se domnívá, že text je pravděpodobně vygenerován AI“.

Testoval jsem to tak, že jsem vyzval ChatGPT, aby napsal esej o migračních vzorcích ptáků, které pak detekční nástroj popsal jako „možná generované AI“. Mezitím ohodnotila několik článků napsaných lidmi jako „velmi nepravděpodobné vytvořené AI“. Takže i když by tento nástroj mohl vyvolat falešné vlajky v obou směrech, můj test (velikost malého vzorku) naznačuje alespoň určitý stupeň přesnosti. Přesto OpenAI varuje, aby k určení autenticity obsahu nepoužíval samotný nástroj; nejlépe funguje také s textem o délce 1,000 XNUMX slov nebo delším.

Startup čelil tlaku ze strany pedagogů po listopadovém vydání svého nástroje ChatGPT, který produkuje obsah psaný umělou inteligencí, který může být někdy považován za lidské psaní. Model v přirozeném jazyce dokáže vytvořit eseje během několika sekund na základě jednoduchých textových výzev – dokonce i složení postgraduální zkoušky z obchodu a práva – a zároveň poskytuje studentům lákavou novou příležitost k podvádění. V důsledku toho veřejné školy v New Yorku zakázaly robotovi přístup do svých WiFi sítí a školních zařízení.

Zatímco příchod ChatGPT byl v poslední době frekventovaným tématem, které se rozšířilo i do médií, která touží automatizovat články přátelské k SEO, bot je pro OpenAI velkým byznysem. Společnost údajně počátkem tohoto měsíce zajistila investici ve výši 10 miliard dolarů od společnosti Microsoft, která ji plánuje integrovat do Bing a Office 365. OpenAI údajně koncem minulého roku diskutovala o prodeji akcií za 29 miliard dolarů, což by z ní udělalo jeden z nejcennějších amerických startupů. .

Přestože je ChatGPT aktuálně nejlepší veřejně dostupný model umělé inteligence v přirozeném jazyce, Google, Baidu a další pracují na konkurentech. Google LaMDA je dostatečně přesvědčivý, že jeden bývalý výzkumník minulý rok zahodil svou práci u tohoto vyhledávacího giganta, když tvrdil, že chatbot je vnímavý. (Lidská tendence promítat pocity a vědomí do algoritmů je koncept, o kterém v nadcházejících letech pravděpodobně hodně uslyšíme.) Google vydal pouze extrémně omezené verze svého chatbota v beta verzi, pravděpodobně z etických důvodů. S džinem z láhve bude zajímavé sledovat, jak dlouho tato zdrženlivost vydrží.