Новият инструмент на OpenAI може да ви помогне да идентифицирате текст, написан от ChatGPT

OpenAI има пусна инструмент за да ви помогне да определите дали е по-вероятно текстът да е написан от човек или AI. Създателят на ChatGPT обаче предупреждава, че неговият еквивалент на Blade RunnerТестът на Voight-Kampff също може да сбърка.

Инструментът включва поле, където можете да поставите текст с дължина най-малко 1,000 знака. След това ще издаде присъда, като „Класификаторът счита, че текстът е много малко вероятно генериран от AI“ или „Класификаторът счита, че текстът вероятно е генериран от AI“.

Тествах го, като подканих ChatGPT да напише есе за моделите на миграция на птици, които след това инструментът за откриване описа като „възможно генерирани от AI“. Междувременно той оцени няколко статии, написани от хора, като „много малко вероятно генерирани от AI“. Така че, въпреки че инструментът може да повдигне фалшиви флагове и в двете посоки, моят (малък размер на извадката) тест предполага поне известна степен на точност. Все пак OpenAI предупреждава да не използвате инструмента сам за определяне на автентичността на съдържанието; също така работи най-добре с текст от 1,000 думи или повече.

Стартъпът се сблъска с натиск от преподаватели след пускането през ноември на своя инструмент ChatGPT, който произвежда съдържание, написано с AI, което понякога може да мине за човешко писане. Моделът на естествен език може да създава есета за секунди въз основа на прости текстови подкани – дори успешно преминаване на изпит по бизнес и право – като същевременно предоставя на студентите нова изкусителна възможност за измама. В резултат на това държавните училища в Ню Йорк забраниха бота от своите WiFi мрежи и училищни устройства.

Въпреки че пристигането на ChatGPT е нашумяла тема напоследък, дори се разпростира в медиите, нетърпеливи да автоматизират удобни за SEO статии, ботът е голям бизнес за OpenAI. Съобщава се, че компанията е осигурила инвестиция от 10 милиарда долара по-рано този месец от Microsoft, която планира да я интегрира в Bing и Office 365. Твърди се, че OpenAI е обсъждал продажбата на акции на стойност от 29 милиарда долара в края на миналата година, което би я направило една от най-ценните стартиращи компании в САЩ .

Въпреки че ChatGPT в момента е най-добрият публично достъпен AI модел на естествен език, Google, Baidu и други работят върху конкуренти. LaMDA на Google е достатъчно убедителна, че един бивш изследовател заряза работата си в гиганта за търсене миналата година, твърдейки, че чатботът е разумен. (Човешката склонност да проектира чувства и съзнание върху алгоритми е концепция, за която вероятно ще чуваме много през следващите години.) Google пусна само изключително ограничени версии на своя чатбот в бета версия, вероятно от етични съображения. След като духът излезе от бутилката, ще бъде интересно да се види колко дълго ще продължи това ограничение.