Nowe narzędzie OpenAI może pomóc w identyfikacji tekstu napisanego przez ChatGPT

OpenAI ma udostępnił narzędzie aby pomóc Ci określić, czy tekst został napisany przez człowieka, czy przez sztuczną inteligencję. Jednak twórca ChatGPT ostrzega, że ​​jego odpowiednik Blade RunnerTest Voighta-Kampffa również może się mylić.

Narzędzie zawiera pole, w którym można wkleić tekst o długości co najmniej 1,000 znaków. Następnie wypluwa werdykt, na przykład „Klasyfikator uważa, że ​​tekst został wygenerowany przez sztuczną inteligencję z bardzo małym prawdopodobieństwem” lub „Klasyfikator uważa, że ​​tekst prawdopodobnie został wygenerowany przez sztuczną inteligencję”.

Przetestowałem to, zachęcając ChatGPT do napisania eseju na temat wzorców migracji ptaków, które narzędzie do wykrywania określiło następnie jako „prawdopodobnie wygenerowane przez sztuczną inteligencję”. Tymczasem kilka artykułów napisanych przez ludzi zostało ocenionych jako „bardzo mało prawdopodobne, że zostały wygenerowane przez sztuczną inteligencję”. Więc chociaż narzędzie może podnosić fałszywe flagi w dowolnym kierunku, mój test (mała próbka) sugeruje przynajmniej pewien stopień dokładności. Mimo to OpenAI ostrzega, aby nie używać samego narzędzia do określania autentyczności treści; działa również najlepiej z tekstem o długości 1,000 słów lub dłuższym.

Startup napotkał presję ze strony nauczycieli po listopadowym wydaniu narzędzia ChatGPT, które tworzy treści napisane przez sztuczną inteligencję, które czasami mogą uchodzić za pismo ludzkie. Model języka naturalnego umożliwia tworzenie esejów w ciągu kilku sekund w oparciu o proste podpowiedzi tekstowe — nawet po zdaniu egzaminu z biznesu i prawa — zapewniając jednocześnie studentom kuszącą nową okazję do oszukiwania. W rezultacie szkoły publiczne w Nowym Jorku zablokowały bota w swoich sieciach Wi-Fi i urządzeniach szkolnych.

Podczas gdy pojawienie się ChatGPT było ostatnio głośnym tematem, nawet w mediach, które chciały zautomatyzować artykuły przyjazne dla SEO, bot jest dużym biznesem dla OpenAI. Firma podobno zabezpieczyła na początku tego miesiąca inwestycję w wysokości 10 miliardów dolarów od Microsoftu, który planuje zintegrować ją z Bing i Office 365. OpenAI rzekomo rozmawiało o sprzedaży udziałów za 29 miliardów dolarów pod koniec zeszłego roku, co uczyniłoby ją jednym z najcenniejszych amerykańskich startupów .

Chociaż ChatGPT jest obecnie najlepszym publicznie dostępnym modelem sztucznej inteligencji języka naturalnego, Google, Baidu i inni pracują nad konkurencją. LaMDA firmy Google jest wystarczająco przekonująca, że ​​jeden z byłych badaczy porzucił pracę w gigantze wyszukiwania w zeszłym roku, twierdząc, że chatbot jest świadomy. (Ludzka tendencja do rzutowania uczuć i świadomości na algorytmy to koncepcja, o której prawdopodobnie będziemy dużo słyszeć w nadchodzących latach). Google wypuściło tylko bardzo ograniczone wersje swojego chatbota w wersji beta, prawdopodobnie z powodów etycznych. Po wyjęciu dżina z butelki ciekawe będzie, jak długo potrwa ta powściągliwość.