Новый инструмент OpenAI может помочь вам идентифицировать текст, написанный ChatGPT

OpenAI имеет выпустил инструмент чтобы помочь вам определить, был ли текст скорее написан человеком или ИИ. Однако создатель ChatGPT предупреждает, что его эквивалент Blade RunnerТест Войта-Кампфа также может ошибаться.

Инструмент включает поле, в которое вы можете вставить текст длиной не менее 1,000 символов. Затем он выдает вердикт, например: «Классификатор считает, что текст вряд ли был сгенерирован ИИ» или «Классификатор считает, что текст, возможно, сгенерирован ИИ».

Я проверил это, попросив ChatGPT написать эссе о миграционных маршрутах птиц, которые инструмент обнаружения затем описал как «возможно, сгенерированные ИИ». Между тем, он оценил несколько статей, написанных людьми, как «очень маловероятные, созданные ИИ». Таким образом, хотя инструмент может давать ложные показания в любом направлении, мой тест (крошечный размер выборки) предполагает, по крайней мере, некоторую степень точности. Тем не менее, OpenAI предостерегает от использования только этого инструмента для определения подлинности контента; он также лучше всего работает с текстом из 1,000 слов и более.

Стартап столкнулся с давлением со стороны преподавателей после ноябрьского выпуска своего инструмента ChatGPT, который создает контент, написанный искусственным интеллектом, который иногда может сойти за текст, написанный человеком. Модель естественного языка может создавать эссе за считанные секунды на основе простых текстовых подсказок — даже при сдаче выпускного экзамена по бизнесу и юриспруденции — предоставляя студентам новую заманчивую возможность списывания. В результате государственные школы Нью-Йорка запретили использование бота в своих сетях Wi-Fi и школьных устройствах.

В то время как появление ChatGPT в последнее время стало популярной темой, распространяющейся даже на средства массовой информации, стремящиеся автоматизировать оптимизированные для SEO статьи, бот — это большой бизнес для OpenAI. Сообщается, что ранее в этом месяце компания получила инвестиции в размере 10 миллиардов долларов от Microsoft, которая планирует интегрировать ее в Bing и Office 365. В конце прошлого года OpenAI якобы обсуждала продажу акций по оценке в 29 миллиардов долларов, что сделало бы ее одним из самых ценных стартапов США. .

Хотя ChatGPT в настоящее время является лучшей общедоступной моделью искусственного интеллекта на естественном языке, Google, Baidu и другие компании работают над конкурентами. LaMDA от Google достаточно убедителен, чтобы один бывший исследователь в прошлом году отказался от своей работы в поисковом гиганте, заявив, что чат-бот разумен. (Склонность людей проецировать чувства и сознание на алгоритмы — это концепция, о которой мы, вероятно, много услышим в ближайшие годы.) Google выпустил только чрезвычайно ограниченные версии своего чат-бота в бета-версии, предположительно из этических соображений. Выпустив джинна из бутылки, будет интересно посмотреть, как долго продлится это сдерживание.