OpenAI の新しいツールは、ChatGPT によって書かれたテキストの識別に役立つ可能性があります

OpenAIは ツールをリリースしました テキストが人間または AI によって書かれた可能性が高いかどうかを判断するのに役立ちます。 ただし、ChatGPT の作成者は、これに相当すると警告しています。 ブレードランナーの Voight-Kampff 検定も間違っている可能性があります。

このツールには、1,000 文字以上のテキストを貼り付けることができるボックスが含まれています。 次に、「分類子は、テキストが AI によって生成された可能性が非常に低いと見なします」または「分類子は、テキストが AI によって生成された可能性があると見なします」などの判定を吐き出します。

私は、ChatGPT に鳥の渡りのパターンに関するエッセイを書くように促してテストしました。そのとき、検出ツールはそれを「AI が生成した可能性がある」と説明しました。 一方、人間が書いたいくつかの記事を「AIが生成した可能性は非常に低い」と評価しました。 そのため、このツールはどちらの方向にも偽旗を立てる可能性がありますが、私の (サンプル サイズが小さい) テストでは、少なくともある程度の精度が示されています。 それでも、OpenAI は、コンテンツの信頼性を判断するためにツールだけを使用しないように警告しています。 また、1,000 語以上のテキストにも最適です。

このスタートアップは、ChatGPT ツールを XNUMX 月にリリースした後、教育者からの圧力に直面しています。ChatGPT ツールは、AI によって書かれたコンテンツを作成しますが、人間が書いたものと見なされることもあります。 自然言語モデルは、簡単なテキストプロンプトに基づいて数秒でエッセイを作成できます。大学院のビジネスおよび法律試験に合格することさえありますが、学生には魅力的な新しい不正行為の機会を提供します. その結果、ニューヨークの公立学校は、WiFi ネットワークと学校のデバイスからボットを禁止しました。

ChatGPT の登場は最近話題になり、SEO に適した記事の自動化を熱望するメディアにも広がっていますが、このボットは OpenAI にとって大きなビジネスです。 同社は今月初めに Microsoft から 10 億ドルの投資を確保したと伝えられており、Microsoft は Bing と Office 365 に統合することを計画しています。 .

ChatGPT は現在公開されている最も優れた自然言語 AI モデルですが、Google、Baidu などは競合他社に取り組んでいます。 Google の LaMDA は十分に説得力があり、ある元研究者は昨年、チャットボットには感覚があると主張して検索大手での仕事を放棄しました。 (感情や意識をアルゴリズムに投影する人間の傾向は、今後数年間でよく耳にする概念です。) Google は、おそらく倫理的な懸念から、非常に制限されたバージョンのチャットボットのみをベータ版でリリースしました。 魔神が瓶から出された後、その拘束がどれくらい続くかを見るのは興味深いでしょう.