OpenAI 的新工具可以帮助您识别 ChatGPT 编写的文本

OpenAI 有 发布了一个工具 帮助您确定文本更有可能是由人类还是人工智能编写的。然而，ChatGPT 制造商警告说，它相当于 “银翼杀手”沃伊特-坎普夫检验也可能出错。

该工具包括一个框，您可以在其中粘贴至少 1,000 个字符长的文本。然后它会给出一个结论，比如“分类器认为文本不太可能是人工智能生成的”或“分类器认为文本可能是人工智能生成的”。

我通过提示 ChatGPT 写一篇关于鸟类迁徙模式的文章来测试它，检测工具随后将其描述为“可能是人工智能生成的”。与此同时，它将几篇人类撰写的文章评为“不太可能由人工智能生成”。因此，尽管该工具可能会在任一方向上提出错误信号，但我的（小样本量）测试表明至少有一定程度的准确性。尽管如此，OpenAI 警告不要单独使用该工具来确定内容的真实性；它也最适合 1,000 字或更长的文本。

在 11 月发布 ChatGPT 工具后，这家初创公司面临着来自教育工作者的压力，该工具生成的人工智能编写的内容有时可能被误认为是人类写作。自然语言模型可以根据简单的文本提示在几秒钟内创建论文，甚至可以通过研究生商业和法律考试，同时为学生提供诱人的新作弊机会。因此，纽约公立学校禁止该机器人使用其 WiFi 网络和学校设备。

虽然 ChatGPT 的到来最近成为一个热门话题，甚至延伸到渴望自动化 SEO 友好文章的媒体机构，但该机器人对于 OpenAI 来说是一笔大生意。据报道，该公司本月早些时候从微软获得了 10 亿美元的投资，微软计划将其整合到 Bing 和 Office 365 中。据称，OpenAI 去年年底曾讨论过以 29 亿美元估值出售股票，这将使其成为美国最有价值的初创公司之一。

尽管 ChatGPT 是目前最好的公开可用的自然语言 AI ​​模型，但谷歌、百度等公司正在研究竞争对手。谷歌的 LaMDA 足够令人信服，以至于去年一位前研究人员因声称聊天机器人具有感知能力而放弃了在这家搜索巨头的工作。 （人类倾向于将情感和意识投射到算法上，这是我们在未来几年可能会经常听到的一个概念。）谷歌仅在测试版中发布了极其受限的聊天机器人版本，大概是出于道德考虑。随着精灵从瓶子里出来，看看这种限制能持续多久将会很有趣。