OpenAI 悄然关闭其人工智能生成内容检测工具：准确性不佳

站长之家(ChinaZ.com) 7月25日消息:今年一月份，人工智能巨头 OpenAI 宣布推出一款工具，可以通过检测一段内容是否是使用其自己的 ChatGPT 等生成式 AI 工具创建的。

然而，半年后，这个工具已经被宣告死亡，因为它无法完成既定的任务。ChatGPT 的创造者 OpenAI 上周悄悄停用了其 AI 检测工具 AI Classifier，原因是「其准确率较低」，OpenAI 在首次宣布该工具的博客文章中添加了这一解释。链接到 OpenAI 的 AI Classifier 的页面也不再可用。

OpenAI 写道：「我们正在努力吸纳反馈意见，并且目前正在研究更有效的文本来源技术，我们承诺开发和部署机制，使用户能够了解音频或视觉内容是否为 AI 生成。」

每天都有新的工具上线，允许使用越来越复杂的人工智能，这已经创造了一个 AI 检测器的产业。

OpenAI 表示，AI Classifier 的局限性包括在少于 1000 个字符的文本上不可靠，错误地将人类写的文本标记为 AI 写作，以及基于神经网络的分类器在其训练数据之外表现不佳。

一个对准确检测 AI 敏感的领域是教育。自从 ChatGPT 在 11 月发布以来，教育工作者一直在警告学生不得使用这个聊天机器人来写作文。

OpenAI 表示：「我们认识到识别 AI 写作文本一直是教育界的重要讨论点，同样重要的是认识到课堂上 AI 生成文本分类器的限制和影响。」公司将在不断拓展覆盖范围的同时，继续吸取教训。