ChatGPT创建者OpenAI推出了一种工具来检测AI生成的文本

导读 人工智能研究初创公司OpenAI周二推出了一款工具,用于判断文本是由人还是计算机编写的。OpenAI是ChatGPT背后的公司,它是一种可以生成类似

人工智能研究初创公司OpenAI周二推出了一款工具,用于判断文本是由人还是计算机编写的。

OpenAI是ChatGPT背后的公司,它是一种可以生成类似人类文本的聊天机器人,在两个月前发布后迅速走红。微软上周宣布向OpenAI投资数十亿美元,并表示将把这家初创公司的人工智能模型整合到其消费者和商业产品中。

自去年11月ChatGPT首次亮相以来,包括纽约市在内的美国一些最大的学区已经禁止使用AI聊天机器人,因为担心学生会使用文本生成器作弊或剽窃。

OpenAI首席执行官SamAltman表示,过去随着计算器和其他技术的出现,教育发生了变化,但他也表示,该公司可能有办法帮助教师从AI中发现书面文本。

OpenAI的新工具并不完美,该公司表示它仍在进行中,使用过程中可能会出现错误。“在我们对我们的‘挑战集’英文文本的评估中,我们的分类器正确地将26%的AI编写的文本(真阳性)识别为‘可能由AI编写’,而9%的人类编写的文本文本被错误地标记为由AI编写(误报),”OpenAI员工写道。

新工具在解析少于1000个字符的文章时不可靠,OpenAI建议不要将其用于英语以外的语言。还有,AI文本可能会稍微更新到足以让分类器无法正确判断它不是人类的作品。

OpenAI表示,它正在与教育工作者联系,讨论ChatGPT的功能和局限性,并将继续致力于检测人工智能生成的文本。