ChatGPT:人工智能助手的诚信与道德问题

财联社1月16日讯（编辑 周子意）据预印本平台bioRxiv12月底发布的一份预印报告显示，一篇由人工智能（AI）聊天机器人写出的研究论文摘要，甚至最终能骗过专家审核。这一报告一经发出就受到人们的广泛关注，研究人员对该AI机器人的影响力有着巨大争议。

ChatGPT 的拥有者，OpenAI，一家总部位于旧金山的软件公司，于去年11月30日推出了这款人工智能助手。为了吸引更多的用户体验，OpenAI 提供了该产品的免费试用。

ChatGPT是一种能够根据用户指示生成真实而智能文本的技术。作为一个人工智能助手，它依赖于一种被称为“大型语言模型”的神经网络系统来完成这一任务。这个系统通过分析海量的人工生成的文本，从中学习和获取知识，进而能够灵活地应对各种文本生成任务。

上周，有消息称，美国科技巨头微软计划向OpenAI投资高达100亿美元，目前尚处于谈判阶段。

难以区分

自该机器人推出以来，其输出的许多内容难以分辨出是否由人类创作，因此，科学家们一直在积极探讨与其相关的伦理挑战。

当前，一个由伊利诺斯州西北大学的Catherine Gao领导的研究小组已经开始了一项创新性的探索：他们利用ChatGPT技术生成研究论文摘要，以此探讨科学家是否能够识别出这些摘要。这一研究旨在推动人工智能技术在学术界的应用，并挑战传统科学家的思维模式。

作为一名专业的文章写作高手，我会按照您的要求，以四大医学顶级期刊《美国医学院杂志》、《新英格兰医学杂志》、《英国医学杂志》、《柳叶刀》以及其子刊《自然医学》上发表的精选文章为基础，撰写出50篇具有深度和广度的医学研究摘要。这些摘要将准确、清晰地传达每篇文章的核心观点和研究结果，以帮助读者快速了解最新的医学研究成果和进展。

在接下来的步骤中，研究团队运用了抄袭检测系统以及人工智能输出检测器，将所提供的摘要与原始摘要混合在一起，并以匿名的方式进行比较。研究小组的目的是识别出由ChatGPT生成的摘要。

根据研究结果，ChatGPT生成的摘要成功通过了抄袭检查，获得了100%的原创性得分，这充分说明其没有抄袭行为。此外，人工智能输出检测系统发现，在ChatGPT生成的摘要中，有66%的内容被检测出来存在抄袭嫌疑。这一结果证实了ChatGPT的高效性和准确性，但同时也提醒我们，对于人工智能技术的应用，仍需保持警惕，避免潜在的风险和问题。

而人工审阅者错误地将32%的生成摘要识别为原始摘要。

重大争议

在一篇预印本报告中，Gao及其合作者提出，尽管ChatGPT能够撰写出具有可信度的科学摘要，但利用大型语言模型辅助科学写作的道德边界和可接受性仍存在争议，有待进一步探讨。

英国牛津大学技术和监管领域学者Sandra Wachter不是此次研究的参与者，但是她对此表示非常担心。她补充道，“如果我们现在处于连专家都无法判断真假的情况下，那么我们就不会再看到那些能够在复杂话题中指导我们的论文摘要。”

Wachter提醒道，如果由ChatGPT生成的论文内容无法确定是否正确，那可能会有“可怕的后果”。这不光会给研究人员带来重大问题，因为他们阅读的研究是被捏造出来的；而且对整个社会也有影响，因为科学研究在社会中扮演着重要角色。

Wachter警告，更严重的或许导致基于研究的政策决定出现失误。

新泽西州普林斯顿大学的计算机科学家Arvind Narayanan认为，“任何严肃的科学家都不太可能使用ChatGPT来生成摘要。”

他补充道，“问题在于，该工具能否生成准确而令人信服的摘要。若是不能，那它的缺点是显著的。”

Narayanan还表态，此类问题的解决方案不在ChatGPT本身，而是应该集中在导致这种行为的不良动机上，例如招聘和晋升审查时只看论文的量、而不看质。

人工智能公司Hugging Face研究人员Irene Solaiman则认为，“这些AI模型是根据过去的信息进行训练的，而社会和科学的进步往往来自于与过去不同的思维，或开放思维。”

Solaiman补充说，在医学等关键领域，假信息可能危及人类的安全，所以一些期刊必须采取更严格的方法来验证信息的准确性。

该预印报告的研究小组建议，那些评估科学传播的人士应该制定政策，杜绝使用人工智能生成的文本。而要是机构选择允许在某些情况下使用该技术，他们应该就披露建立明确的规则。