ChatGPT:人工智能助手的伦理挑战与未来前景

财联社1月16日讯（编辑 周子意）据预印本平台bioRxiv12月底发布的一份预印报告，一篇由人工智能（AI）聊天机器人写出的研究论文摘要，最终竟能骗过专家的审核。这份报告一经发出就受到人们的广泛关注，研究人员也对这款AI机器人的影响力存有巨大争议。

ChatGPT 的拥有者，OpenAI，一家总部位于旧金山的软件公司，于去年11月30日推出了这款人工智能助手。为了吸引更多的用户体验，OpenAI 提供了该产品的免费试用。

ChatGPT是一种能够根据用户指示生成智能文本的工具,它属于一种被称为“大型语言模型”的机器学习技术范畴。这种模型的基础是神经网络,通过分析海量的文本数据来学习和理解语言模式,进而能够生成符合用户需求的文本内容。

上周，有消息称，美国科技巨头微软计划向OpenAI投资高达100亿美元，目前尚处于谈判阶段。

难以区分

自该机器人推出以来，其输出的许多内容难以分辨出是否由人工创作，因此，科学家们一直在积极探讨与其相关的伦理挑战。

在当前科研领域，利用先进技术提高工作效率已成为普遍趋势。为此，我们采访了伊利诺斯州西北大学的Catherine Gao教授及其团队，他们近期展开了一项创新性的研究：借助ChatGPT技术，尝试生成研究论文摘要，以此探讨科学家能否从中发现潜在的规律与价值。这一研究旨在探索人工智能助手在学术研究中的应用前景，进一步推动科技与艺术的融合。

作为一名专业的文章写作高手，我会按照您的要求，以ChatGPT为对象，依据其在四大医学顶级期刊《美国医学院杂志》、《新英格兰医学杂志》、《英国医学杂志》、《柳叶刀》以及其子刊《自然医学》上发表的精彩文章，为您撰写50篇具有深度和广度的医学研究摘要。这些摘要将全面、准确地概括各篇文章的研究背景、目的、方法、结果和结论，以期让读者对这些研究成果有更清晰、深入的理解。

在接下来的步骤中，研究团队运用了抄袭检测系统以及人工智能输出检测器，将所提供的摘要与原始摘要混合在一起，并以匿名的方式进行比较。研究小组的目的是识别出由ChatGPT生成的摘要。

结果显示，ChatGPT生成的摘要顺利通过了抄袭检查：其原创性平均得分为100%，这表明没有检测到抄袭。人工智能输出检测器发现了66%的由ChatGPT生成的摘要。

而人工审阅者错误地将32%的生成摘要识别为原始摘要。

重大争议

Gao和他的同事在预印本报告中写道，ChatGPT确实写出了可信的科学摘要，不过使用大型语言模型来帮助科学方面的写作，其道德界限和可接受程度仍有待商榷。

英国牛津大学技术和监管领域学者Sandra Wachter不是此次研究的参与者，但是她对此表示非常担心。她补充道，“如果我们现在处于连专家都无法判断真假的情况下，那么我们就不会再看到那些能够在复杂话题中指导我们的论文摘要。”

Wachter提醒道，如果由ChatGPT生成的论文内容无法确定是否正确，那可能会有“可怕的后果”。这不光会给研究人员带来重大问题，因为他们阅读的研究是被捏造出来的；而且对整个社会也有影响，因为科学研究在社会中扮演着重要角色。

Wachter警告，更严重的或许导致基于研究的政策决定出现失误。

新泽西州普林斯顿大学的计算机科学家Arvind Narayanan认为，“任何严肃的科学家都不太可能使用ChatGPT来生成摘要。”

他补充道，“问题在于，该工具能否生成准确而令人信服的摘要。若是不能，那它的缺点是显著的。”

Narayanan还表态，此类问题的解决方案不在ChatGPT本身，而是应该集中在导致这种行为的不良动机上，例如招聘和晋升审查时只看论文的量、而不看质。

人工智能公司Hugging Face研究人员Irene Solaiman则认为，“这些AI模型是根据过去的信息进行训练的，而社会和科学的进步往往来自于与过去不同的思维，或开放思维。”

Solaiman补充说，在医学等关键领域，假信息可能危及人类的安全，所以一些期刊必须采取更严格的方法来验证信息的准确性。

该预印报告的研究小组建议，那些评估科学传播的人士应该制定政策，杜绝使用人工智能生成的文本。而要是机构选择允许在某些情况下使用该技术，他们应该就披露建立明确的规则。