ChatGPT能否骗过科学家？AI机器人撰写研究摘要引发伦理争议

原文改写：🚀揭示科技新高度！生物预印本bioRxiv惊现AIChatbot杰作，一篇摘要直击学术核心，引发热议🔥。论文摘要经AI智慧编织，专家评审时竟难以分辨真伪，这场人工智能与知识验证的交锋引发了广泛讨论和深思🔍。专业人士态度各异，有人惊叹其创新，也有人担忧潜在影响💡。这不仅挑战了传统审稿机制，也为未来科研方向带来了新的视角和挑战🌈。

🌟【ChatGPT大揭秘】🚀 由硅谷巨头💡OpenAI引领创新，11月30日震撼发布！🎉 这款革命性的AI助手，为全球用户敞开免费试用的大门，颠覆传统，重塑交互体验。💻 无需透露个人信息，就能享受其强大功能与智慧服务。🌍 不再是广告的海洋，ChatGPT以其独特魅力，引领科技潮流，让知识触手可及！📚欲了解更多？探索OpenAI如何通过技术照亮未来之路，SEO优化关键词：ChatGPT、OpenAI、硅谷、免费试用、AI助手、交互体验、个人信息保护、科技潮流、知识获取。

🌟ChatGPT🚀——超凡文字魔术师✨💡创新思维驱动，用户中心的文本创作神器🔍以强大的神经网络为核心，ChatGPT犹如知识海洋中的智慧引擎🌊，通过深度学习与海量文本素材的融合，它能迅速理解并回应你的需求，生成既实际又智能的文字内容。📝无需人工干预，只需轻轻一提示，就能创造出令人惊艳的篇章📖。无论是学术论文、商业报告还是日常对话，它的多才多艺让你惊叹不已！🌐作为一款先进的大型语言模型，ChatGPT不仅提升了文字创作的效率，更在信息检索和理解上展现出超乎想象的能力🔍上网冲浪不再迷茫，只需ChatGPT帮你导航知识海洋。📝SEO优化大师，每一段输出都蕴含着搜索引擎喜爱的语言密码🔑。让ChatGPT成为你的秘密武器，提升内容可见度，赢得更多关注！欲了解更多？快来体验这个语言技术革命的奇迹吧！🚀——[隐去联系方式]

上周，有消息称，美国科技巨头微软计划向OpenAI投资高达100亿美元，目前尚处于谈判阶段。

　　难以区分

🎉机器人写作引发伦理挑战🌟 自发布以来，这款人工智能创造者以其近乎完美的生成能力，让无数人惊叹。然而，如何确保它生成的内容与人类笔下的文字无异，却成为一道棘手的难题。学者们对此进行了深入探讨，旨在厘清在科技进步背后可能带来的道德困境。🚀

🌟研究人员最近进行了一个引人关注的实验，由伊利诺伊州西北大学的团队负责人 Catherine Gao 领导，他们探索了 ChatGPT 在撰写研究论文摘要方面的潜力，旨在揭示这一人工智能工具是否能巧妙地瞒过专家的眼睛。🚀通过这项创新性调查，他们不仅验证了 ChatGPT 的生成能力，还对学术诚信和科研依赖技术的未来趋势提出了质疑。📝这项实验的结果引发了广泛讨论，对于如何确保AI在学术领域的透明度与原创性具有深远意义。如果你想了解更多关于这个话题的探讨，不妨关注我们后续的深度分析文章，那里将深入解析这一新兴挑战与应对策略。📚

改写后：🌟研究人员精心挑选了来自五大顶级医学期刊——《美国医学会杂志》、《新英格兰医学杂志》、《英国医学杂志》、《柳叶刀》及《自然医学》的精华内容，要求ChatGPT以专业且精准的方式，创作出50篇深度医学研究摘要。每一篇摘要都将聚焦于医疗领域的前沿知识，为读者提供权威而全面的信息。🚀

随后该小组通过抄袭检测系统和人工智能输出检测器，将这些摘要与原始摘要混在一起匿名比较，要求一组医学研究人员找出由ChatGPT输出的摘要。

结果显示，ChatGPT生成的摘要顺利通过了抄袭检查：其原创性平均得分为100%，这表明没有检测到抄袭。人工智能输出检测器发现了66%的由ChatGPT生成的摘要。

而人工审阅者错误地将32%的生成摘要识别为原始摘要。

　　重大争议

Gao和他的同事在预印本报告中写道，ChatGPT确实写出了可信的科学摘要，不过使用大型语言模型来帮助科学方面的写作，其道德界限和可接受程度仍有待商榷。

英国牛津大学技术和监管领域学者Sandra Wachter不是此次研究的参与者，但是她对此表示非常担心。她补充道，“如果我们现在处于连专家都无法判断真假的情况下，那么我们就不会再看到那些能够在复杂话题中指导我们的论文摘要。”

Wachter提醒道，如果由ChatGPT生成的论文内容无法确定是否正确，那可能会有“可怕的后果”。这不光会给研究人员带来重大问题，因为他们阅读的研究是被捏造出来的；而且对整个社会也有影响，因为科学研究在社会中扮演着重要角色。

Wachter警告，更严重的或许导致基于研究的政策决定出现失误。

新泽西州普林斯顿大学的计算机科学家Arvind Narayanan认为，“任何严肃的科学家都不太可能使用ChatGPT来生成摘要。”

他补充道，“问题在于，该工具能否生成准确而令人信服的摘要。若是不能，那它的缺点是显著的。”

Narayanan还表态，此类问题的解决方案不在ChatGPT本身，而是应该集中在导致这种行为的不良动机上，例如招聘和晋升审查时只看论文的量、而不看质。

人工智能公司Hugging Face研究人员Irene Solaiman则认为，“这些AI模型是根据过去的信息进行训练的，而社会和科学的进步往往来自于与过去不同的思维，或开放思维。”

Solaiman补充说，在医学等关键领域，假信息可能危及人类的安全，所以一些期刊必须采取更严格的方法来验证信息的准确性。

该预印报告的研究小组建议，那些评估科学传播的人士应该制定政策，杜绝使用人工智能生成的文本。而要是机构选择允许在某些情况下使用该技术，他们应该就披露建立明确的规则。