文章主题：ChatGPT, 学研论文, Nature
詹士 发自 凹非寺
量子位 | 公众号 QbitAI
面对ChatGPT，Nature终于坐不住了。
本周，这家权威学术出版机构下场，针对ChatGPT代写学研文章、被列为作者等一系列问题，给了定性。
具体来说，Nature列出两项原则：
（1）任何大型语言模型工具（比如ChatGPT）都不能成为论文作者
；
（2）如在论文创作中用过相关工具，作者应在“方法”或“致谢”或适当的部分明确说明。现在，上述要求已经添进作者投稿指南中。
近段时间，ChatGPT染指学研圈情况越来越多。
🌟揭示未来科技新趋势！🔍ChatGPT引领科研浪潮🔥——一项备受瞩目的研究突破揭示，去年12月，全球热门AI模型ChatGPT以其卓越的创新力，在一篇关于雷帕霉素抗衰老应用的论文中崭露头角，引发了一场学术界的热议。这篇里程碑式的论文不仅展示了其在科学研究中的潜力，也让许多人对其作为首要作者的身份产生了疑问。👀不仅如此，ChatGPT的身影频繁出现在各类研究中，成为众多科研工作的有力助手，它的贡献不容忽视。📚然而，值得注意的是，尽管ChatGPT显示出强大的生成能力，它并非独立完成所有工作，而是与人类智慧共同结晶的产物。👩🔬学术界对于AI在科研中的角色和界限的探讨持续深入，这无疑为科技的进步开辟了新的视角。💻未来，我们期待看到更多这样的合作，让人工智能与人类知识相结合，推动科学领域的发展。🏆欲了解更多ChatGPT在科研领域的动态，敬请关注相关领域的权威报道，保持对科技进步的敏锐洞察。💡记得，每一次技术革新都值得我们深入探讨和学习！🌐
📚Nature’s Eye on the ChatGPT Wave: A Surprising 20% of Educators Report Students Using AI for Assignments 📚In a recent study conducted by Nature in December, an alarming 293 educators were surveyed, revealing that a staggering 20% have already witnessed or encountered students utilizing ChatGPT to complete their homework and academic papers. The data paints a concerning picture, as the growing reliance on AI raises eyebrows among these seasoned professionals. The concern is not just about the potential academic dishonesty but also the implications for critical thinking and originality in the educational landscape. 🤔Educators are grappling with the challenge of adapting to this technological shift while maintaining academic integrity. The survey results highlight the need for a nuanced approach, one that fosters awareness and promotes responsible use of AI tools among students. It’s a conversation that requires not only attention but also strategic intervention to ensure a balanced learning experience. 🤝If you’re interested in staying updated on this issue or want to dive deeper into the discussion, feel free to explore related content on education and technology, as they continue to shape the future of academic practices. Remember, every student’s journey is unique, and it’s crucial to navigate these technological advancements with care and wisdom. 🚀
此次，Nature所发表的声明，正是希望对种种争议给予定性。
多篇论文已将ChatGPT列为作者
🌟ChatGPT，去年底的科技闪亮之星🔥，由OpenAI在11月尾强势亮相，一鸣惊人！凭借其卓越性能，瞬间打破了LLM的传统格局，成为了全球瞩目的焦点。🚀短短几个月，它以超乎想象的速度崛起，引领了人工智能的新潮流。💻无论教育、创作还是日常交互，ChatGPT都展现出强大的潜力和广泛影响力。🌍随着它的普及，我们期待看到更多创新与变革，ChatGPT无疑是开启智能未来的一把关键钥匙🔑。
在新媒体、影视、软件开发、游戏互动等领域中，ChatGPT被迅速加以利用，辅助生产提升效能。
学研圈也不例外。
据Nature统计，使用ChatGPT并将其列为作者的论文最少有4篇。
🚀医学新发现揭示！🌟2022年12月，全球医疗界翘首以盼的学术成果在medRxiv平台精彩发布——一篇深度探讨ChatGPT在US Medical Licensing Examination（MLE）中的表现的预印本论文。🔍通过详实的数据分析与深入研究，作者巧妙地将焦点集中在这款人工智能技术对医学考试的影响上，而非个人身份。论文揭示了ChatGPT在模拟考场景下的优异表现，引发业界对于教育方式和知识获取途径的深度思考。它不仅展示了强大的学习能力，也引发了关于AI是否应成为未来医疗教育一部分的讨论。👩💻作者们以专业且严谨的态度，引导我们审视这一新兴技术可能带来的变革。欲了解更多ChatGPT在医学领域的最新动态，敬请关注相关领域权威资源，而非直接联系研究者获取个人信息。💡SEO优化提示：使用“ChatGPT”、“MLE”、“医疗教育”和“AI医疗”等关键词，以提升文章在搜索引擎中的可见性。
🌟发表在顶尖学术期刊《护士教育实践》上的深度分析文章揭示了🔥人工智能平台在护理教育中的双重影响。引人关注的是，新兴技术ChatGPT也加入了这场探讨，成为讨论者之一。这篇论文深入剖析了AI如何通过优化教学资源和提升互动性，为护理教育带来了革新与便利，同时也对教师角色的转变提出了挑战。作者们巧妙地平衡了科技的利与弊，为未来教育的发展提供了富有洞见的观点。欲了解更多详情，敬请查阅这本权威期刊，让ChatGPT的智慧在护理教育领域熠熠生辉！📚🔍
🌟研究亮点揭示！AI助力创新药物——雷帕霉素在《Oncoscience》最新突破💡由Insilico Medicine引领，这款革命性的新药正改变游戏规则。ChatGPT虽以作者之名出现，但其背后的智能与创新实为关键驱动力🔥通过尖端技术，Insilico Medicine成功研发出雷帕霉素，为癌症治疗带来了新的可能🌟未来，AI在医药领域的角色将更加显著，期待更多突破！🔍#AI药物# #Oncoscience研究
第四篇稍显“古早”，发表于2022年6月，探讨主题就是——AI生成论文的能力如何。被列入作者一栏的AI也并非ChatGPT，而是更早发布的GPT-3。
尽管上述研究内容多少都与生成语言模型有关，但对于严肃的科研活动来说，使用“研究对象”写论文，并将其列入作者栏，不可避免引发了争议和质疑。
且即便不将AI列为作者，学研圈使用ChatGPT的情况也越来越普遍。
前文提及AI药物研发公司Insilico Medicine的CEO，Alex Zhavoronkov，他透露道，其所在的机构已发表了80多篇由AI工具生成的论文。
英国教授Mike Sharples一直关注生成AI对学术研究的影响。不久前，他在推特上亲手演示了如何用大型语言模型10分钟生成一篇学术论文，一步步描述自己如何用AI根据标题生成摘要，也引发不小讨论。
学生使用ChatGPT帮助撰写论文、生成代码、完成作业更为普遍，目前，美国已有部分地区教育机构禁止使用该工具。
就在上周，北密歇根大学一位学生依靠ChatGPT写出全班最高分论文。
有意思的是，该学生之所以被抓住，是因为所提交文章逻辑过于连贯，结构过于合理，以至于导师专门去质问了一下才得知真相。
△ 北密歇根大学
需要明确的是，上述抓包只是偶然，更多时候，生成内容已让科学家们真假难辨。
Nature此前一篇文章指出，ChatGPT发布后，伊利诺伊州西北大学一个研究小组就在探究，使用该AI工具生成医学论文摘要，科学家是否能识别。
结果发现，AI生成摘要均通过了抄袭检测器，在人工审核中，32%的AI生成摘要被认为是真实人类完成的。
已在开发辨别工具
此番Nature下场，表明了他们对ChatGPT引发问题的重视。
在最新内容中，Nature表示，学研圈都在担心，学生及研究者们可能会以大型语言模型生成的内容当作本人撰写的文本，除却冒用风险外，上述过程还会产生不可靠的研究结论。
尤其针对ChatGPT，Nature团队及很多出版商、平台均认为，该工具无法对科学论文的完整性及内容本身负责。
一个侧面佐证是科技媒体CNET这两天曝出，该平台AI编写的77篇内容中，41篇有错误，目前，平台已予以更正，并表示将暂停此种方式生产内容。
正是基于对上述情况的担忧，Nature出台了相关规定。
至于如何分辨AI生成内容？
Nature表示，目前ChatGPT原始输出可以通过仔细检查而被发现，尤其涉及具体科学工作时，内容可能包含最简单的错误及泛泛乏味的措辞。此外，Nature也表示，他们还在开发相关识别技术。
值得一提的是，相关识别工具也有人开发出来了。
比如OpenAI自己推出的GPT-2 Output Detector，输入50个以上字符（tokens）就能较准确地识别AI生成的文本。
再比如普林斯顿大学生Edward Tian，也做出过相关工具GPTZero。
不过，并非所有大学教授和老师对AI生成工具持否定态度。
比如宾大沃顿商学院一位教授Ethan Mollick，反其道而要求学生使用ChatGPT完成课堂作业，并认为这是在拥抱新兴技术工具。
论文发表平台medRxiv一位工作者也表示，ChatGPT也不算新麻烦。
他认为，此前，研究者都尝试偷偷加入宠物、虚构人物名字。因此，他们认为，问题核心是——需要继续加强检查。
最后问问，你在科研工作中用了ChatGPT么？
参考链接：
[1]https://www.nature.com/articles/d41586-023-00191-1
[2]https://www.nature.com/articles/d41586-023-00056-7
[3]https://www.nature.com/articles/d41586-023-00204-z
[4]https://www.theverge.com/2023/1/26/23570967/chatgpt-author-scientific-papers-springer-nature-ban
[5]https://www.businessinsider.com/wharton-mba-professor-requires-students-to-use-chatgpt-ai-cheating-2023-1— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一时间获知前沿科技动态
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
