文章主题：聊天机器人, ChatGPT, 马库斯, Coinbase
编辑：David 昕朋
【新智元导读】近日，ChatGPT成共同作者的事闹得沸沸扬扬，马库斯也来插一脚。面对使用ChatGPT剽窃论文、把它列为共同作者等现象，马库斯怒怼：别署它名！马库斯又来怼ChatGPT了！
今天，马库斯在个人博客里写道：事情越来越离谱了。
吹之前看看答案对不对
事情的起因，源于Coinbase创始人Fred Ehrsam的一条推文。
Ehrsam提出了一个有趣的问题：如果ChatGPT和谷歌都在1公里内以4分21秒的时间运行，那么它们分别用时多少时间来完成1英里的行程呢？对于这个问题，ChatGPT给出了一个非常精确且简洁的答案，相比之下，谷歌则无法做到。
对于这篇帖子，马库斯表示：“它表现出一种无可匹敌的优越感和自我满足，仿佛它是未来世界的象征。然而，值得一提的是，它的回答是错误的。”
ChatGPT并未正确地进行单位转换，作者盲目地坚信，这个最新的工具所提供的答案必定是精准无误的（甚至可以精确到秒），然而他却未曾进行核实。
问题所处的位置在于，尽管统计学的单词预测无法取代真正的数学知识，但这并不意味着它没有价值。实际上，它们可以为我们提供有用的信息，帮助我们更好地理解一些复杂的问题。例如，我们可以利用统计学来预测跑步速度与距离之间的关系，而这个预测的结果可以帮助我们理解跑步速度与英里之间的换算关系。只要我们提问得当，这些预测结果就能为我们提供准确的答案。
ChatGPT 的「对了，又没完全对」的答案中，最令人担忧的特征并非它所犯的错误，而是在其回答中所展现出的自信与坚定。这种自信仿佛能够让人深信不疑，以至于推特上的网友们甚至没有产生质疑的念头。
这就是现状：滥用ChatGPT，人们信任它，甚至吹嘘它，哪怕它与正确答案背道而驰。
想知道什么比炒作更糟糕吗？人们开始将ChatGPT视为一个可靠的、有充分资质的科学合作者。
帮帮忙，别把ChatGPT写成共同作者
马库斯表示，关于ChatGPT的话题，昨日热点是其展示对谷歌的强大影响力。然而，今日舆论关注的焦点则转向了ChatGPT参与论文合著的可能性。
在去年12月发表的一篇预印本论文中，作者一栏中赫然惊现了ChatGPT！
论文地址：
https://www.medrxiv.org/content/10.1101/2022.12.19.22283643v1.full
无独有偶，ChatGPT的名字自去年12月起，频繁地出现在医学领域一些经过同行评审的论文当中：
论文地址：https://www.oncoscience.us/article/571/text/
根据Semantic Scholar的数据，6周大的ChatGPT已经有两份出版物，12个合著者身份和一份引文。
我真诚地希望这种趋势不会持续下去。
马库斯给出了五个原因：
ChatGPT只是一个工具，不是人类。说它是科学家，不如说它充其量更像是一个拼写检查器，一个语法检查器，或者一个统计包。它无法提供真实的想法，不会设计精心控制的实验，也不能从已有文献中得到启发。你不会让拼写检查器或电子表格成为合著者。
例如，你会在参考文献中引用一些资源，例如像SPM这样的用于大脑分析的软件包。即使这对研究工作很重要，但没人会把SPM列成合著者。共同作者在不同领域的定义不同，但通常情况下，共同作者需要做出实质性的科学贡献。ChatGPT根本无法很好地推理来做到这一点；鉴于ChatGPT目前对科学理解的理解水平，赋予其作者身份是对科学过程本身的不尊重。马库斯在之前的文章中写道，ChatGPT对物理、生物、心理、医学等学科完全不了解，并向大家解释了「又聪明又蠢」是什么样子。
在这个回答中，ChatGPT一本正经地说，科学家发现西班牙油条是居家最好用的手术工具。
ChatGPT已经证明自己既不可靠又不真实。它会产生离谱的计算错误，编造虚假的传记细节，乱用词汇，定义根本不存在的科学现象。如果你不知道这一点，你就不了解人工智能研究；如果你知道这一点却不在乎，这更糟糕。如果你让它成为合著者，这表明你只是想跟风，而不是真正进行研究。人们对ChatGPT滤镜太强。你不会相信一台只有75%正确率的计算器，那么，如果你公然宣称，你对用「劣迹斑斑」的人工智能工具「写」论文感到兴奋，我为什么要信任你？科学写作的目的，是为了清晰地向他人传授真理。如果你把ChatGPT视为有知觉的人——虽然显然不是，你就是在误导公众产生同样的感觉；你不是在传播科学观念，只是在炒作废话。请停止这种行为。最后马库斯总结道：真朋友不会允许ChatGPT成为你论文的共同作者。
如果说马库斯之前与LeCun等人激情辩论关于人工智能前景、AGI的可实现性、以及指责LeCun关于「人工智能路线图」是夺他人之功，多多少少带了个人恩怨的话，那么此次，对ChatGPT表达的担忧和警惕就很切中要害了。
实际上，马库斯上面说的关于ChatGPT与论文造假、和版权争议的问题，在ChatGPT仅推出几周后，就成为了现实。
近日，弗曼大学的一位哲学教授达伦·希克就发现，一名学生交的一篇论文是人工智能生成的。
希克说，当他看到论文中的明显经过精心编排、但却是的错误的信息时，他就开始怀疑了。
他把论文提交Open AI的ChatGPT检测器，结果显示，这篇论文有99%的可能性是由人工智能生成的。
无独有偶，北密歇根大学教授安东尼·奥曼(Antony Aumann)也表示，他也发现两个学生提交了由ChatGPT编写的文章。
在发现这两篇文章的写作风格有点不对劲后，奥曼将文章提交给聊天机器人，问它们是由该程序写的可能性有多大。当聊天机器人说它有99%的把握是由ChatGPT写的，他就把结果转发给了学生。
希克和奥曼都表示，他们与学生对质后，所有学生最终都承认了违规行为。希克的学生没有通过这门课，而奥曼让他的学生从头开始重写论文。
论文虽有错误，但写的不错
两位教授表示，这两篇AI生成的论文中的某些关键之处能看出来比较明显的痕迹。希克说，他发现的这篇论文提到了课堂上没有提到的几个事实，并提出了一个无实际意义的主张。
他说：「从字面上看，这是一篇写得很好的文章，但仔细一看，关于多产的哲学家大卫-休谟的一个说法毫无意义，甚至是完全是错误的。」
这种修饰得很完美的错误，就是AI代笔的最大的破绽。
对奥曼来说，聊天机器人只是写得太完美了。「我认为这个聊天工具写得比我95%的学生都要好。」
「就是突然间，你有一个没有表现出这种水平的思考或写作能力的人，写出了完全符合所有要求的东西，有复杂的语法和复杂的思想，与文章的提示直接相关，一下就感觉很不对劲。」他说。
阿巴拉契亚州立大学的哲学教授克里斯托弗·巴特尔说，虽然AI生成的文章的语法几乎完美，但实质内容往往缺乏细节。
「没有背景，没有深度、没有洞察力。」
难以证实的剽窃：不招供就没辙
不过话说回来，这是几位教授的学生都承认了AI代笔，实际上，如果学生拒不承认使用人工智能写论文，学术界很可能会陷入困境。
巴特尔说，目前一些学术机构的规则还没有发展到打击这种作弊的程度。如果学生挖空心思，否认使用人工智能，那么实际上很难确切证明这种作弊行为。
他还说，OpenAI自家提供的AI检测工具很好，但不完美。
这个工具是对文本是由人工智能生成的可能性进行了统计分析，给出一个概率。
而现行政策一般是，必须有明确和可证实的证据来证明论文是假的，才算石锤，这就使我们处于一个很困难的位置。如果返回结果是95%的可能性是人工智能生成的文章，还有5%的可能性不是。
在希克的案例中，尽管检测网站说「99%确定」这篇论文是由人工智能生成的，但实际上，关键还是在于学生自己承认了，否则仅凭这个概率结果，对确认作弊本身是远远不够的。
希克表示，供词很重要，除此之外，其他一切都是间接证据，对于人工智能生成的内容，一般没有物质证据，而物质证据比间接证据有更大的分量。”
奥曼则说，尽管他认为聊天机器人的分析足以成为采取行动的证据，但利用人工智能抄袭作弊，对高校来说仍然是一个新的挑战。
毕竟，现在凭ChatGPT以假乱真的高超本事，只要用户想，它变成CheatGPT实在是分分钟的事。
参考资料：
https://garymarcus.substack.com/p/scientists-please-dont-let-your-chatbots
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号AIGC666aigc999或上边扫码，即可拥有个人AI助手！
