用ChatGPT写论文靠谱吗?有学者试了一下:漏洞百出
本科论文

用ChatGPT写论文靠谱吗?有学者试了一下:漏洞百出

编辑:LRS 【新智元导读】虽然ChatGPT写的论文错误太多,但掠夺性期刊应该会接收。(错误尝试!!) ChatGPT以其强大的文本创作能力,直接问鼎地表最强问答模型。 但强大的AI也会带来一些负面影响,比如在问答社区一本正经地写出错误答案,帮助学生写论文等。 最近arXiv上的一篇论文引发了业界的关注,来自西班牙圣地亚哥-德孔波斯特拉大学的研究人员在文中以「人工智能在药物发现中的挑战、机遇和策略」,这篇论文的特别之处在于作者使用ChatGPT辅助论文写作。 论文链接:https://arxiv.org/abs/2212.08104 作者团队在摘要中的最后一段「来自人类作者的说明」(Note from human-authors)中表示,创建这篇论文是为了测试 ChatGPT (一个基于 GPT-3.5语言模型的聊天机器人)的写作能力是否能帮助人类作者撰写评论文章。 作者设计了一段指令作为文本生成的初始提示,然后对自动生成的内容进行评估。再进行彻底的审查之后,人类作者实际上重写了手稿,努力在原始proposal和科学标准之间保持平衡,文章的最后也讨论了使用人工智能实现这一目标的优势与局限性。 但是还有一个问题,作者列表里怎么没有ChatGPT?(手动狗头) 论文写作方法 本文是在ChatGPT的辅助下生成的,ChatGPT是2022年11月30日发布的一个自然语言处理系统,由OpenAI用大量文本语料库进行训练,能够根据提供给它的输入生成类似人类写作的文本。 就本文而言,人类作者提供的输入包括论文的主题(人工智能在药物发现中的应用)、需要考虑的章节数量,以及每个章节的具体提示和说明。 ChatGPT生成的文本需要经过人工编辑后才能作为最终的定稿,以纠正和丰富内容,避免重复和不一致等问题;并且人类也需要对人工智能建议的所有参考文献进行了修改。 这项工作的最终版本是人类作者在人工智能的协助下进行反复修改的结果,直接从ChatGPT获得的初步文本与当前版本手稿之间的总相似度为:完全相同的4.3%,微小的变化13.3%,相关的意义16.3%。直接从ChatGPT获得的初步文本中,正确的参考文献比例仅为6%。 由ChatGPT生成的原始版本,以及用于创建该版本的输入信息都涵盖进来作为Supporting Information 论文摘要中的插图由DALL-E生成。 论文内容 论文总共包括10个section和56个参考文献,其中section1-9都只包含1-2个段落,主要描述论文主题「「人工智能在药物发现中的挑战、机遇和策略」」相关的内容;第十个section主要讨论「人类作者对基于ChatGPT和AI的科学写作工具的专家意见」;文章中只有摘要部分包含一张插图。 摘要 人工智能有可能彻底改变药物发现过程,提供更好的效率、准确性和速度。然而,AI的成功应用取决于高质量数据的可用性、对道德问题的处理以及对基于人工智能方法的局限性的认识。 这篇文章回顾了人工智能在这个领域的好处、挑战和缺点,并提出了克服目前障碍的可能战略和方法。 文章中还讨论了数据增强的使用、可解释的人工智能、人工智能与传统实验方法的整合,以及人工智能在医药研究中的潜在优势。 总的来说,这篇评论强调了人工智能在药物发现中的潜力,并对实现其在该领域的潜力所面临的挑战和机遇进行了深入探讨。 人类作者对基于ChatGPT和AI的科学写作工具的专家意见 ChatGPT是一个基于GPT-3.5语言模型的聊天机器人,它的设计目标并非是撰写科学论文的助手,但它与人类进行连贯的对话并就广泛的主题提供新信息的能力,以及它纠正甚至生成计算代码的能力,都让科学界感到惊讶。 因此,我们决定测试它的潜力,为编写关于人工智能算法在药物发现中的作用的简短评论做出贡献。 作为撰写科学论文的助手,ChatGPT有几个优点,包括快速生成和优化文本的能力,以及帮助用户完成几个任务,包括组织信息,甚至在某些情况下连接思想。 然而,这个工具绝不是生成新内容的理想工具。 输入instructions后,还需要人类对人工智能生成的文本进行修改,而且是大篇幅的编辑和修正,包括替换几乎所有的参考文献,因为ChatGPT提供的参考文献明显不正确。 这也是ChatGPT目前存在的一个大问题,它与其他计算工具(如搜索引擎)相比有一个关键的区别,后者主要是为所需的信息提供可靠的参考。 而采用基于人工智能的工具进行写作辅助还存在另一个重要的问题:它是在2021年训练的,所以它并不包括最新信息。 这次写作实验提供的结果就是:我们可以说ChatGPT不是一个有用的工具,在没有强大的人类干预的情况下无法编写可靠的科学文本。 ChatGPT缺乏准确和充分传达复杂科学概念和信息所需的知识和专长。 此外,ChatGPT使用的语言和风格可能不适合学术写作,为了生成高质量的科学文本,人类的输入和审查是必不可少的。 这种人工智能还不能用于生产科学文章的主要原因之一是它缺乏评估处理信息真实性和可靠性的能力,因此,由ChatGPT生成的科学文本肯定包含错误或误导性信息。 同样需要注意的是,审稿人可能会发现区分由人类或这个人工智能写的文章并非易事。 这使得审查过程必须彻底,以防止虚假或误导性信息的发表。 一个真正的风险是,掠夺性期刊(predatory journals)可能利用科学文章的快速生产来产生大量的低质量内容,这些期刊往往受利益驱使,而不是致力于科学进步,它们可能利用人工智能快速生产文章,让不合格的研究充斥市场,破坏科学界的公信力。 最大的危险之一是科学文章中虚假信息的潜在扩散,这可能导致科学事业本身的贬值,失去对科学研究的准确性和完整性的信任,会对科学的进步产生不利影响。...
ChatGPT会让编辑、翻译、设计师们失业吗?
期刊论文

ChatGPT会让编辑、翻译、设计师们失业吗?

一个多月前,ChatGPT 全网刷屏,我们也在第一时间试着把它训练成小红书读书博主,并探讨了它在辅助创作、提高阅读效率方面的巨大潜力。不仅如此,我们还预言AI创作的流行,将会把更多“水文”“注水书”赶出市场。随着GPT 4.0版本发布并全面接入微软Office全家桶,全球打工人不约而同感觉到一阵寒意,从一个多月前的置身事外,到如今面临“饭碗不保”,AI席卷一切的速度比我们想象中更快。编辑可能是最先感受到这一轮冲击波的群体。早在2月份,不少国外杂志的投稿邮箱就已经被AI创作的文章挤爆了,科幻名刊《克拉克世界》在20天的时间里收到了超过500份垃圾投稿,占到投稿总量的38%,即便有检测软件的辅助,杂志编辑依然感觉耗时耗力,难以招架。最终,《克拉克世界》不得不暂停接受投稿。随后,国内科幻杂志《科幻世界》也宣布拒收AI投稿,只是随着AI创作能力的日新月异,过滤AI辅助创作内容的难度也将直线上升。近日,AI图像生成服务 Midjourney创作的一对情侣在全球社交媒体刷屏,升级到第五版之后, Midjourney已经打破了“AI不会画手”的瓶颈,作品几可乱真。很快,就有国内用户通过GPT4 + Midjourney 的强强联合,画出了《三体》的主要角色。我们暂且不去考虑画师、CG美术设计师们未来何去何从,更关注作为内容把关者的编辑,如何应对“道高一尺,魔高一丈”的AI浪潮。近日,美国版权局已经针对AI生成作品出台了新规,规定版权申请者必须披露 AI 的使用情况,否则注册可能会受到影响。通过ChatGPT、Midjourney等平台自动生成的作品,训练数据是基于人类创作的作品,因此不受版权法保护。这样的规定虽然会让创作者松一口气,但问题在于,判定AI作品的重担就落在了内容审核者身上,比如媒体编辑、版权代理人、图书编辑等,他们不仅要练就一双看穿AI套路的火眼金睛,更要承担“看走眼”之后的法律风险,毕竟总不能像《克拉克世界》一样一拒了之。在国内,首当其冲的当属高校导师及学术期刊编辑,因为一些AI创作平台正在成为“论文降重神器”,通过复制粘贴+全文改写,全网搜罗的内容就摇身一变成了“自己的语言”,原来的查重工具就此失效。从此以后,只看内容“原创性”已经很难用来判断文章质量,而是需要花费更多功夫考察其内在逻辑及论证过程。当然,ChatGPT等AI创作工具,带给编辑们的并不只是更多的工作量,更棘手的工作难度,更高的法律风险,也可以反过来把他们从繁重的文字劳动中解放出来,辅助他们进行审稿、改稿、修订译文,创作小红书、短视频等营销文案。过去,Word仅能提供错别字校对等服务,国内一直没有Grammarly这样可以纠正语法错误,调整语气以及给出风格建议的辅助工具。直到最近两年,国内才陆续出现了一批文本校阅、润色工具,不再仅限于检测错别字,而是可以帮助编辑做更多脏活、累活。我用DeepL翻译了Johann Hari 的《Lost Connections》的开头部分,然后让某国内AI创作平台来帮我校阅译文。它不仅可以发现其中明显的语法错误,标点误用,甚至还能检测出“敏感词”。对于语法错误,你可以通过一键改写,来使其更符合中文的表达习惯。当审稿的效率直线提升,编辑或许就不用再沦为无情的“看稿机器”了。虽然ChatGPT的翻译水平相比DeepL并没有质的飞跃,但只要输入润色指令,进行专业领域的调教,便能够产出更为流畅的译文。DeepL+ChatGPT配合使用,虽然无法替代人工翻译,但至少可以用来比对判断译文质量,对于外版书编辑来说不失为一个工作助手。一个多月前,我们曾尝试让ChatGPT为我们创作小红书推书文案,发现它已经掌握了“车轱辘话来回说”这一废话文学的要领。如今,我们在给出了关键词提示的情况下,尝试让文心一言为东野圭吾的新书《白鸟与蝙蝠》写一篇小红书推文,虽然它并未如ChatGPT一样掌握小红书文案的精髓,对书的理解也停留在“望文生义”的水平,但写出的文案已经足以像模像样。即便文心一言相比ChatGPT在语义理解上仍有不小差距,但对于文案创作来说已经可以胜任。今后,编辑只要精准掌握了一本书的核心卖点,各个平台重复性的营销文案工作可以指导AI来完成。当然,封面设计这件事目前还无法交给AI来完成,从ChatGPT和文心一言分别为《白鸟与蝙蝠》创作的封面来看,AI作画仍然停留在字面理解的层面,很难像设计师一样深入考虑书名的深层意涵,整本书的风格基调,进行恰如其分的视觉表达,更不用说字体设计与视觉元素布局了。尽管Midjourney作品的真实程度已经可以媲美照片,但仍然缺少打动人心的情感力量。图书编辑可能是最不用担心被AI抢走工作的一群人,不仅仅是因为他们收入微薄,也不仅因为这是一项看似简单,实则门槛很高的职业,更因为他们是人类创造力的鉴定者与评判者,是抵御AI创作浪潮的最后一道防线。有了ChatGPT等工具的辅助,编辑就可以有更多时间从事更有创造性的工作,也可以和写作者、绘画者们一起创作出AI难以企及的作品。
「每日社科」ChatGPT走红后,谁的“饭碗”不保了?
本科论文

「每日社科」ChatGPT走红后,谁的“饭碗”不保了?

在2022年11月末,一家位于美国旧金山,名为“OpenAI”的人工智能研究机构在没有大肆宣传的情况下公布了一款名为“ChatGPT”的免费应用。从界面上来看,这个在网页上运行的人工智能对话机器人程序略显寒酸,用户在一个对话框里输入问题,随后网页上会逐字逐句打出它的回答。它的反应速度看上去并不算太快。 经过一段不算长的平静期之后,ChatGPT忽然在全世界范围内引发出一种爆发性的效应。兔年春节尚未结束,在中文网络上关于ChatGPT的讨论就开始愈发火爆。人们对它不乏调侃——这个聊天机器人往往会对一个难度不大的问题给出错误答案,一本正经地说瞎话;在调侃之外更多的则是惊叹——ChatGPT针对各种问题所进行回答的语言基本上已经看不出机器生成的生硬,而是标准的书面化,甚至是口语化的日常语言;其针对一些问题所产生的答案更是显得逻辑清晰,结构完整;甚至对于创作诗歌、小故事等要求往往也完成得远超人们的预期。 网友和ChatGPT讨论27是否是质数 这款展示出超强“智能”的聊天机器人迅速在全世界范围内成为一款“现象级”的应用。瑞银集团的一份研究报告显示,在ChatGPT推出两个月之后,它在2023年1月末的月活用户就已经突破了1亿,成为历史上用户增长速度最快的消费级应用程序。相比之下,其他几款也曾经风靡全球的应用,例如TikTok达到1亿用户用了9个月时间,Instagram则花了2年半时间。可以说,ChatGPT在短时间内风靡全球,即便对于它的开发者们来说也是一个意外。发布这个应用本来是被看作一次“研究预览”(research preview)。“我们并不想过分宣传,说它是一个重大的基础性进步。”ChatGPT的开发者之一利亚姆·费德斯(Liam Fedus)在接受媒体采访时这样说。 对于大多数人工智能领域的研究者来说,ChatGPT的表现确实堪称优异,而人们对其表现出的极高热情和好奇更是出乎预料。这种出乎意料的全球性热潮也必定会对整个产业造成一系列的连锁效应。这款对话机器人所应用的并不算是最新技术,而是基于2020年构建的一个人工智能模型“GPT-3”。开发者们在此基础上再进行细致调整,并且加入一些对话数据对其进行“训练”,随之诞生了“ChatGPT-3.5”(3.5是其版本号)。 《银翼杀手2049》剧照 对于大众来说,人们已经开始将ChatGPT的出现与之前在人工智能领域的几个标志性事件相提并论:1997年5月,IBM公司开发的“深蓝”(Deep Blue)国际象棋程序打败了当时的国际象棋世界冠军卡斯帕罗夫;2016年3月,由DeepMind公司开发的围棋人工智能程序AlphaGo打败了当时的围棋世界冠军李世石;而几年之后出现的ChatGPT又将人们对于人工智能的关注度提升到了风口浪尖。也有人将这款聊天机器人的出现与iPhone当年的横空出世相提并论——这绝不仅仅是一款产品而已,而是改变了全世界使用互联网的方式,标志着一个新时代的来临。 大多数对于人工智能,尤其是“自然语言处理”(Natural Language Processing)技术并不了解的普通人在使用过ChatGPT之后,往往会产生出三个问题:这款聊天机器人究竟是如何做到语言流畅、逻辑清晰甚至还展现出了一定的创作能力?通过类似的技术,人工智能在未来能够达到怎样的高度,还能完成怎样的任务?它的出现对人类社会将造成怎样的转变,很多工作(尤其是自己目前所从事的工作)会不会很快被人工智能所取代? 第一波热潮尚未过去,2023年3月12日,更新版本的“ChatGPT-4”出现。而微软公司也很快召开发布会,宣布使用与ChatGPT类似的技术,与其办公软件相结合,推出“Microsoft 365 Copilot”——目前还很难判断它将成为办公室文员的得力助手还是天敌。从发布会上所展示的性能来看,实际上大多数办公室文员的工作如撰写标准文档、制表甚至是对文档进行总结归纳等任务,都可以由这款办公软件自动完成。除此之外,一些基于类似技术的人工智能绘图应用也开始让人们乐于尝试。虽然与文字应用相比,目前看来人工智能的绘图能力还有明显欠缺,但也能够不时展现出绝佳的创意。 中国公司也在迅速跟进。2023年3月16日,百度公司召开发布会,推出聊天机器人“文心一言”。这款产品很容易被看作是对标ChatGPT而推出的中国版本。对其有过使用经验的人也自然会把两款产品放在一起来比较,目前收获的评价褒贬不一。 ChatGPT对于人类社会的影响可谓立竿见影。已经有多个学术期刊声明不接受这款人工智能机器人作为论文的作者,也有期刊表示允许作者使用ChatGPT对论文进行整理和润色。更有大学老师略带调侃地评价,现在很难判断学生交上来的论文作业是自己写的还是由ChatGPT生成,只能粗略判断:写得太工整、逻辑太清晰的作业应该是由ChatGPT完成的。 《她》剧照 在这股热潮稍微冷却一些之后,人们对于人工智能机器人的反应显得颇为复杂。有人感到恐惧,认为人类最重要的特征——进行思考和推理的能力——如今已经显得不再独特。由此便很容易联想到尼采在《查拉图斯特拉如是说》中的名言:“人之所以伟大,乃在于他是桥梁而不是目的。”有人为之欢呼,认为无论会产生出怎样的后果,一个全新的时代正在到来,人工智能在所有领域全面超越人脑只是一个时间问题,是一个“数学上的必然”(mathematical certainty);也有人认为人工智能已经完全超越了人脑,达到了所谓的“奇点”(Singularity)…… 必须承认,人工智能已经不再是供人展望和畅想的未来。无论你对人工智能持有怎样的看法,怀着怎样的情绪,它已经成为现实,成为我们生活中的一部分。为了完成这组报道,本刊记者试图深入到行业内部去了解人工智能研究最前沿的信息。目前人工智能研究最有活力的前沿区域当属位于硅谷的各大科技公司。不过,无论是微软、谷歌、Meta,还是位于伦敦、已经被谷歌收购的DeepMind公司,都对于采访要求保持沉默或是直接拒绝。其中的原因其实也不难想象:在当今人工智能产业正在发生剧变的时代,各大科技公司都有太多暂时不便公开的研究项目和商业计划。 我们决定转而去探访进行人工智能研究的学术中心。“神经网络三剑客”中的两位:杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(YoshuaBengio),分别在加拿大的多伦多和蒙特利尔建立了向量研究所(Vector Institute)和蒙特利尔学习算法研究所(MILA)。这两家学术研究机构会聚了大量人工智能领域,尤其是神经网络方面的专家,堪称世界人工智能研究的两大中心。我们对这两家机构做了实地参观,并对这里的多位学者进行了采访。 除此之外,本刊记者还对国内的科技公司以及人工智能领域的相关人士进行了采访。以色列历史学家、《人类简史》作者尤瓦尔·赫拉利也接受了本刊独家专访,谈论了人工智能所需要的全新的道德规则。在这次对学术界和工业界不同研究人员的采访中,我们感触最深的地方就在于,虽然大家都在朝着同一个方向努力,也都相信人工智能的发展会越来越好,但是对于一些根本性问题的看法却往往大相径庭。未来正是这样,在种种不确定中开始逐渐显现。 自己的工作有没有受到威胁,究竟什么工作最可能被人工智能所取代?正如我们的采访对象,英属哥伦比亚大学的克鲁恩教授所说,“颇有讽刺意味的是,人工智能来自数字世界,如果你现在的工作需要写很多的文字,发很多的邮件,制作很多的PPT,每天花很多时间使用电脑……那么你的工作很可能是最先会被人工智能所取代的。而对于人工智能来说,更难得工作在于如何系鞋带,如何拧螺丝,如何打扫房间……可以说,相比于清洁工的工作,律师的工作会很快就被人工智能所取代。” 说到底,如果你的工作需要每天花费大量时间用于操作电脑,而且大多属于重复性,不需要太多的创造力,那么你的工作就非常可能最先被人工智能所替代。而目前看来,通用型人工智能,尤其是人工智能机器人还没有成为现实,因此大多数的体力劳动仍然无法被替代。 《人工智能》剧照 人工智能和人类究竟该是怎样的关系?很多人把这理解为一种竞争,也有人希望人工智能可以成为人类的好帮手。在医疗保健、法律、教育等行业,目前看来人工智能还不能替代人类的工作,却可能成为人类的好帮手。 长远看来,人工智能更可能成为人类的一个伴侣。在经过了数百万年的进化之后,人类拥有了复杂的大脑,也成为了地球孤独的主人。人类大脑的构造堪称宇宙中最为复杂的机器,其中神经元的数量堪比星系中恒星的数量。如今,人类正在利用这个无与伦比的大脑,试图建造一个能够与自己进行平等交流,甚至可能超越自己的机器。或许人工智能最重要的意义,就在于让人类感觉在这个空荡荡的宇宙中不再孤独。 ▌来源:三联生活周刊 举报/反馈
ChatGPT:人工智能冲击下的现实挑战与学术革命?🔥编者手笔揭示AI原创论文可能到来,是福音还是
期刊论文

ChatGPT:人工智能冲击下的现实挑战与学术革命?🔥编者手笔揭示AI原创论文可能到来,是福音还是

这篇文章主要讨论了人工智能ChatGPT对社会和学术界的冲击,展示了其强大的学习能力和生成内容的逼真性,引发了关于如何控制AI以及防范AI带来的挑战,如学术论文作弊的问题。作者引用了生物预印版研究实例,说明AI已经能够撰写看似原创的研究摘要,但AI内容还需通过检测才能识别。尽管AI在提高科研效率方面可能有潜力,但作者强调其内容基础仍需实验支持,并指出真正的创新不多,大部分只是格式上的修改。最后,文章将AI比作文字秘书,认为它能帮助初次接触英文写作的科研人员解决论文初稿问题,实际上更像是科研辅助工具。作者对AI持谨慎乐观态度,并期待在使用中明确其道德边界和用途。极致压缩:ChatGPT引发的人工智能与学术伦理讨论
ChatGPT是否威胁学术?人机协作新趋势下,期刊编辑何去何从?
期刊论文

ChatGPT是否威胁学术?人机协作新趋势下,期刊编辑何去何从?

本文讨论了ChatGPT对工程和基础科学学科期刊的影响。作者以一个学生在写论文Introduction时的例子为例,指出虽然ChatGPT能生成更通顺的语言,但逻辑问题依然存在。AI可能成为人机互动的辅助工具,启发创作,而非取代人类。因此,编辑不必过于担心其带来的影响,而应采取开放和引导的态度,适应技术发展。
ChatGPT能取代润色吗?学术领域的谨慎使用与专业润色的必要性
本科论文

ChatGPT能取代润色吗?学术领域的谨慎使用与专业润色的必要性

Chatgpt在学术领域润色应用有限,其修改多为机械且缺乏对原文理解,不适合作为主流润色工具。相比之下,专业的学术润色服务如艾德思或Grammarly更能提供精准和升华的改写,尤其在处理复杂的学术内容时效果明显,更适合用于深度论文和专业写作。个人经历验证了这一点,建议仍选择专业人员以确保稿件质量。
ChatGPT爆火!马斯克亲自示范,新一代AI对话模型究竟有何超凡之处?🔥学界担忧,ChatGPT
期刊论文

ChatGPT爆火!马斯克亲自示范,新一代AI对话模型究竟有何超凡之处?🔥学界担忧,ChatGPT

文章介绍了人工智能研发公司OpenAI推出的ChatGPT对话模型的火爆情况,该模型在马斯克的讨论中展示了超越预期的人工智能水平,能够进行复杂问题解答和代码bug查找。ChatGPT的独特训练过程包括监督微调、奖励模型和近端策略优化,显著提升其回答质量。然而,其强大的语言能力引发了学术伦理问题,如是否能列为论文作者,不同期刊对此持有不同态度。ChatGPT已广泛应用在学界和商业领域,引发关于其是否会取代人力的讨论。主要杂志《科学》和《自然》都明确禁止AI作论文作者,强调了原创性和责任归属的重要性。
🔥人工智能生成内容,谁来为此‘负责’?
期刊论文

🔥人工智能生成内容,谁来为此‘负责’?

该文探讨了人工智能生成内容的责任归属问题,指出由于AI无法负责论文中的错误或造假,学术界对此持谨慎态度,并以ChatGPT被部分学术机构抵制为例,强调了这一现象背后的忧虑。作者为李永博,编辑和校对人为挪冬和柳宝庆。