ChatGPT背后的AI背景、技术门道和商业应用(万字长文,建议收藏)
本科论文

ChatGPT背后的AI背景、技术门道和商业应用(万字长文,建议收藏)

作者:京东科技 李俊兵 各位看官好,我是球神(江湖代号)。 自去年11月30日ChatGPT问世以来,迅速爆火出圈。 起初我依然以为这是和当年Transformer, Bert一样的“热点”模型,但是当一篇篇文章/报告不断推送到我的眼前,我后知后觉地发现这次真的不一样。 很直接的一点是,ChatGPT已经影响到非AI、非互联网、非计算机的每一个人了。 你会看到,众多科技界大佬,马斯克、纳德拉、李开复、李彦宏、周鸿祎等,都在发声称 ChatGPT 将改变世界; 太多的互联网公司,如微软、谷歌、百度、阿里、腾讯等正在抢占商业先机; 还有更多的学术机构、高校也开始讨论 ChatGPT 生成论文是否符合学术规范; 突然之间各行各业从业者开始担忧被 ChatGPT 替代…… 「初看以为是热点,再看已成经典…」 于是我决定好好研究它一番,并力争把它写得全面而通俗易懂一点,最终就有了这篇万字长文报告,建议收藏、慢慢阅读。 文章主题关于:「ChatGPT背后的AI背景、技术门道和商业应用。」 以下是目录和正文内容: 引言 我和聊天机器人的小故事 一、 AI背景 1.1 ChatGPT的出圈和能力圈 1.2 人工智能发展简史 1.3 ChatGPT背后的NLP和Transformer 二、技术门道 2.1 GPT-1到ChatGPT的演进和技术原理 2.2 ChatGPT的局限性 2.3 ChatGPT的优化和探索方向 三、商业应用 3.1 国内外资本投入层层加码 3.2 ChatGPT商业化序幕已经拉开 3.3 ChatGPT助力AIGC浪潮再起 后记...
论文已死?两组有关ChatGPT的争论
本科论文

论文已死?两组有关ChatGPT的争论

【导读】近期最火热的话题之一,莫过于人工智能ChatGPT。自2022年底发布以来,ChatGPT在短短2个月内就获取1亿用户。在巨大的技术和商业影响外,ChatGPT这个“可智能生成文本的聊天机器人”,还在教育领域掀起轩然大波:大量英语国家的学生开始使用该软件或类似应用来完成作业、论文甚至考试,这些软件生成的某些“成果”还被老师打上高分。由此引发的争议,不仅让欧美社会惊诧,也影响到了我们国内。中国人曾说“文以载道”,当智能软件能够自主创作内容时,“道”又如何体现?当ChatGPT介入教育领域,教育的手段、目的以及评价标准又如何调整?面对这种智能,人文社会科学如何体现价值?带着这些问题,本文选取近期国际上关于ChatGPT的两组争论,希望呈现更多的理解角度: 第一组争论关注“英语教育”。在拥有12年教龄的旧金山高中英语教师赫尔曼看来,ChatGPT能瞬间完成主要文本类型的写作,这颠覆了英语教学的基本功能,英语教育的地位也岌岌可危。美国企业研究所的高级研究员罗伯特·庞迪西奥却认为,赫尔曼的观点只代表了部分知识精英,而知识精英推崇的各种思维训练,都必须建立在相当的知识储备上。由于多数学生的知识和语言能力尚未达到基础水平,写作训练依然必不可少。庞迪西奥还讽刺了当前对ChatGPT的过度推崇:“与其说创造内容,不如说ChatGPT更擅长通过编造和修辞,来弥补谈话的空白;这个软件在模仿人类胡说八道方面,能力着实出色。” 第二组争论关注“技术与人文之辩”。加拿大作家斯蒂芬·马奇认为,相比科技的突飞猛进,人文学者长期醉心于宏大叙事的建构与批判,反而忽视语言、历史、伦理、政治等方面的现实问题。而ChatGPT等新技术越来越擅长完成论文等“文科工作”,人文和技术的差距将继续拉大。然而,福布斯专栏作家里姆认为,不能过分夸大ChatGPT对论文乃至人文教育的影响——就论文写作而言,最重要的是学生不断思考和尝试创作的过程。此外,技术并非一种实在,重要的还是背后的价值观念。因此人文学者应学会驾驭新技术,并教会学生熟练运用这些工具。 本文为文化纵横新媒体原创编译“技术革命的冲击与重构”系列之一,编译自《大西洋学刊》、《福布斯》和美国企业研究所的相关网站。本文关注的主要案例是英语国家的教育问题,但背后关于教育的价值、技术与人文的相关辩论,依然有一定借鉴意义。当然,由于西方立场、议题设置等原因,本文也可能仅仅反映局部信息,仅代表作者观点,供读者参考辨析。 高中英语的终结 ✪ 丹尼尔·赫尔曼 (Daniel Herman) 加州大学伯克利分校梅贝克高中 从我12年的英语教育经历看来,ChatGPT所生成的内容令人震惊。 青少年总是能找到方法来对付学习过程的艰苦。CliffsNotes从上世纪50年代就开始出版(译者注:美国学生常用的一系列学习指南,以小册子形式或在线形式介绍和解释文学作品。其批评者声称,学生会用CliffsNotes阅读来顶替课堂制定的阅读文献),No Fear Shakespeare用现代英语重写了一遍莎士比亚,YouTube上也有海量由业余爱好者和专业人士提供的文学分析和历史阐释。虽然存在这些学习上的“捷径”,但教育中有一个重要部分仍然是无法避免的:写作。除了抄袭以外,学生们总会面临需要独立完成文章的时刻。 (本文发表截图) 现在,这可能都将改变。ChatGPT可以根据任何提示生成复杂的文本,而它的到来可能标志着写作的结束。甚至,这可能标志着写作作为一种衡量智力的标准、一种技能的结束。 我在旧金山湾区的一所小型高中教授各种人文课程。我的班级往往有大约15名学生,他们的年龄从16岁到18岁不等。对于这些学生,我总是说:你可能对诗歌或公民教育不感兴趣,但无论你最终做什么,基本的写作能力绝对是必要的技能。我也长期认为,对于那些对写作感兴趣的人来说,你需要学习的写作基本规则,然后才能开始打破它们。 如今,我开始怀疑两件事:青少年是否真的需要发展这种写作技能?逻辑上,基础知识是否真的是进行实验的必要条件? 因此,我想直言不讳地向所有的现任和往届的学生道歉:ChatGPT现在所能产生的内容,比普通教师所看到的绝大多数学生作业都要好。例如,ChatGPT能够针对斯坦福大学的本科录取要求,为我写一篇俏皮、精致、情感丰富的600字申请文书,讲述我在当地动物保护协会做志愿者的经历。以下是其创作内容的摘录: 除了打扫卫生,我还经常与动物们互动。当看到一些被忽视或被虐待动物的境况有所改变时,我感到非常惊讶。在机构的耐心照料下,这些动物逐渐变成了俏皮可爱的人类伙伴,渴望着给予和接受爱。此外,我也亲眼见证了爱心家庭来领养宠物的过程。当我看到一些动物离开收容所时,内心是苦乐参半的;然而,我也知道它们将被送到一个充满爱的家庭,这对那些动物来说,是最好的事情。 此外,它还针对星巴克的一个经理岗位写了封令人信服的400字求职信。但最令人瞠目结舌的是,它完成了一份我此前认为“无法作弊”的作业。1月份的时候,我要求初三学生独立完成一篇12至18页的研究论文。他们的目标是选择两份经典文本,将其串联成彼此间的对话。我的学生一般会花上两个月的时间。我给ChatGPT提供了今年学生们参考的几对文本:托妮·莫里森(Toni Morrison)的《宠儿》和《哈姆雷特》,荷马的《奥德赛》和但丁的《地狱》等。ChatGPT瞬间、毫不费力地将其中复杂甚至互相冲突元素结合在了一起:记忆、内疚、复仇、正义、个人与集体、选择的自由、社会压迫。这项技术并没有超越文本表面的意思,也没有成功地将全部原文应用起来,但其提出的观点,却依然有十足的针对性,足以帮助任何学生不费吹灰之力地完成作业。 它还能做得更多。我把一份学生作业上传了ChatGPT,并要求其进行修改润色。事实证明,它能用更优雅的文笔将学生作业呈现了出来:理顺了杂乱无章的语句,将观点凸显出来。 我已经在研究生院、大学、高中和初中教书12年。根据我的经验,美国高中生大致可以分为三类:入门组,正在学习掌握语法、标点和基本的阅读能力;中等组的大多人已掌握这些内容,正在学习论证和进行段落写作;熟练组,则已在研究语气、节奏、多样性、流畅性等技巧。尽管老师们非常努力,很多学生还是只能处在入门阶段,而大多数学生则只能勉强达到中等组。 英语教师工作的大部分时间就是和这些学生打交道。相关需求还催生了一个庞大的培训产业,很多私人写作辅导员的收费超过每小时100美元。也许在ChatGPT的帮助下,所有学生都能更快进入“熟练组”。但大多数学生其实打心底认为,写作并不是一项值得培养的技能,他们对探索语气和节奏的细微差别没有兴趣。 我想,“把写作当作能力和智慧的判断标准”的时代已经结束。在我看来,一些老师用手写作业、课堂完成等方式,来应对ChatGPT的冲击,这些“回归传统”的方式,其实是短视的。问题已不再是“我们如何避免用ChatGPT作弊”,而是“我们还有必要写作吗”?当计算机能把这些结果清晰呈现时,我们还剩下什么? 为此,我再次向ChatGPT提问:“用一个有趣的、具体的例子来解释如下佛教观点——所有现象都缺乏内在的存在”。(译者注:上述理念可能来自大乘佛教中观学派的思想。中观,是指古印度龙树菩萨依据《般若经》“缘起性空”的观念而造《中论》,其提倡的一种脱离执着、不偏不倚的理论和观察方法。一种解读认为,我们所经验到的,只不过是因、缘的合体。如果能够以“中观”这种既不把万物执为实有、也不执为虚无的态度去认识事物,便是掌握了不偏不倚的中道思想,可以从而获得真实智慧,达至解脱的境界。) ChatGPT一如既往地做到了瞬时回复: 这个佛教理念可以用一个有趣的例子说明:假设你有一只宠物仓鼠。你可能认为你的仓鼠有它自己固有的存在,但实际上,你的仓鼠是由许多不同的元素组成的,比如它的皮毛、骨骼、肌肉和大脑。这些元素都不是独立或固有地存在的,所以你的仓鼠本身也没有任何固有的存在。所有的现象也是如此——所有的事物都是由各种不具内在存在的成分所组成,所以也没有什么事物具有任何内在的存在。或许一切都是编造的,没有内在实在。论文写作,以及组成论文的元素,或许也都是编造的。如果真是如此,那OpenAI(译者注:ChatGPT的开发公司)正在迫使我们重新审视一些基础性的问题,到底什么东西值得保留。 本文编译自《大西洋月刊》(The Atlantic) 12月9日评论文章 原题为《The End of High-School English》 欢迎个人分享,媒体转载请联系本公众号 人工智能并不是高中英语的终结者 ✪ 罗伯特·庞迪西奥 (Robert Pondiscio) 美国企业研究所 想必你最近已经在社交媒体上看到无数由ChatGPT 生成的虚构故事和散文。虽然有人对此感到振奋,但作家和教师中却充斥着生存危机。教师丹尼尔·赫尔曼(Daniel...
ChatGPT可以是“作者”?《科学》等学术期刊发投稿禁令新京报2023-02-07 21:13
期刊论文

ChatGPT可以是“作者”?《科学》等学术期刊发投稿禁令新京报2023-02-07 21:13

图片来源:《自然》杂志网站。 ChatGPT 是一种大型语言模型 (LLM),由知名的人工智能研究实验室OpenAI在2022年11月30日发布,它通过模仿从互联网整理的庞大文本数据库中的语言统计模式来生成令人信服的句子。 相比于传统的语言机器人,ChatGPT能够通过学习人类的语言来进行对话,理解聊天的上下文语境,并且使用更接近人类日常的语言做出回应。除了聊天机器人的功能,ChatGPT甚至能完成撰写邮件、视频脚本、翻译、代码,甚至写小说、做考试题和撰写学术论文。ChatGPT在开放后引发了人工智能圈的轰动,短短几天时间内就吸引了几百万人的注册,被不少人誉为“有史以来最智能的聊天机器人”。 另一方面,ChatGPT对教育界和学术界造成了重大的冲击。人工智能不仅能够通过大学和专业资格考试,还能撰写专业性极高的学术论文,这些由人工智能生成的论文甚至连专业研究者也无法轻易分辨出来。当期刊编辑、研究人员和出版商仍在争论ChatGPT在文献发表中的恰当位置时,ChatGPT已经在学术文献中正式亮相。据《自然》杂志网站报道,至少有4份已发表和预印本上的论文使用了ChatGPT作为论文的“合著者”。 科幻纪录片《我们需要谈谈》(AI We Need To Talk About A.I.,2020)画面。 目前,多家学术期刊发表声明,完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。《自然》日前发表文章,明确了学术论文中使用人工智能写作工具的规定,其中列出两项原则:第一、任何大型语言模型工具(比如ChatGPT)都不能成为论文作者;第二、如在论文创作中用过相关工具,作者应在“方法”或“致谢”或适当的部分明确说明。 《科学》杂志不接受使用ChatGPT生成的投稿论文,同时不允许ChatGPT作为论文合著者。《细胞》和《柳叶刀》则表示论文作者不能使用人工智能工具取代自己完成关键性任务,作者还必须在论文中详细解释他们是如何使用这些人工智能工具的。 学术工作者普遍认为,ChatGPT等人工智能工具很有趣,但它们距离真正的学术写作和科学研究还很远。《科学》杂志网站近日发表的社论文章称,正如工具开发者所述,“ChatGPT 有时会写出看似合理但不正确或荒谬的答案”。比如,引用一项不存在的科学研究导致最后的结论发生偏差,这对于追求准确性的科学研究来说是致命性的。此外,论文作者在发表作品时,都必须声明自己的作品是“原创”的,这就意味着使用ChatGPT编写和生成文本是完全不可接受的,这种行为其实剽窃了其他人的知识成果。 人工智能生成的内容还会引发一个更严重的问题:谁来对这些内容负责?通常而言,论文作者应对文章的观点和内容负责,但人工智能显然无法承担论文过程中出现谬误甚至造假承担责任。这也是目前大多数学术期刊和出版商“封杀”ChatGPT的主要理由之一。 也有一些观察人士指出,ChatGPT等人工智能工具的出现,一定程度上能够倒逼学术界和教育界对传统的运作模式进行变革。《自然》杂志网站先前发表的一篇文章提到,如果学生们开始使用ChatGPT,这不仅是“外包”了他们的论文写作,还会“外包”他们的思维。ChatGPT的出现可能会让教师减少让学生回答一些普通的问答题,更注重于培养学生的批判性思维。在论文写作上,学术工作者应该减少无意义的内容堆砌,生产真正有价值的学术研究成果。 参考资料: (1)ChatGPT is fun, but not an author https://www.science.org/doi/10.1126/science.adg7879 (2)ChatGPT listed as author on research papers: many scientists disapprove https://www.nature.com/articles/d41586-023-00107-z (3)Tools such as ChatGPT threaten transparent science;...
ChatGPT引领语言未来?揭秘技术如何赋能MTI教育【3月24日19:00】
研博论文

ChatGPT引领语言未来?揭秘技术如何赋能MTI教育【3月24日19:00】

本文是一场关于ChatGPT对语言服务行业影响的公益沙龙预告,将于2023年3月24日进行。活动将聚焦如何利用ChatGPT技术提升翻译效率,并提供译前准备、译后编辑和论文写作等方面的指导。参与者包括三位MTI领域的研究生,他们将在沙龙上分享经验和交流心得。欲获取更多信息,请关注VX公主号“语言服务行业”。
ChatGPT风波:监管与未来人工智力的较量
研博论文

ChatGPT风波:监管与未来人工智力的较量

这篇文章讲述了意大利因 privacy consideration 成为全球第一个禁用 ChatGPT 的国家。同时,特斯拉CEO马斯克 prediction 人形机器人 与人类的比例可能会超过一比一,且他的 AI 人形机器人 Optimus 已经进入实际应用阶段。然而,尽管 AI 驱动的自动化已成为现实,但文章指出,发达国家的劳动力市场依然很紧张,且弗雷和奥斯本关于 AI 扼杀就业的观点并未得到证实。