高中生

编辑：桃子 【新智元导读】被AI冤枉的你，还好吗？ 当你被AI无辜扣上「作弊」的帽子，作何感想？ 这件事恰恰发生在了一位高三学生Lucy Goetz身上。原本她写的一篇社会主义原创论文得了最高分。 但是，Turnitin公司的AI写作检测器竟说，Goetz论文结尾是用ChatGPT生成的。 Goetz震惊道，「我很高兴能和老师们保持良好的关系」。 简言之，还好老师了解我，不然跳进黄河都洗不清了。 而更令人惊讶的是，这个ChatGPT检测器现在已经被210万名教师使用。 AI无法打败AI Goetz的论文中被标记出的部分属于异常情况，但这表明检测器有时会出错。 显然，AI是无法打败AI的。这对许多学生来说可能产生灾难性的后果。 为了测试Turnitin的检测器，华盛顿时报的记者Geoffrey A. Fowler对Goetz在内的5名高中生进行了测试。 他们创作了16篇涵盖真实、AI生成，以及混合来源的论文样本。 结果如何呢？ Turnitin的检测器至少在一半以上的样本中出现错误，仅是准确识别出了其中6篇，但在3篇上的检测都失败了。其中就包括对Goetz原创论文中8%内容的标记错误。 对于剩下的7篇，Fowler称，「我只会给它部分分数，因为它的判断大致正确，但错误识别了一些ChatGPT生成或混合来源的写作部分。」 然而，Turnitin声称其检测器的整体准确率达到98%。该公司还表示，在其自身测试中，类似Goetz论文的情况（即假阳性）发生的概率不到1%。 Turnitin的AI检测器详细页面会分配一个总分，并突出显示疑似AI生成的句子。该公司表示，它故意用蓝色而非红色标记疑似AI生成的段落，并在得分下方链接教师资源。 加州康科德市Goetz的AP英语课老师Rebecca Dell表示，Turnitin标记AI文本的系统并不总是有效，这令人担忧。 与抄袭指控不同，AI作弊没有源文件作为证据，这最容易让老师对学生带有偏见。 或许并不是每个人都像Goetz那么幸运。 Goetz表示，「对于学生来说，被指控AI作弊尤其令人恐惧。除非你的老师了解你的写作风格，或者对你非常信任，否则没有办法证明你没有作弊」。 AI检测为何如此困难 自ChatGPT面世以来，已经被许多高校的学生和老师用在日常的作业和教学中。 然而，如果不加以限制，ChatGPT将会变成史上最强大的作弊工具，可以帮助学生们写作业，甚至是完成考试论文。 为了反侦察，一款简单易用的检测器成为老师期盼的东西。一位22岁普林斯顿大学的学生Edward Tian，就自行开发了一款检测器——GPTZero。 甚至，OpenAI官宣推出一个新工具，名为AI Text Classifier的文件检测器。 但是，这些检测器的表现并不如人意。 检测出AI创作的内容听起来很简单。但当给你一封手写邮件和ChatGPT生成的邮件后，我们几乎无法辨别。 Turnitin的人工智能副总裁Eric Wang称，用软件检测人工智能写作涉及统计学。从统计学的角度来看，人工智能与人类的区别在于它极其稳定地处于平均水平。 直白点讲，AI水平很稳定。然而，实际上并非这样一个道理。 「像ChatGPT这样的系统就像是自动补全的高级版本，寻找下一个最可能要写的单词。这实际上就是它为什么读起来如此自然的原因。AI写作是人类写作中最可能的子集。」 Turnitin的检测器便会「识别出书写过于一致的平均情况」。挑战就在于，有时候有时人类的写作可能确实看起来处于平均水平。 在经济学、数学和实验室报告中，学生倾向于遵循固定的写作风格，这意味着他们更有可能被误认为是AI写作。 这可能就是为什么Turnitin错误地标记了Goetz的论文，因为它的内容涉及到经济学。 Wang表示，Turnitin努力调整其系统，在标记某个句子为AI生成之前需要更高的置信度，以便在这方面犯错。 并称，自己家的软件已经有了很大的进展。「我首次在1月下旬测试Goetz的论文时，该软件识别出其中大约50%是AI生成的。Turnitin在3月下旬再次通过其系统运行我的样本，那时只标记了Goetz论文中的8%为AI生成的。」 Turnitin的检测器也面临其他重要的技术限制。...

【导读】近期最火热的话题之一，莫过于人工智能ChatGPT。自2022年底发布以来，ChatGPT在短短2个月内就获取1亿用户。在巨大的技术和商业影响外，ChatGPT这个“可智能生成文本的聊天机器人”，还在教育领域掀起轩然大波：大量英语国家的学生开始使用该软件或类似应用来完成作业、论文甚至考试，这些软件生成的某些“成果”还被老师打上高分。由此引发的争议，不仅让欧美社会惊诧，也影响到了我们国内。中国人曾说“文以载道”，当智能软件能够自主创作内容时，“道”又如何体现？当ChatGPT介入教育领域，教育的手段、目的以及评价标准又如何调整？面对这种智能，人文社会科学如何体现价值？带着这些问题，本文选取近期国际上关于ChatGPT的两组争论，希望呈现更多的理解角度： 第一组争论关注“英语教育”。在拥有12年教龄的旧金山高中英语教师赫尔曼看来，ChatGPT能瞬间完成主要文本类型的写作，这颠覆了英语教学的基本功能，英语教育的地位也岌岌可危。美国企业研究所的高级研究员罗伯特·庞迪西奥却认为，赫尔曼的观点只代表了部分知识精英，而知识精英推崇的各种思维训练，都必须建立在相当的知识储备上。由于多数学生的知识和语言能力尚未达到基础水平，写作训练依然必不可少。庞迪西奥还讽刺了当前对ChatGPT的过度推崇：“与其说创造内容，不如说ChatGPT更擅长通过编造和修辞，来弥补谈话的空白；这个软件在模仿人类胡说八道方面，能力着实出色。” 第二组争论关注“技术与人文之辩”。加拿大作家斯蒂芬·马奇认为，相比科技的突飞猛进，人文学者长期醉心于宏大叙事的建构与批判，反而忽视语言、历史、伦理、政治等方面的现实问题。而ChatGPT等新技术越来越擅长完成论文等“文科工作”，人文和技术的差距将继续拉大。然而，福布斯专栏作家里姆认为，不能过分夸大ChatGPT对论文乃至人文教育的影响——就论文写作而言，最重要的是学生不断思考和尝试创作的过程。此外，技术并非一种实在，重要的还是背后的价值观念。因此人文学者应学会驾驭新技术，并教会学生熟练运用这些工具。 本文为文化纵横新媒体原创编译“技术革命的冲击与重构”系列之一，编译自《大西洋学刊》、《福布斯》和美国企业研究所的相关网站。本文关注的主要案例是英语国家的教育问题，但背后关于教育的价值、技术与人文的相关辩论，依然有一定借鉴意义。当然，由于西方立场、议题设置等原因，本文也可能仅仅反映局部信息，仅代表作者观点，供读者参考辨析。 高中英语的终结 ✪ 丹尼尔·赫尔曼 (Daniel Herman) 加州大学伯克利分校梅贝克高中 从我12年的英语教育经历看来，ChatGPT所生成的内容令人震惊。 青少年总是能找到方法来对付学习过程的艰苦。CliffsNotes从上世纪50年代就开始出版（译者注：美国学生常用的一系列学习指南，以小册子形式或在线形式介绍和解释文学作品。其批评者声称，学生会用CliffsNotes阅读来顶替课堂制定的阅读文献），No Fear Shakespeare用现代英语重写了一遍莎士比亚，YouTube上也有海量由业余爱好者和专业人士提供的文学分析和历史阐释。虽然存在这些学习上的“捷径”，但教育中有一个重要部分仍然是无法避免的：写作。除了抄袭以外，学生们总会面临需要独立完成文章的时刻。 （本文发表截图） 现在，这可能都将改变。ChatGPT可以根据任何提示生成复杂的文本，而它的到来可能标志着写作的结束。甚至，这可能标志着写作作为一种衡量智力的标准、一种技能的结束。 我在旧金山湾区的一所小型高中教授各种人文课程。我的班级往往有大约15名学生，他们的年龄从16岁到18岁不等。对于这些学生，我总是说：你可能对诗歌或公民教育不感兴趣，但无论你最终做什么，基本的写作能力绝对是必要的技能。我也长期认为，对于那些对写作感兴趣的人来说，你需要学习的写作基本规则，然后才能开始打破它们。 如今，我开始怀疑两件事：青少年是否真的需要发展这种写作技能？逻辑上，基础知识是否真的是进行实验的必要条件？ 因此，我想直言不讳地向所有的现任和往届的学生道歉：ChatGPT现在所能产生的内容，比普通教师所看到的绝大多数学生作业都要好。例如，ChatGPT能够针对斯坦福大学的本科录取要求，为我写一篇俏皮、精致、情感丰富的600字申请文书，讲述我在当地动物保护协会做志愿者的经历。以下是其创作内容的摘录： 除了打扫卫生，我还经常与动物们互动。当看到一些被忽视或被虐待动物的境况有所改变时，我感到非常惊讶。在机构的耐心照料下，这些动物逐渐变成了俏皮可爱的人类伙伴，渴望着给予和接受爱。此外，我也亲眼见证了爱心家庭来领养宠物的过程。当我看到一些动物离开收容所时，内心是苦乐参半的；然而，我也知道它们将被送到一个充满爱的家庭，这对那些动物来说，是最好的事情。 此外，它还针对星巴克的一个经理岗位写了封令人信服的400字求职信。但最令人瞠目结舌的是，它完成了一份我此前认为“无法作弊”的作业。1月份的时候，我要求初三学生独立完成一篇12至18页的研究论文。他们的目标是选择两份经典文本，将其串联成彼此间的对话。我的学生一般会花上两个月的时间。我给ChatGPT提供了今年学生们参考的几对文本：托妮·莫里森（Toni Morrison）的《宠儿》和《哈姆雷特》，荷马的《奥德赛》和但丁的《地狱》等。ChatGPT瞬间、毫不费力地将其中复杂甚至互相冲突元素结合在了一起：记忆、内疚、复仇、正义、个人与集体、选择的自由、社会压迫。这项技术并没有超越文本表面的意思，也没有成功地将全部原文应用起来，但其提出的观点，却依然有十足的针对性，足以帮助任何学生不费吹灰之力地完成作业。 它还能做得更多。我把一份学生作业上传了ChatGPT，并要求其进行修改润色。事实证明，它能用更优雅的文笔将学生作业呈现了出来：理顺了杂乱无章的语句，将观点凸显出来。 我已经在研究生院、大学、高中和初中教书12年。根据我的经验，美国高中生大致可以分为三类：入门组，正在学习掌握语法、标点和基本的阅读能力；中等组的大多人已掌握这些内容，正在学习论证和进行段落写作；熟练组，则已在研究语气、节奏、多样性、流畅性等技巧。尽管老师们非常努力，很多学生还是只能处在入门阶段，而大多数学生则只能勉强达到中等组。 英语教师工作的大部分时间就是和这些学生打交道。相关需求还催生了一个庞大的培训产业，很多私人写作辅导员的收费超过每小时100美元。也许在ChatGPT的帮助下，所有学生都能更快进入“熟练组”。但大多数学生其实打心底认为，写作并不是一项值得培养的技能，他们对探索语气和节奏的细微差别没有兴趣。 我想，“把写作当作能力和智慧的判断标准”的时代已经结束。在我看来，一些老师用手写作业、课堂完成等方式，来应对ChatGPT的冲击，这些“回归传统”的方式，其实是短视的。问题已不再是“我们如何避免用ChatGPT作弊”，而是“我们还有必要写作吗”？当计算机能把这些结果清晰呈现时，我们还剩下什么？ 为此，我再次向ChatGPT提问：“用一个有趣的、具体的例子来解释如下佛教观点——所有现象都缺乏内在的存在”。（译者注：上述理念可能来自大乘佛教中观学派的思想。中观，是指古印度龙树菩萨依据《般若经》“缘起性空”的观念而造《中论》，其提倡的一种脱离执着、不偏不倚的理论和观察方法。一种解读认为，我们所经验到的，只不过是因、缘的合体。如果能够以“中观”这种既不把万物执为实有、也不执为虚无的态度去认识事物，便是掌握了不偏不倚的中道思想，可以从而获得真实智慧，达至解脱的境界。） ChatGPT一如既往地做到了瞬时回复： 这个佛教理念可以用一个有趣的例子说明：假设你有一只宠物仓鼠。你可能认为你的仓鼠有它自己固有的存在，但实际上，你的仓鼠是由许多不同的元素组成的，比如它的皮毛、骨骼、肌肉和大脑。这些元素都不是独立或固有地存在的，所以你的仓鼠本身也没有任何固有的存在。所有的现象也是如此——所有的事物都是由各种不具内在存在的成分所组成，所以也没有什么事物具有任何内在的存在。或许一切都是编造的，没有内在实在。论文写作，以及组成论文的元素，或许也都是编造的。如果真是如此，那OpenAI（译者注：ChatGPT的开发公司）正在迫使我们重新审视一些基础性的问题，到底什么东西值得保留。 本文编译自《大西洋月刊》(The Atlantic) 12月9日评论文章 原题为《The End of High-School English》 欢迎个人分享，媒体转载请联系本公众号 人工智能并不是高中英语的终结者 ✪ 罗伯特·庞迪西奥 (Robert Pondiscio) 美国企业研究所 想必你最近已经在社交媒体上看到无数由ChatGPT 生成的虚构故事和散文。虽然有人对此感到振奋，但作家和教师中却充斥着生存危机。教师丹尼尔·赫尔曼（Daniel...