ChatGPT时代：人工智能助力还是挑战？

文章主题：人工智能, ChatGPT, 阿尔法围棋, 论文

编者按：本文作者系无锡市大数据管理局局长胡逸，文章首发于澎湃新闻，创业邦经作者授权转载。

自阿尔法围棋 (AlphaGo) 之后,ChatGPT 已成为人工智能平民化的另一个重要里程碑。人们各个领域都充满兴趣地探寻 ChatGPT 的各种问题,甚至有人将其比作寺庙里解签的半仙。

最近，有朋友问我：“硕博研究生的论文通过ChatGPT写出来，能不能解决查重问题？”

他还追问：“如果AI想解决并逃避查重问题，应该也不难吧？假设AI刻意向这个方向去发展的话。”

在阅读过程中，我们常常会遇到一些令人困惑的问题。这些问题可能源于我们对某个主题的认知，也可能源于我们在阅读过程中所注意到的某些细节。对于这些问题，我相信许多读者都会产生类似的感触。正如古人所说：“魔高一尺，道高一丈；一物降一物。”这句话形象地描绘了科技的进步过程。科技的发展，就像是一步步解决难题的过程，每解决一个问题，就会带来新的挑战和问题。因此，我们需要不断学习和探索，以适应这个日新月异的世界。

当ChatGPT在美国刚开始流行的时候，很多大学生都用它来写论文。

《纽约时报》曾报道一位名叫安东尼·奥曼的哲学教授，来自美国北密歇根大学（Northern Michigan University）。他在审阅一门名为《世界宗教》的课程论文时，发现了一段引人深思的文字。该段文字简明扼要，举例得当，论证严密，深入探讨了罩袍禁令所涉及的道德问题。这篇论文堪称佳作，展现了作者卓越的文字功底和深厚的人文素养。

然而，奥曼对于这一情况产生了深深的疑虑。在经过多次追问后，该学生终于承认文章是由ChatGPT生成的。这一事件让奥曼教授深感震惊，他意识到自己在论文写作方面的要求需要进行重大调整。为了确保学生能够充分理解和掌握论文写作的技巧，他开始要求学生在教室里独立完成论文的第一稿，严禁依赖电脑工具。这样一来，学生可以更好地锻炼自己的思考能力和独立解决问题的能力，从而提高他们的学术水平。

在2023年的1月份，《护理教育实践》（Nurse Education in Practice）杂志上发表了一篇名为《Open Artificial Intelligence Platforms in Nursing Education: Tools for Academic Progress or Abuse?”的社论，该文深入探讨了开放人工智能平台在护理教育领域的应用及其可能带来的影响。值得注意的是，ChatGPT作为论文的第二作者参与了这篇文章的撰写。值得一提的是，西沃恩·奥康纳（Siobhan O’Connor）作为文章的第一作者，她在文中明确承认了ChatGPT撰写了文章的前五个段落，因此ChatGPT被列为第二作者。据Nature杂志不完全统计，至少有四篇论文使用了ChatGPT并将其列为作者。

为了应对ChatGPT在论文写作中的参与，以及将其列为作者等有关问题，Nature这一权威学术出版社近期采取了两项限制性规定来确保学术诚信和质量。

1.任何类似ChatGPT的大型语言模型工具都不能成为论文作者；

2.如在论文创作中使用过相关工具，作者应在“方法”或“致谢”部分明确说明。

2023年1月27日，路透社消息称:法国巴黎政治学院宣布该校将禁止使用ChatGPT，学生不得使用ChatGPT完成作业，否则可能被学校，甚至被整个法国高等教育体系开除。巴黎政治学院因此成为欧洲首个对ChatGPT实施“封杀”的学校。

学院在正式通知中声称：“ChatGPT正在向全世界的教育工作者和研究人员提出一个涉及欺诈和剽窃的严肃问题，在没有透明参考的情况下，除特定课程目的外，学生不得使用该软件制作任何书面作品或演示文稿。”

其实，巴黎政治学院并不是第一所宣布禁用ChatGPT的学校。1月3日，纽约市教育部门就正式颁布ChatGPT禁令，不管是老师还是学生，都禁止在纽约市公立学校的网络和设备上使用ChatGPT。

纽约市教育局发言人Jenna Lyle宣布：“ChatGPT可以提供快速和简单的问题答案，但它不能培养学生批判性思维和解决问题的能力，而这些能力对于学术和终身成功来说至关重要。”

其他大学也在陆续跟进，华盛顿大学（University of Washington）正在修改学术诚信政策，以便将AIGC（生成式人工智能）纳入抄袭的分类。他们认为,“ChatGPT有可能促进学习，也有可能欺骗学生。”

为此，普林斯顿大学大四学生爱德华・田 (Edward Tian)还开发出了针对 ChatGPT生成内容的检测工具——“GPT归零”（GPTZero）。当用户将文字内容复制粘贴在输入框，就能在几秒钟之内得到分析结果，来判断这篇文章是ChatGPT还是人工撰写的。

然而，也不是所有的学校和老师都把ChatGPT视作洪水猛兽。在宾夕法尼亚州大学（University of Pennsylvania）沃顿商学院（Wharton School），有一位开设《创业与创新》（Entrepreneurship and Innovation）课程的管理学系副教授莫力克（Ethan Mollick）。他不但没有在他的课堂上禁止使用ChatGPT，反而强制他的学生们必须使用。他在授课提纲里解释：使用AIGC已经成为一种新兴技能，他希望自己的学生能够利用这一“写作力量倍增器”把文章“写得更多”和“写得更好”。不过他也提醒学生，类似ChatGPT的服务可能会出错，学生必须学会交叉比对其他来源的信息，确认最终结果。另外，学生还要清楚地标明哪些地方由ChatGPT协助完成，这样才符合学术伦理。

和莫力克有同样想法的，还有来自俄勒冈州桑迪（Sandy）市的一位高中英语老师切丽·希尔兹（Cherie Shields），她在《教育周刊》（Education Week）上写了一篇专栏文章《不要禁用ChatGPT，要把它当作教学工具》（Don’t Ban ChatGPT. Use It as a Teaching Tool）。她认为教师们应当欢迎人工智能技术，并借用ChatGPT惊人的能力来提高学生的写作水平。正如当年教师们教学生如何进行正确使用谷歌搜索一样，现在则应该设计清晰的课程，教学生如何使用ChatGPT机器人协助写作。在她看来：“承认人工智能的存在，帮助学生与之合作，可能会彻底改变我们的教学方式。”

我部分赞同切丽的观点。的确，ChatGPT在寻找答案、解决问题的效率上已经逐渐超越了现有的搜索引擎，未来，ChatGPT或许会改变我们获取信息、输出内容的方式。2月8日，微软就发布了融合了ChatGPT-3.5的新版本必应（Bing）搜索引擎。搜索框变大了，可以输入1-1000个字符，让你可以更精确地搜索。同时在“全部”结果一栏的旁边也不再是图片、新闻等项目，而是“Chat”的选项，就是ChatGPT这样的预训练模型对这个问题的解释。

那么，我想问问正在看这篇文章的读者朋友一个问题：ChatGPT对于教育领域来说，到底是应该被封禁的作弊工具，还是应当被鼓励的学习工具呢？

既然这事情涉及ChatGPT，我们不妨先来听听ChatGPT自己对这个问题的回答吧。一如既往，ChatGPT的答案总是那么面面俱到式的圆滑，看似回答了你的问题，但实际上并没有给你确凿结论，而是给出了一个开放式的答案。

ChatGPT在教育领域的角色可以从多种角度来评价。从一个角度来看，ChatGPT是一个先进的学习工具，能够协助学生们了解和写作相关的知识，提高学生的写作水平。但从另一个角度看，ChatGPT也有可能成为一种作弊工具，对学生的学习原则和诚信造成影响。因此，对ChatGPT在教育领域的使用，需要通过全面的评估和分析来决定其是否应该被鼓励或封禁。

（注释：斜体字部分由ChatGPT Jan 30 Version生成）

我也把这个问题抛给了身边对ChatGPT感兴趣的朋友，他们也给出了不同的答案：

1.听说美国学生有很高的比例在用ChatGPT完成作业了。我们之前老是嘲笑美国学生不会数学计算，只会用计算器。现在看来，运用效率工具，站在前人的肩膀上完成任务，可以避免重复劳动。有了ChatGPT，相当于每个美国学生都有了一位知识专家在辅导他的学业，现在也许还看不出来，未来5-10年将体现巨大差距。想想都可怕，别再过几年，又想起来说帝国主义“船坚炮利”。

2.ChatGPT最大的缺陷也许是没有缺陷。他给出的所有观点都不偏不倚、客观中立，很难形成自己的个性。越用越感觉平平无奇，如果把它当作学习工具，不会产生创新的观点，还会把自己的思路束缚住。

3.这个ChatGPT写不了纯文科作业，给出来的答案都是大量套路化生成的，而且不一定正确。要准确使用它的前提是你对问题已经有足够的知识储备，否则根本不知道它是言之有理还是在胡说八道。但是，ChatGPT能做理科作业，而且，理科作业都有唯一的标准答案，代做作业老师根本无法发现。所以，ChatGPT应该被视为作弊工具。

4.这几天玩下来最大的感受，ChatGPT最强大的并非无所不知，而在于精密的结构化思维，可以完爆大多数人类。稀缺的结构化思维，似乎从来不是学校教育的重要内容，如果想学习结构化思维方式，可以向ChatGPT学。

在我回答这个问题之前，我想和大家分享一个小故事。每次我在课堂上讲授《人工智能》这个专题时，我都会问台下的听众这样三个问题。

问题1：你是否接受你本人或者你的孩子成为赛博格（Cyborg），就是接受人体改造，比如给你的大脑内植入芯片，或者把你的身体换成像钢铁侠一样的身体。几乎所有的听众都不会举手赞成，甚至有激进的听众会说，我宁死也不接受大脑植入芯片。

问题2：如果现在市场上有这么一款微芯片，可以确保植入安全，植入后也无人知晓。它的功能类似聪明药，一旦植入，你的孩子就不再需要背唐诗三百首，不需要背化学元素周期表，也不需要背英文单词，那些需要死记硬背的内容统统包含在这款芯片内。那么，你是否愿意为你的孩子购买这款芯片？这时候，会有少部分听众举手，表示愿意尝试。

问题3：我会继续追问，如果有一天，这款微芯片技术非常成熟，而且教育部门也推荐使用，并且像孩子接种疫苗一样，由国家免费提供。不过，作为家长，你仍有权利可以拒绝“接种”，你所要承担的后果就是别的孩子都不需要背诵，而且可以在学习过程中信手拈来，而你的孩子却要花费大量时间去背诵，且不一定会全部背熟。听到这里的时候，大部分听众都会举手赞成。

从第一个问题的无人接受，到第三个问题的大部分人赞成，其实就是我们即将面临的未来。人工智能不会取代你，但使用人工智能的人会取代你。（AI will not replace you. A person who’s using AI will replace you.）

在我看来，我们将很快生活在一个与人工智能同存的世界，与其禁用ChatGPT，还不如发挥主观能动性和创造力，利用好这一新工具来提高学习效率和质量。毕竟，你是学习的主角，你有权利选择一切有用的学习工具。而且，更深层次的问题是：我们的教育难道就等同于背古诗、背英文单词吗？谚云：熟读唐诗三百首，不会作诗也会吟。如果人工智能负责熟读，学生负责吟诗，会不会更好呢？

在2021年的春节，我写过一篇文章《》（2021-02-20，澎湃商学院），里面有这么一句话：“如果说，人机共存将不可避免，我们将要学习善用机器，彼此关爱，共享未来”。现在看来，这句话同样适用于我们和ChatGPT的关系。

OpenAI联合创始人埃隆·马斯克（Elon Musk）在谈到为什么要创办OpenAI的初衷时，说过这么一段话：“我们要怎样做才能保证人工智能带给我们的未来是友好的？在尝试开发友好的人工智能技术的过程中会一直存在一种风险，那就是我们可能会创造出让我们担忧的事物来。不过，最好的壁垒可能是让更多的人尽可能多的接触并且拥有人工智能技术。如果每个人都能利用人工智能技术，那么就不会存在某一小部分人由于独自拥有过于强大的人工智能技术而导致危险后果的可能性。”

的确，如果我们有机会可以穿越回古代的数学课堂，碰巧我们身上有一支圆规，那么，我们会比任何一个古人画圆都画得好，那些古人一定会指责我们作弊。现在，直尺、圆规、计算器都被认定是学习工具，而非作弊工具。