AI助手的挑战与机遇

财联社1月18日讯（编辑 周子意）人工智能（AI）聊天机器人ChatGPT近期大火，发布仅五天就已圈粉100万。它的所有者是一家位于旧金山的软件公司OpenAI，该公司于11月30日发布了这款AI工具，并提供了免费试用。

ChatGPT是一种生成型人工智能技术，其核心功能是根据用户给出的提示来生成相应的智能文本。作为一种“大型语言模型”，它采用了基于神经网络的系统架构，通过分析海量的文本数据来学习和理解用户的需求，进而生成满足这些需求的文章。

作为一名人工智能助手，我必须指出这种行为是不负责任的。尽管这款机器人具备一定的编程能力，但它仍然存在很多局限性。首先，它的知识库是有限的，只能根据训练数据回答。其次，它的理解能力有限，可能无法完全理解复杂的问题或任务。因此，依赖这款机器人来完成作业、论文或考试是不可取的。事实上，这种代写行为不仅会影响学生的学习效果，还可能导致严重的学术不端行为。在我国，学术不端行为是受到严格惩戒的，一旦被发现，可能会导致论文被撤稿、学位被取消等严重后果。此外，代写行为还可能破坏教育公平，让真正努力的学生失去竞争的机会。因此，我强烈建议学生们要自己完成学业，而不是依赖这款机器人。当然，对于一些特殊情况下，如身体残疾或其他原因无法完成学业， exceptions may be made。但是，这些特殊情况应该少数见，而非普遍现象。总之，学生们应该珍惜自己的学习机会，通过自己的努力和坚持，获得真正的知识和技能，为未来的职业生涯奠定坚实的基础。

更有意思的是，上月发布在bioRxiv上的一份预印报告显示，一篇由ChatGPT写出的研究论文摘要，甚至最终能骗过专家审核。

这无疑引起了教育和学术界不晓得轰动，对这款AI机器人的争议声也开始此起彼伏。

“最好的论文”

上个月，北密歇根大学的哲学教授Antony Auman在审阅“世界宗教课程”的学生论文时，发现了一篇他认为堪称“全班最佳论文”的作品。该论文的主题为“罩袍禁令的道德性”，吸引Auman教授 eye的关键在于，其论述条理清晰、实例充实、论证周密。

在Auman就其论文被质疑是否为自己所写的问题面前，该名学生最终承认了他在论文创作过程中使用了ChatGPT的辅助。

Auman对于这个发现感到十分惊讶，于是他立即决定在本学期采取一些措施来改变他的教学方式。具体来说，他想要求学生在课堂上使用受限的浏览器来完成初稿，同时，学生需要在每个修改阶段给出相应的解释，说明他们的修改理由。这样一来，Auman希望能够提高学生的参与度，同时也帮助他们更好地理解课程内容。

改革与禁令

原内容为：“内华达大学拉斯维加斯分校的教育培训教授Kendall Hartley强调，（ChatGPT）能生成大量独特的內容。因此在使用查重（抄袭檢測）系統對其進行檢測時，结果显示 copied 比例為零。”

为应对生成式AI给学术界带来的冲击，美国各地的教授和学校管理人员正开始对课堂进行全面改革，例如：重新设计课程、增加口试、用手写论文代替打印论文、使用AI探测系统。

出于对学习负面影响的担忧，纽约市教育部已经颁布了“ChatGPT禁令”，禁止老师和学生从学校网络和设备上访问ChatGPT。

纽约市教育部发言人Jenna Lyle认为，ChatGPT的负面影响超过了积极因素。

Lyle表示，“虽然该AI工具可能能够提供快速简便的问题答案，但它并不能培养批判性思维和解决问题的能力，而这些技能对于学术和终身成功至关重要。”

对抗抄袭

为了对抗此类“学术抄袭”，普林斯顿大学的一名学生、22岁的Edward Tian在寒假期间开发了一款名为GPTZero的应用程序，并于1月2日推出了这款应用程序。

数据显示，GPTZero在推出的第一周内，已有超过3万人使用。

该应用通过两个变量进行辨别：写作的复杂程度和变化程度。也就是说，句子长短不一、变化更复杂的文本往往是人类写的；而更统一、更熟悉的散文形式往往是人工智能写的。

这款应用几乎算得上是准确无误，其误判率不到2%。

论文查重检测服务公司Turnitin表示，今年将加入更多能够用于识别人工智能的功能。

甚至连ChatGPT的拥有者OpenAI公司本省也表示，正在研究如何轻松识别由ChatGPT生成的文本。

该公司发言人称，“我们不希望ChatGPT在学校或其他任何地方出于误导性目的被使用，我们已经在研究一些应对措施，以帮助任何人识别该系统生成的文本。”

其中一个想法是添加水印等一些不明显的标识。

两面性

事实上，各所大学都在致力于向学生推广新的AI工具。

一位GPTZero用户表示，“ChatGPT是一项非常有用的工具，同时也是一项非常危险的工具。”

纽约州布法罗大学和南卡罗来纳州弗曼大学均表示，他们计划在必修课程中嵌入关于AI工具的讨论，并向学生传授学术诚信等概念。

布法罗大学学术诚信办公室主任Kelly Ahuna表示，“我们希望预先防止事情的发生，而不是在事情发生的时候制止它们。”

伯恩茅斯大学新闻与传播副教授Chindu Sreedharan博士认为，高等教育提供者应该接受包括ChatGPT在内的新软件，作为帮助学生学习的一种新方式。

Sreedharan 称，“至于它是成为你的朋友，还是成为你的敌人，这款工具的好坏取决于你如何使用。”

目前，生成式AI还处于早期阶段。OpenAI公司预计很快会发布另一款AI工具GPT-4，它将能够更好地生成文本。整体来看，若ChatGPT等生成式AI的透明度可以提高，那无疑是一个具有颠覆性的工具。