ChatGPT:人工智能助手的诚信与道德问题
文章介绍了聊天机器人ChatGPT及其在生成医学研究摘要的应用。上周，有报道称微软计划向OpenAI投资100亿美元。为了测试科学家是否能发现由ChatGPT生成的摘要具有原创性，一个小组使用ChatGPT生成50篇医学研究摘要，并与原始摘要进行了比较。结果显示，ChatGPT生成的摘要具有很高的原创性，但仍需探讨其在科学写作中的道德界限和可接受程度。
学者谈ChatGPT或带来论文造假：教学评价体制受冲击，需作出调整澎湃新闻2023-02-14 17:31
最近，由美国人工智能研究室OpenAI开发的全新“聊天机器人”ChatGPT风靡全球。作为一款人工智能语言模型，它不仅能和人展开互动，还能撰写邮件、论文、脚本，制定商业提案，创作诗歌、故事，甚至敲代码、检查程序错误等。上线仅两个月，ChatGPT全球活跃用户便破亿。 随着讨论的加深，人们从最早的新奇，进而到了几乎覆盖全行业的讨论。在教育界，人们开始担心，学生会否用ChatGPT写作业？学生老师会否靠人工智能生成研究论文?华东师范大学中文系副主任、教授汤拥华坦言，比较敷衍的学生和比较马虎的老师，在ChatGPT面前是缺乏抵抗力的，未来以论文为中心的教学评价体制需要作出重大调整。 华东师范大学经济与管理学部教授、博士生导师，人文与社会科学研究院副院⻓许鑫更关心ChatGPT应用对于教育产生的影响以及可能的应对，“我们要做促进学生全面发展的‘大先生’，而非仅仅是知识传递的‘教书匠’，因为ChatGPT已经几乎能回答所有学生的各类知识性问题。” 上海人工智能研究院总工程师王资凯对此并不担心。他表示，与其担心学生乱用工具，不如教师们先改变教学思路，引导学生利用好工具，同时要更注重培养学生的创造力以及批判性思维。 “ChatGPT会冲击目前的评价体制” 关于ChatGPT或可能引发学术造假的担忧已经照进了现实。 据《纽约时报》报道，近日，美国北密歇根大学(Northern Michigan University)哲学教授安东尼·奥曼(Antony Aumann)在为世界宗教课程批改论文时，读到了他所谓的“全班最好的论文”。该论文用干净的段落、恰当的例子和严谨的论点探讨了罩袍禁令的道德性。 但随后在奥曼的质问下，这位学生承认使用了ChatGPT。这一发现让奥曼感到震惊，他决定在本学期的课程中改变论文写作的课程安排，要求学生在教室里写初稿，使用监控和限制电脑活动的浏览器。此外，学生必须解释自己的每一次修改。 最近多家学术期刊也发表声明，完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。仅在国内，2月10日，《暨南学报(哲学社会科学版)》便发布了关于使用人工智能写作工具的说明。说明提到，暂不接受任何大型语言模型工具（例如:ChatGPT）单独或联合署名的文章。对于引用人工智能写作工具的文章作为参考文献的，需请作者提供详细的引用论证。 “从教育工作者的⻆度看，这一次ChatGPT的出现的确带来了困扰，因为它会直接冲击目前的评价体制。”华东师范大学中文系副主任、教授汤拥华讲道，目前日常教学评价的主要依据，其实就是ChatGPT所能炮制的论文，“换句话说，老师读到人工智能生产的论文，虽然有可能会觉得某个地方不太对，但他平时读一部分学生的论文时，可能也不会更对，甚至于他对学生最大的期待，可能就是让学生能够多读点文献，而这正是ChatGPT的强项。” 汤拥华坦言，比较敷衍的学生和比较马虎的老师，在ChatGPT面前是缺乏抵抗力的。立足本专业，他认为中文的学术论文是一种表述上更为复杂的写作，可能ChatGPT暂时还不能写几千字的长文，“但估计很快就能做到，到时候，以论文为中心的教学评价体制就必须作重大调整，不仅那种老师和学生沟通较少、见面不足的论文指导模式将难乎为继，论文本身在教学评价中的权重也可能迅速降低。到时，希望能有代替性的方案出来。” 上海人工智能研究院总工程师王资凯则告诉澎湃新闻记者：不必担心。“今天的大语言模型对于教学的作用如同20世纪80、90年代出现的计算器和21世纪前十年时的搜索引擎。从现在的视角看，我想大家都不会觉得计算器的出现影响学生的计算能力，也不能说搜索引擎让学生养成了坏习惯。总之，不能因为一项技术打破了原有模式便一边倒地否定。” 在王资凯看来，与其担心学生乱用工具，不如教师们先改变教学思路，引导学生利用好工具，同时要更注重培养学生的创造力以及批判性思维。 给教师的新思考：促进学生全面发展，而非仅仅传递知识 ChatGPT的出现也给教育工作者带来教学上的新思考。有学者认为，ChatGPT自身仍有待更进一步的发展，也会变得更有创造性，到时或将成为人类自身的训练伴侣。 “ChatGPT作为大模型应用的代表，会在潜移默化中影响用户的认识过程和认知结果，我们要看到其释放生产力，辅助人们更好工作和学习的一面，也要看到其挑战现有秩序及模式的另一面。”华东师范大学经济与管理学部教授、博士生导师，人文与社会科学研究院副院⻓许鑫谈道，“我更加关心类似ChatGPT应用对于教育产生的影响以及我们可能的应对。我们要做促进学生全面发展的‘大先生’，而非仅仅是知识传递的‘教书匠’，因为ChatGPT已经几乎能回答所有学生的各类知识性问题。” 华东师范大学软件工程学院党委副书记、教授、博士生导师曹桂涛认为，ChatGPT的出现确实引发了教师、软件工程师等的职业担忧。不过在他看来，教师在教学过程中通过提炼、归纳、总结知识，成为纳百家之长、成一家之说的“原唱者”，因地制宜、因人而异地传授知识给学生，这是ChatGPT无法达到的。 对ChatGPT提供知识的辨别和改进也或将成为师生们的课题之一。“我们注意到，ChatGPT在训练过程中高薪聘请了大量的‘提示工程师’，通过‘标注’、巨量语料来模拟合成真实世界；ChatGPT可能会出现创造不存在的知识，或者主观猜测提问者的意图等问题，因而模型的优化仍将是一个持续的过程，这也需要人的智能和软件工程师的长期努力。”曹桂涛说。 曹桂涛同时认为，人工智能可以扩展人类在处理事物复杂性方面的认知，而人类在处理事件不确定性方面提供更全面和直观的方法，是人工智能无法超越的，通过两者的互补性可以将人类的直觉和整体思维与人工智能在收集和分析信息方面的超强性能结合起来，“而且，人工智能的应用不是一个单纯的技术问题，而是一个与算法治理、算法安全息息相关的复杂问题，在未来会有怎样的具体应用和相应监管手段，还依赖各方的协同参与。” 往更深层面看，ChatGPT仅仅是一个网络内容的搬运工甚至剽窃者吗？或者说它其实也能创作？这是复旦大学新闻学院教授邓建国探讨的问题。“我的观点是，概率性语言实践和拼凑式创新自古以来就是人类的文化生产方式，无论ChatGPT被视为‘极具重复性’还是‘极具创造性甚至颠覆性’，人类都不应对之过分消极或兴奋。”邓建国将人们现在看到的ChatGPT看作是人类的“镜中自我”——差别仅仅在于它比人类更加“人类”而已。 邓建国认为，ChatGPT会不断学习，变得更具创造性，进而对人类施加更多的创新压力，“在人类未来的发展中，我们将能以ChatGPT为自己的训练伴侣，不断掀起超越AIGC（AI Generated Content，指利用人工智能技术来生成内容）的新浪漫主义运动，最终变得越来越具有创造性。” (本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP) 举报/反馈
AI-GeneatedContent:生成对抗网络GAN在内容创作中的应用
这篇文章主要介绍了ChatDD-FM100B模型在权威中文基础模型C-Eval评测中表现优异，AIGC（AI-Geneated Content）技术作为新兴的内容生产方式，已经在多个行业取得了重大发展，其市场潜力巨大。据预测，到2027年，我国AIGC产业规模将超过600亿人民币，2030年市场规模将超过万亿。
新闻分析：ChatGPT，变革与风险新华社2023-02-13 08:30
新华社北京2月13日电新闻分析：ChatGPT，变革与风险 新华社记者彭茜 黄堃 美国人工智能公司OpenAI的大语言模型ChatGPT在推出约两个月后，1月已达到1亿月活跃用户，成为历史上增长最快的消费者应用程序。相关专家预计，ChatGPT不仅是新一代聊天机器人的突破，也将为信息产业带来巨大变革，但由此带来的学术造假、技术滥用、舆论安全等风险亦不容忽视。 （小标题）新一代操作系统平台的雏形 多语言撰写充满想象力的诗歌，编写可运行的程序，快速生成论文摘要，自动制作数据表格，纠正文章中的语法和表达错误，把一周大事写成新闻综述……ChatGPT不仅能理解很多人类问题和指令，流畅展开多轮对话，也在越来越多领域显示出解决多种通用问题的能力。 ChatGPT还轻松通过一些对人类难度较高的专业级测试：它新近通过了谷歌编码L3级（入门级）工程师测试；分别以B和C+的成绩通过了美国宾夕法尼亚大学沃顿商学院MBA的期末考试和明尼苏达大学四门课程的研究生考试；通过了美国执业医师资格考试……业界形容它的诞生是人工智能时代的“iPhone时刻”，意味着人工智能迎来革命性转折点。 “ChatGPT的成功不应仅仅被看作新一代聊天机器人的突破，而应该重视其对人工智能乃至整个信息产业带来的革命。”北京智源人工智能研究院院长黄铁军接受记者专访时说，人工智能领域的过去十年是深度学习的十年，但产业总体上并没有出现移动互联网和云计算级别的爆发，“ChatGPT的出现，具有划时代意义，大模型+ChatGPT已形成新一代操作系统平台的雏形”。 黄铁军说，ChatGPT在技术路径上采用了“大数据+大算力+强算法=大模型”路线，又在“基础大模型+指令微调”方向探索出新范式，其中基础大模型类似大脑，指令微调是交互训练，两者结合实现逼近人类的语言智能。ChatGPT应用了“基于人类反馈的强化学习”训练方式，用人类偏好作为奖励信号训练模型，促使模型越来越符合人类的认知理解模式。 “这样的AI可帮助人类进行真实创造，尤其是帮助人类提高创造效率，比如提高获取信息的效率或提出新颖想法，再由人解决其真实性问题。创造效率的提高将产生巨大效益和多方面影响，可以改变世界信息化格局。”中国科学技术大学机器人实验室主任陈小平对记者说。 （小标题）引发新一轮人工智能科技竞赛 ChatGPT的问世正在人工智能领域引发新一轮科技竞赛。北京时间2月8日凌晨，微软推出由ChatGPT支持的最新版本必应搜索引擎和Edge浏览器，宣布要“重塑搜索”。微软旗下Office、Azure云服务等所有产品都将全线整合ChatGPT。 北京时间2月7日凌晨，谷歌也发布了基于谷歌LaMDA大模型的下一代对话AI系统Bard。同一天，百度官宣正在研发的大模型类项目“文心一言”，计划在3月完成内测，随后对公众开放。阿里巴巴、京东等中国企业也表示正在或计划研发类似产品。 人工智能大模型领域的全球竞争已趋白热化。黄铁军认为，ChatGPT未来有望演变成新一代操作系统平台和生态。这种变革似移动互联网从个人电脑到手机的转化，大部分计算负荷将由大模型为核心的新一代信息基础设施接管。这一新范式将影响从应用到基础设施各层面，引发整个产业格局的巨变，大模型及其软硬件支撑系统的生态之争将成为未来十年信息产业焦点。 值得注意的是，ChatGPT有时会“一本正经地胡说八道”，存在事实性错误、知识盲区和常识偏差等诸多问题，还面临训练数据来源合规性、数据使用的偏见性、生成虚假信息、版权争议等人工智能通用风险。多家全球知名学术期刊为此更新编辑准则，包括任何大型语言模型工具都不会被接受为研究论文署名作者等。 “学术论文的署名作者须满足至少两个条件，其一是在论文工作中做出‘实质性贡献’，其二是能承担相关的责任。目前这两个条件ChatGPT（以及其他AI系统）都不满足。”陈小平说。 ChatGPT也有应用在舆论信息战方面的潜力。加拿大麦吉尔大学研究团队曾使用ChatGPT前代模型GPT-2阅读加拿大广播公司播发的约5000篇有关新冠疫情的文章，然后要求其生成关于这场危机的“反事实新闻”。连OpenAI也警告使用ChatGPT的用户，它“可能偶尔会生成不正确的信息”，“产生有害指令或有偏见的内容”。 “针对这些问题，需要我们在发展技术的同时，对于ChatGPT应用边界加以管控，建立起对人工智能生成内容的管理法规，对利用人工智能生成和传播不实不良内容进行规避。同时加强治理工具的开发，通过技术手段识别人工智能生成内容。这对于内容检测和作品确权，都是重要前提。”北京瑞莱智慧科技有限公司副总裁唐家渝说。（完） 举报/反馈