文章主题：ChatGPT, 生成式人工智能, 开放性伦理挑战
🚀认知升级！ChatGPT引领新纪元，AI伦理挑战亟待探讨🔍。复旦大学通识教育中心，以学术视角引领大家步入“人工智能”深度学习之旅。📚段伟文教授的力作《ChatGPT伦理挑战：开放性如何应对》带你洞悉科技浪潮下的伦理边界。🎓无论你是科技狂热者还是伦理思考者，这都将是一次不容错过的知识盛宴。让我们一起探索，迎接未来智慧的碰撞与升华！👉欲了解更多，敬请关注官方平台更新。🌍
🚀自从图灵开启人工智能新篇章，关于AI能否复制甚至超越人类智慧的辩论就永不停歇。近年来，数据驱动的人工智能浪潮将焦点从理论探讨转向了如何应对技术革新带来的颠覆性冲击。👀深度学习引领的AI围棋胜利，ChatGPT的生成式奇迹，尤其是它对自然语言问题的精准解答，犹如科技魔力般震撼人心，勾勒出未来蓝图。🚀然而，这些创新也带来了前所未有的挑战，潜在的通用人工智能甚至超智能可能引发一场社会与伦理的风暴。🌊我们必须正视并深入探讨，如何在开放世界中防范这种创新带来的风险，以及坚守价值伦理的底线。🔥
人工智能的工程创新与智能理论间的认知落差
🌟ChatGPT是AI领域的创新之作，它以🔥LLM技术为基础，通过精巧的👩💻RLHF训练，实现了超凡的语言模拟。它的核心优势在于流畅对话——无论话题如何，都能提供高质量💡对话体验，而且在工程设计上已趋向于完美的人机协作——满足用户对目标和意图的期望。它能自如地执行多种任务，如精准问答、分类、提纲撰写等，逻辑连贯，就像人类作者笔下的内容一样吸引人眼球。🚀它的存在，无疑为自然语言处理开启了新篇章！
🌟ChatGPT颠覆认知：🔥理论突破，流畅对话展现全新AI潜力！💡尽管ChatGPT作为演示样本还存在不少未竟完善之处，但它已展现出超乎期待的自然语言交互能力，对人工智能的认知边界正悄然重塑。🌱首先，它虽无自主意识，却能根据用户反馈迭代升级，仿佛具备了初步的“理解”和优化逻辑。💡其次，其基于大型预训练模型的强大泛化性打破了传统AI的壁垒，让通用与专用不再泾渭分明。🛠️令人深思的是，“人工智能效应”的悖论在这里被打破——ChatGPT不仅实现了语言上的自动化，更因其指令功能，能无缝连接多元智能领域，如图像、音频等，形成无限可能的创新组合。🚀未来，ChatGPT无疑将引领一场AI革命，让我们期待它如何以独特方式定义和扩展智能的新维度！🔥
🌟ChatGPT的崛起，无疑是对人工智能怀疑者认知的一大颠覆！🔍几年前，深度学习的突飞猛进让许多人担忧AI可能触及乃至超越人类智慧的临界点。然而，柯林斯教授这位科学社会学家的质疑之声依然存在，他坚持认为通用AI的道路并非坦途。在他的著作《人工虚构智能》中，他提出了一个独特的视角——”嵌入认知论”下的”连环挑战”：🤔（1）任何机器想要流畅地运用自然语言，融入人类社会，绝非易事；通过图灵测试并展现类人智慧，更是如此。（2）深度学习虽有潜力，但其渐进式发展使得计算机与社会的完全融合仍遥不可及。但现在，ChatGPT以其卓越的人机交互能力，正在打破这些固有的假设。💥ChatGPT的工程奇迹，不仅打破了柯林斯教授等悲观论者的防线，也让技术乐观主义者们大跌眼镜。它以实际行动证明了人工智能的进步并非停滞不前，而是正以前所未有的速度推进。💻这不仅是科技的一次飞跃，也是我们对智能认知边界的一次重新定义。🔥
🌟认知鸿沟：智能与AI的理论探讨与实践之间存在差距🚀💡技术的进步常常伴随着理论与实际的脱节，无论是对智能本质的哲学探索，还是对人工智能局限性的严谨分析（德雷福斯-柯林斯），两者在很大程度上与工程现实中的人工智能实现方式相去甚远。这种认知上的断裂源于人工智能发展中的理论与工程思维之间的紧张张力。🔍ChatGPT，一个备受瞩目的例子，尽管它可能并未达到全能的通用人工智能标准（无限任务、自主和价值系统），但它确实引发了对这些“关键要求”在工程上如何验证的质疑。技术的进步需要我们重新审视这些理想化的标准，寻找更精确的衡量方式。📝未来的挑战在于找到理论与工程之间的平衡点，让智能理念落地生根，而不只是停留在纸面上的构想。让我们期待一个更加贴近实际、能够经得起实践检验的人工智能未来吧！🌟
回顾人工智能的发展历程，有关智能和认知的哲学研究往往会对人工智能技术和工程上的“理论缺陷”展开批评，旨在推动人工智能的范式转换。如近年来试图超越笛卡尔式认知主义的具身认知、嵌入认知、生成认知、延展认知和情境认知等“4E+S”认知得到了深入的讨论，从哲学上不难指出缺失这些维度的认知很难成为真正的认知，也可据此顺手批评技术和工程上实现的人工智能之不足。类似地，在人工智能的讨论中，人工智能体是否具有“意识”既是人们公认的人工智能可能出现的最高风险，也被人工智能怀疑者视为真正意义上的智能的金标准，但问题是认知科学和哲学对这个难问题的认识还非常有限，人们目前所能做的只能是工程技术层面的防范。
就像柯林斯的“连环掌”一样，诸多有关智能的理论认知框架往往缺乏必要的谦逊，未能将其立场当作探究的视角之一，容易陷入固守“先验”标准的封闭式否定思维之中。而工程思维则主要体现为工程实践中的累积创新和涌现创新，是一种基于技术产业演进的“后验”迭代的开放性的肯定思维，常常是对某些技术路径的偏执性选择，且能在技术演进中赋予这些选择以新的内涵。
受到两者之间的这种认知落差的影响，理论研究者和批评者无法预见人工智能工程实践可能涌现出的重大突破，工程实践者和喝彩者则难以前瞻技术上的突破在社会价值伦理层面所引发的革命性影响，由此形成的总体认知状态显然无法应对包括超级智能在内的开放性伦理风险。
基于人机交互智能的生成式人工智能与人机对齐
为何会出现这一认知落差呢？这其中固然有人工智能前沿创新高度不确定的原因，但不容忽视的原因是人们思考相关问题时所采用的实体论预设。耐人寻味的是，不论是理论反思者还是从事工程实践的人，在相关的探讨中大多将人工智能与人类智能预设为相互分立的智能体，大多聚焦二者的高下之分和此消彼长，而较少以两者之间的交互作为思考的出发点，从技术社会系统和智能生态系统的维度理解人工智能体的实质。
但实际上，从基于大数据的深度学习到基于大模型的生成式人工智能，其创新应用都发生于数据、算法、算力等所构建的巨型技术社会系统之中，是在高度社会化的人机交互智能生态系统中形成的。它们之所以可实现功能上的突破，固然源于数据量和模型参数大到一定规模后的功能涌现，更重要的是要充分认识到人类反馈微调和使用中的人机智能交互对其性能改进的作用。
目前业界和学界对生成式人工智能伦理风险的认知大多滞留于网络媒体和数字平台涉及的相关问题，聚焦于偏见、歧视、数据滥用、信息误导、用户操纵、虚假内容和恶意使用等方面。这些问题其实是现实世界中存在的问题在大数据、人工智能等数字技术应用中的折射与放大，并且在生成式人工智能中进一步延伸和加剧，故对它们的关注的确具有紧迫性。
而实际上，在ChatGPT的研发过程中，Open AI的技术路线就是在高度社会化的人机交互智能系统中展开的。ChatGPT所采用的人工智能新范式基于对自然语言内在的同质化形式和结构的学习，其中既有海量的文本数据集，也包括运行中大量的人机对话数据，其内容生成思路是学习与预训练的结合——首先是自动提取相关内容并加以聚合，然后通过人机对齐工程对其目标和价值加以必要的修正。
依照Open AI的说法，之所以实施人机对齐工程的背景是，Open AI对其所开发的GPT系列大模型以及ChatGPT的技术定位是探索通用人工智能。为了防范由此可能带来的颠覆性社会伦理影响，开发者通过人类标注、反馈、审核等工程方法对生成的类自然语言中的价值冲突和伦理争议进行了校准，对生成内容与语言表达策略进行了持续监督和不断优化。这使ChatGPT的输出对价值敏感问题相对谨慎、持平，主动回避有争议的问题、甚至拒绝回答。
人机对齐工程的实施表明，由于存在着包括超级人工智能可能引发的人类生存风险在内的巨大社会伦理风险，生成式人工智能的技术开发与价值伦理调节从一开始就是同步进行的。由此，可以得到二个重要的启示。一方面，人机对齐工程的实施表明，对生成式人工智能进行价值伦理矫正并防范恶性后果在工程上是可行的，这为其创新应用中恪守价值底线和红线提供了可借鉴的经验。当然，必须明确指出的是，作为语言模型的ChatGPT本身并不真正理解各种价值观的内涵。另一方面，人机对齐工程是在人机交互的基础上的实施的，不论是在训练数据之中还是在人工标注等人类反馈环节，都负载着利益相关者的利益和好恶，会受到各种价值预设和文化选择的影响，必然存在一定的偏向性。
超越知识生成自动化的知识权威幻象与图灵陷阱
人机对齐工程所进行的价值伦理矫正固然有助于对人工智能生成内容的法律规制和伦理治理，但更重要的是，要看到以ChatGPT为里程碑的生成式人工智能是机器智能与人类智能全新的交互组合方式，我们正在开启借助人工智能自动生成知识并全面重塑生活的前所未有时代。从知识生产方式的范式转换来看，如果说大数据分析带来的是堪比微积分的新分析，那么ChatGPT所开启的大模型加人类反馈的自动化知识生成方式则是面向智能化未来的新综合。而对这一新综合的拥抱将迫使我们面对一系列全新伦理挑战，除了热议的违背学习和研究诚信、侵犯知识产权等问题之外，尤其值得关注的是以下两个具有开放性的社会伦理挑战。
一是将自动生成的知识视为神谕的知识权威幻象。拥抱知识生成自动化必然面对的一个悖论是，生成式人工智能系统固然能带来知识生成效率的提升，但它并非知识大全和全能的知识的领会者。这种从海量训练数据中拼凑出答案的语言形式生成系统如同自动的随机鹦鹉，其自身既不真正理解输入输出数据的意义，也没有自己的目标，更不知道什么是研究和学习以及为什么要研究和学习。但人们往往会产生一种将它们视为自动化的知识生产者的幻象，而没有注意到，虽然它们能够产生连贯的文本，但其意义和连贯性是在人类与机器的互动中形成的，而它们并没有试图表达什么。如果认识不到这种幻象，就容易产生将生成式人工智能视为知识权威和道德权威的风险。随着ChatGPT的进一步发展，有望演变为普通人日常生活中的人工智能助手，成为解答知识、辨别是非乃至区分善恶的重要工具。鉴于ChatGPT并不真正理解其所生成的知识内容以及对是非善恶的判断，而且有时会产生荒谬的错误或随意堆砌和编造的内容，在缺乏批判性思考的情况下，将ChatGPT简单地视为教育、医疗、心理、精神方面的解惑者或指导者，难免放大由知识生成错误和不准确造成的危害。
二是由盲目的智能化和自动化导致的图灵陷阱。如果不能认识到生成式人工智能建立在人机交互的智能生态系统乃至遍布地球的智能科技社会系统之上，就看不到知识生成自动化的基础和前提是对人类智能的提取，其运作过程既是对知识和智能的重新定义，也是对地球生态环境、人类社会和个人的重构。如果缺乏对这一过程的反思，就可能陷入各种图灵陷阱：在教育和研究中无条件采用自动化生成知识，在工作中无限度地用自动化取代人类智能，完全不顾及能源消耗的自动化知识生成还会使地球生态环境不堪重负。之所以会出现图灵陷阱，是因为智能和自动化系统没有做到以人为本，在人工智能的部署中往往迫使人被动地适应智能化和自动化——在很多情况下，“自动建议”“自动更正”等智能系统的运作预设不是使机器人性化，而是让人越来越机器化，使人的自主性在不经意间被自动剥夺。
为了克服人工智能的知识权威幻象，超越图灵陷阱，无疑需要全社会展开进一步的讨论，以构建我们对可接受的深度智能化未来的合理想象。而从观念上讲，必须直面的问题是：人类在知识和智能上能否保有主创者和主导者地位？人的主体性能否经受住来自人工智能的挑战？如果未来不会出现人工智能超越人类智能的奇点，我们似乎可以坚持：一方面，人应该成为最终的知识权威；另一方面，人工智能应该更多地作为人的智能助手，而不是一味地用智能化和自动化取代人的工作和替代人的技能。
最后，从长期风险来看，ChatGPT强大功能的涌现表明，对于大模型的研发必须真正开始警惕出现有意识的通用人工智能的可能性，将人工智能可能威胁人类生存的安全风险的及时防范作为其发展的前提。OpenAI的首席执行官山姆.奥特曼在最近的一篇博文中再次宣示了其发展通用人工智能的初衷，并强调要确保造福人类。这种站在道德制高点上的高调宣示其实表明，他已经认识到通用人工智能的巨大风险，但人类的未来能能否避免由此带来的生存风险，显然不能仅仅寄希望于其作出的审慎发展的承诺。
（本文经删节编辑后发表于《中国社会科学报》2023年3月7日第7版。）
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
