文章主题：人工智能, ChatGPT, 自然语言处理, 伦理问题
近期，人工智能技术以ChatGPT为核心的代表风靡全球，其不仅能够熟练地与用户进行对话，更具备创作诗歌、文章以及编程的能力。在全国两会的讨论中，ChatGPT引起了委员和代表们的高度关注。关于ChatGPT是人类的助手还是对手的问题，以及如何在科技发展中注重伦理道德并避免利益冲突等议题，已成为当前社会关注的焦点。
邀请全国政协委员、中国科学院自动化研究所研究员赵晓光，清华大学计算机系教授、清华大学人工智能研究院视觉智能研究中心主任邓志东，以及国家新一代人工智能治理专业委员会委员、中国科学院自动化所研究员、人工智能伦理与治理研究中心主任曾毅三位专家，一同在《两会三人谈》这个平台上，深度解读人工智能的相关话题。
在今年的“两会三人谈”节目中， national flag 代表了一种国家的荣誉与尊严，而人工智能 (AI) 则代表着科技的发展与变革。在这个特别节目中，是全国政协委员以及 AI 领域的专家们，一起探讨以 ChatGPT 为代表的人工智能技术所带来的影响与未来。
关注1：ChatGPT意味着人工智能技术发展到了什么程度？
ChatGPT最近的广泛关注引起了公众的兴趣,一些人认为它具有颠覆性,而另一些人则认为它被过度神话了。这个大语言模型的出现揭示了人工智能技术已经发展到了何种程度呢?
近期，全国政协科技界的许多委员们对ChatGPT技术表现出极高的兴趣，特别是关注这项技术在我国的发展以及它将为我们带来何种启示。赵晓光表示，从技术角度看，ChatGPT是一种自然语言处理模型，使计算机具备与人交流的能力。实际上，我国许多研究机构已经开展了相关技术研究，并在实际应用中取得了进展，例如我们日常生活中所熟知的银行自动语音服务。ChatGPT之所以引起广泛关注，源于微软将其技术整合进搜索引擎“必应”，从而吸引了大量用户并实现了盈利。这无疑为ChatGPT在商业领域的应用展示了巨大潜力。
全国政协委员、中科院自动化所研究员赵晓光。受访者供图
在过去，我国并未大规模投入到通用大模型的研究中，这主要是因为我们尚未发现这些技术在实际应用中的合适场景。然而，人工智能技术的发展必须与具体场景紧密结合，这也为我们提供了宝贵的启示。未来的发展方向在于如何更有效地将技术应用于各个领域，挖掘潜在需求并开发新的应用，从而创造更大的价值。我们需要关注用户的需求，以实现技术的最大效益。
她坚信，ChatGPT的诞生及其应用并不意味着我们正在步入通用人工智能时代。尽管有媒体报道称它可以理解人类语言，但她认为这其中的“理解”需要加上引号。在她看来，要真正实现人类式的理解，还需在许多方面做出努力。
邓志东教授将ChatGPT视为一种具有颠覆性影响的先进技术，他将其视为NLP（自然语言处理）领域内的通用人工智能。自2012年起，全球范围内以深度学习为核心的人工智能取得了飞速的发展，然而这些技术仍属于弱人工智能，它们作为工具为人类提供帮助。而ChatGPT的独特之处在于，仅利用单一模型便能完成包括对话、翻译、生成、搜索、编程与调试等多个NLP领域的任务，这一特点使其成为文本语言领域内的通用人工智能。更为重要的是，ChatGPT在执行多个任务时能达到接近人类的水平，这与过去基于特征匹配或搜索的方法截然不同。
他说，随着ChatGPT的版本不断更新，全球上亿用户与其高频度交互，且其具有持续的学习能力，它的NLP多任务完成能力还将提升，可能会在较短时间内达到专家的水平，将非常具有颠覆性，给人类带来巨大进步。
在曾毅看来，ChatGPT是一个人工智能领域现有工程技术的组合创新，在用户体验上有显著提升，但并非科学的突破。它使用自然语言处理领域的几项关键技术，都是几年前学术界已验证有效、相对比较成熟的技术。但ChatGPT有数亿用户的反馈，其输出不是提供最优化的结果，而是最接近人类需求、合乎人类期望的结果。
ChatGPT不能真正像人类一样理解和应用语言，离1956年达特茅斯会议上提出的“人工智能”实现智能的各个方面达到人类水平的畅想还有很大距离。
新京报“知道视频”出品
关注2：未来哪些职业可能会被人工智能取代？
一些网友在和ChatGPT聊天之后，担心自己的工作未来会被取代。那么，ChatGPT是人类的助手还是对手？未来哪些职业可能会被取代？
赵晓光称，人工智能确实取代了一些工作，是人类不愿意从事的艰苦、枯燥、繁重、有危险的工作。比如速记员的工作，现在很多可以通过自然语言识别将语言转变成文字，但计算机完成的工作依然需要人类校正，因为会存在一些错误。她以法律系统举例，ChatGPT可以审阅诉状，进行简单分类，做一些需要具备文化功底的简单的体力劳动，但不能替代法官做更多判断。所以目前来说，ChatGPT更多是提供了“方便”。
邓志东认为，ChatGPT不仅有文本理解能力，也有文本生成能力。“它的理解能力已经达到了相当高的水平，比如一些弯弯绕绕的表述，它都能理解，且给出合乎常识或价值观的回答。随着以ChatGPT为代表的生成式人工智能在短期之内大规模商业化落地，以及对各行各业全面渗透，在大幅度提高生产力和生产效率的同时，也将对就业市场带来影响，文案、新闻、翻译、会计、律师、教师、程序员、艺术创作等职业中的中低端岗位会受到冲击，尤其是不需要深入思考，仅完成简单重复性文字整理的岗位。
清华大学计算机系教授、清华大学人工智能研究院视觉智能研究中心主任邓志东。受访者供图
曾毅称，科学技术的发明创造以及在社会上的应用，最初的目的就是部分替代人类劳动。信息技术与人工智能发明的初衷，不是让绝大多数人失业。但确实需要思考的是，人类在所从事的职业中发挥的不可替代作用是什么。
他以记者举例，记者要追求真相，但目前人工智能对于“真相”的了解还存在很大困难的。相比人工智能写的稿件，媒体工作人员的作品中更能呈现人类对于世界的真正理解，也有背后的故事。
长期来看，必然会有一部分工作会被暂时替代，此时需要人类重新思考工作的意义。比如做社会服务、养老助残等需要以情感出发去关怀他人的工作，很难被机器替代。如果你哭了，机器人也可以安慰你，但这是基于数据的情感分析，而不是对情感的真正理解。即使机器有能力去替代人类时，人类也未必相信机器。“这样的工作使得人类反思，人之所以为人，与其他没有情感的物体之间的差异，让人类回归本该回到的地方。对于人类反思的能力，机器人和人工智能暂时难以达到同样的高度。”
总体上，曾毅持乐观态度，认为真正需要和值得人投入精力的工作不会被替代，但他仍认为，人类应该为可能出现的部分领域的劳动替代做好准备。
新京报“知道视频”出品
关注3：ChatGPT会对教育产生什么影响？
近期出现了学生利用ChatGPT做作业、写论文、考试作弊的情况，教育界人士担心这将使孩子们丧失思考能力。ChatGPT对教育会产生什么影响？
赵晓光认为，人类在学习的过程当中，学习前人的经验非常重要，这就需要阅读大量的文献，并将其中的中心思想提炼出来，即文献综述。ChatGPT可以做这件事，并生成一篇新的文章。“但它做得再好，也只是把已有的思想拼接起来，目前不会产生新的思想。总体上讲，我坚信人类能够把控自己发明创造出来的人工智能技术。”
她说，研究生写论文之前阅读大量的文献，花了很多时间，ChatGPT这样的工具能有效节约时间和体力，让学生把精力更专注地放在科研创新和写自己论文的思考上。但它确实带来了巨大的挑战，让人类的智能向更高层级发展，而不是局限于从事简单枯燥的工作赚钱。
邓志东称，去年11月30日OpenAI公司发布ChatGPT，目前还称不上1.0版本，但三个多月来已经带给我们很多改变，对教育的影响也将逐渐显现出来。一方面会带来挑战与冲击，另一方面，也会让人类重新思考教育的本质，找到路径去思考真正有用的知识，学习真正对经济社会发展和人类文明进步有价值的内容，而不是把大量时间花在死记硬背上。
曾毅认为，ChatGPT的输出跨越了学的阶段，直接给出结果。短期内，一些人通过偷懒会尝到甜头，但很快将被负面作用影响。统计生成模型主要关注输出结果的统计显著性，过度依赖于类ChatGPT技术与服务会使人失去自我的视角，难以彰显人的个性化、差异性。
知识获取最重要的部分就是理解的过程，而不是结果。长远来看，人类会明白利用辅助工具和让工具帮自己做决策是两回事。“比如小朋友背别人写的诗很快会忘记，但自己写的诗很难忘记，且自己会很珍视并由衷地快乐。”他认为，愿意用ChatGPT写综述的同学，失去的是学习的机会，以及获得研究灵感的快乐与洞见。
国家新一代人工智能治理专业委员会委员、中科院自动化所研究员、人工智能伦理与治理研究中心主任曾毅。受访者供图
关注4：中国何时有自己的ChatGPT？
今年2月，北京市经信局表示，北京将支持头部企业打造对标ChatGPT的大模型。现在很多人关心，中国何时才能有自己的ChatGPT？目前的差距在哪里？这次ChatGPT受到关注，对我国智能大模型发展是否是一个机遇？我国要如何推进智能大模型的研发？
赵晓光称，我国很多研究机构在研究大模型方面做了很多工作，并取得了非常好的成绩。北京市的政策将支持人工智能技术更好地落地应用，使其和应用场景结合。北京人工智能企业众多，技术人才聚集，在发展技术和挖掘市场需求上有很大优势。目前，企业要进行数字化、智能化转型，ChatGPT带来的启示就是去思考需求、市场和用户在哪里，把这些变成技术进步的动力。
“我们很早就呼吁，高度重视发展中国的人工智能多模态大模型。”邓志东称，ChatGPT的出现，也让全社会期待并支持中国发展自己的生成式人工智能大模型，这确实是一个机遇。以往中国也有对话机器人，但用户体验并不理想。百度宣布3月16日围绕“文心一言”召开发布会，这个生成式对话产品被外界誉为“中国版ChatGPT”。所以说不是“有没有”的问题，而是中国的ChatGPT可以多大程度上接近人类水平。
他说，类似的大模型都需要基于人类反馈的强化学习、全球数据和人工智能算力的支撑。ChatGPT有上亿用户级别的人类调教，后期很难有产品能达到类似规模，所以短期内打造完全对标ChatGPT的大模型，仍然存在挑战。
曾毅说，目前很多人工智能头部企业宣布投入类ChatGPT技术和平台研究，同一个研究机构甚至诞生不止一个大语言模型。作为语言服务的工具，语言大模型可以赋能千行百业，每个国家都需要有自己的基础大模型。但需要注意的是，如果中国诞生太多版本的基础大模型，而各个企业没有将重点放在发展垂直领域应用的话，不必要的能耗会非常大。
根据研究，2020年，全球信息与通信技术的碳排放只占在整个碳排放总量的2%，但在十年之内会上升到15%。大模型每一次训练的碳排放将近150人一年内生活的碳排放量。他认为，有共性技术的国家级基础大模型没有必要重复建设，应该有体系化地组织。在数据和知识引擎部分，产业和学术界应该最大可能共享。但在大模型创新算法、垂直领域微调算法方面，应该各自发挥优势。
他也认为，目前其他国家在人工智能领域取得突破进展后，我国人工智能产业才会迅速跟进，却没有原始创新能力，并复制学术与产业组合创新模式，而是当别人的“放大器”。科学突破途径不唯一，未来中国要想赢得机会需要前瞻布局、换道超车，使下一次的突破有机会从中国诞生。
新京报“知道视频”出品
关注5：如何注意科技伦理、趋利避害？
科技部部长王志刚日前在“部长通道”上表示，对人工智能的研究与运用，需要注意科技伦理、趋利避害。哪些科技伦理问题已经显现并值得我们关注？如何防范？
曾毅说，ChatGPT没有带来新的伦理挑战，但它在很多领域无限放大了大家认为可能还需很长时间才会到来的伦理挑战。比如统计生成模型需要发现大规模语料的统计显著性，但全球200多个国家和地区文化具有多样性，是不可以被统计的显著性吞噬的。这就是科技伦理中非常重要的一个维度。
另外，ChatGPT的责任和问责也值得关注，它对于所有的输出无法担责，权利和义务是相伴相生的，所以何谈版权问题。目前，人类构造看似智能的信息处理工具，人仍然是责任主体。同时，人工智能生成技术也需要关注用户知情同意的问题，研发方和服务方不能混淆它和人之间的边界，需要明确告诉用户是人工智能在服务，所带来的后果是人工智能没有办法承担的。
“我不同意让人工智能无处不在，它有适用领域，很多领域无需人工智能赋能。所以我们参与撰写的联合国教科文组织《全球人工智能伦理建议书》，其中明确指出人工智能的适度使用。”曾毅说。
邓志东认为，ChatGPT利用了全球约三分之二的海量文本数据，其中涉及数据安全、知识产权、隐私保护等问题。这些数据有可能还会存在种族和性别歧视、认知偏见、道德、伦理与价值导向等问题，甚至有违法数据，所以必须设立安全门。要通过全球合作的方式，提前采取有效的预防措施，制定相关国际伦理规范，而不是等问题发生了再去应对。目前，ChatGPT对人类还无法形成真正的威胁，在发展之初要以开放的心态看待新生事物，紧抓机遇，发展中国人工智能产业，赋能经济和社会的发展。
作为全国政协委员，赵晓光表示，自己是科技界的委员，也进行了机器人和人工智能的研究，未来将在这一领域提出意见和建议，希望人工智能在我国数字经济的发展中和数据融通处理中发挥作用，为实体经济发展赋能，带来新的经济增长点和新的业态。“未来五年，我将着重关注人工智能技术的落地应用、新技术领域的创新，并在这些方面做更多调查研究工作。”
新京报记者 张璐 郭薇 王方杰
编辑 刘梦婕 校对 李立军
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号AIGC666aigc999或上边扫码，即可拥有个人AI助手！
