本科

制作|陈静茹 张莉 长江日报大武汉客户端2月22日讯（记者陈静茹）最近，应用软件ChatGPT在多国社交媒体“狂飙”。发布两个月后，月活人数成功过亿，成为史上用户增速最快的消费者应用。2月20日，清华大学人工智能国际治理研究院副院长、清华大学公共管理学院教授梁正，武汉大学人工智能系系主任、教授彭敏和武汉大学副研究员李祖超做客长江日报《面谈》，一起畅聊风暴眼中的ChatGPT。网友在线上同三位教授一起热议ChatGPT，各平台观看视频网友达70万。 一、ChatGPT能做什么？有没有与它聊天过？ 梁正：作为科研工作者，我最关心的是ChatGPT可以给我们提供什么帮助。因为我是做人工智能的治理研究，也就是人工智能会带来什么样的风险，什么样的问题，所以我首先问他“你会对人类产生什么样的影响？应该怎么去应对？”它的回答很官方，也很全面。 彭敏：首先ChatGPT的编写代码能力让我印象深刻。此外，我的研究领域是人工智能的对话，所以在这方面比较关注，我觉得它在多意图多轮的对话中，表现非常好。 李祖超：在和ChatGPT聊天的过程中，我发现它的回答的质量依赖于用户的问题的清晰程度，问题定义越清晰，ChatGPT可以回答得更具体更有根据。 二、把ChatGPT比做一个14到15岁的孩子在跟人类对话，这个比喻如何？准确吗？ 梁正：在一般生活对话的场景方面，我认为ChatGPT已经达到了14-15岁的孩子的能力，甚至在有的领域它可以达到大学本科生毕业生的这样一个水平，包括医师资格考试、大学入学考试等都可以完成。它不是只在一个领域去发挥作用，它在一些专用领域的表现更好。 彭敏：我们不能笼统地来讲ChatGPT的能力。它在很多领域确实是做得非常卓越，背后对应的是它所支撑的技术、数据或者是知识，但在某些领域，它又非常知识匮乏，不具备一定的智能。 李祖超：将ChatGPT对照14-15岁的孩子我认为是不完全确切的。这需要从几个层面来讲。从语言表达能力来说，ChatGPT给出的答案确实都是以简单句为主，看上去像一个14-15岁的孩子讲的话。这主要是大众在试用ChatGPT时都采用闲聊的方式，并且ChatGPT训练的目的是作为助手。但是实际上，只要经过稍微地调教，ChatGPT的回答风格则可以发生巨大的变化，远不止14-15岁的孩子的表达能力。从掌握知识的广度角度来说，ChatGPT可以同时记忆天文、地理、物理、化学、计算机等等行业知识，而人类一般无法掌握这么多领域的知识。从掌握知识的深度来说，ChatGPT应该相当于一个某个专业领域的初级到中级水平。ChatGPT本质上是在模拟人的对话过程，它的模拟能力是利用一个神经网络大模型从大规模的训练语料学习出来的，其实现基于四个要素：覆盖广泛的训练语料、算力、一些算法技巧和人工调优技巧。ChatGPT在知识方面的上限取决于训练它的语料库。如果语料库里面没有的知识，它是无法回答的，同时如果训练语料中的知识本身就是错的，它也会回答错误。此外，ChatGPT在计算方面的能力是弱于14-15岁的孩子，约等于8-9岁孩子，这也是未来ChatGPT进一步进化的方向之一。 三、我们可以调教ChatGPT吗？ 重播 播放 00:00 / 00:00 直播 00:00 进入全屏 50 点击按住可拖动视频 李祖超：我们是可以对ChatGPT进行调教的。比如某人，你的性格是什么样的，你应该讲什么样的话，比如你的表现是非常软萌的，它的回答都会按照你的风格进行生成，或者严厉的老师，或者老板等等角色。 四、ChatGPT真的能取代人类的某一些职业吗？ 梁正：我个人的观点，ChatGPT在给我们提供帮助上，它的潜力是巨大的。这个“替代”只是把人类不愿意做的，或者人类觉得比较辛苦和繁复的工作去替代掉，但我不认为它可以把人类有创意的，创造性的这部分工作替代掉，包括对我们做科学研究做学术研究也是一样。 彭敏：什么工作是不能被替代的？具有创意的，或者说在我们的基础搜索或者是生成之后，还需要去进行相应的人类智慧去给他一些指导的工作。此外，ChatGPT在某些领域提高了生产力并不代表剥夺了大家的饭碗，这一产品研发的初衷正是为了替人去做一些重复工作，让人可以有时间和精力去做自己更擅长、更适合人类做的创新性的工作，更好地享受生活。 李祖超：这种职业替代形式，人工智能发展过程中一直存在。如2015年，美联社使用机器人写作，年报道量超过15亿条，领域涉及金融、房地产、体育等领域。目前，空中客车公司使用人工智能而不是人类工程师来设计飞机，制药公司葛兰素使用人工智能进行药物开发，工作效率和任务完成质量都比人类工程师更好。人工智能甚至可以拍电影。2019年，上演的科幻短片《走神》就是一部剧本、导演、表演、配乐等一系列制作程序，大部分由人工智能所完成的影片，仅用了2天时间。能力更强更通用的ChatGPT将进一步加快职业形式的变化过程。 五、ChatGPT这样的AI可帮助人类进行真实创造，尤其是帮助人类提高创造效率，比如提高获取信息的效率或提出新颖想法。这意味着什么？ 梁正：这是在技术发展过程中，也就是在人类知识的积淀的基础上，学习训练这种大的语言模型后，凸显出来的这样的一种能力。从信息的处理上、内容的生成上，它的效率和质量应该说都得到了一个飞跃，这是特别的、积极的一方面。所以它其实会对我们未来，在这样的一些领域中怎么去利用它，提供了更好的选择。但我们也不要去神话它，在很多问题上，比如说推理的能力，比如说一些常识，它还是不具备对客观知识的无中生有的这样的一种能力。ChatGPT在效率提升这一方面是非常明显的，特别是在内容创作上，所以这也是我们目前面临的一个很大的一个问题。另外，由于ChatGPT大大提高这样的效率以后，一些重复性的工作可以不给那么高的权重。我认为，在ChatGPT出来以后，我们需要去做的是——每个人都应该去使用、去探索怎么去跟它更好地去合作，利用它优越的一面。然后结合自己的优势，把你原来所不擅长的一部分工作交给它去做。它能引起整个分工关系和人技关系的深刻变化。ChatGPT的影响不仅仅体现在产业上，还体现在社会、教育、人际交往的变化上。 彭敏：ChatGPT在效率提高这件事上，毋庸置疑。这一通用人工智能产品的目的并不仅仅是提高信息检索一个优势，更重要的是在落地到垂直领域，比如装备制造、集成电路、大型工程设计等等这些方面，都可以借助于它的智能能力，提高效率。在将来可能会出现类似于工业5.0，推动整个社会和人类的进步，而不仅仅说给我们增加了一个很方便的小工具而已，这也是为什么现在大家都会对它有期待。另外一个角度，我们要看到这个信息产生以后可能也会出现很多问题。比如，大家用它去写作带来的著作权问题。还有一个很重要的方面，就是信息的真伪问题。所以效率的提高，未来也会带来其他问题。 李祖超：人类历史的发展总体上来看就是生产效率的不断提高的过程。ChatGPT是当下信息时代的蒸汽机，实用性很高。用户使用ChatGPT获取信息的效率不亚于现在已经非常成熟的搜索引擎。ChatGPT基于用户需求以及世界性知识为人类的创造提供灵感，提高了效率，这将对所有的人类创作领域产生重要的影响。也许未来，人类创作中发挥的作用是作为鉴赏家对人工智能创作进行筛选以及微调。但与此同时，ChatGPT在提高创作效率的同时，生产会越来越多地具备人工智能体形态的行为主体。这类新形态的行为主体，遵循新的组织行为规则，其权责边界和供求关系都将产生一系列新现象、新问题。 人工智能体创造各种作品，使用大量来源广泛的知识资源，那么这些作品所涉及的知识产权如何界定？其行为表现及后果与相关自然人法人之间的法律责任如何确定？这些问题都会成为值得关注的焦点。 例如，如果医院门诊的大多数功能，像挂号候诊、检查检验、病情诊断、医嘱处方等都可以由人工智能体承担，那主诊医生与人工智能体的职能划分和权责关系如何界定？特别是人工智能体如果达到诊断差错率显著地低于主诊医生误诊率的水平，那处方权应归谁？在更多的行业都将发生类似现象。对此，都须有新的规则来维护新的秩序。 六、ChatGPT的出现，具有划时代意义吗？会成为操作系统平台的新雏形吗？ 梁正：在产业发展当中，ChatGPT是具有类似于操作系统，或者是通用界面、主导设计的这样一个里程碑式的进步产品，这意味着可能未来一个非常大的产业的发展空间被打开了。其实从我们研究产业创新的角度来看，一个行业它从技术的突破到真正的商业化，然后到规模化和普及化，它确实是要经历这样一个过程。现在，ChatGPT给大家提供了一个模板，可以在这个基础上去考虑怎么去为各行各业赋能。所以，这是真正可能引爆整个产业智能化转型的非常重要的方向。 彭敏：ChatGPT比以往深度学习更有优势的是面对超大规模数据，摆脱了做大量语料标注的工作，是一种无监督学习。此外，它还拥有强化学习、指令微调、思维链等先进技术。从技术的角度，ChatGPT对于整个人工智能是具有里程碑意义的。 李祖超：对于ChatGPT是否能成为操作系统的新雏形这个问题，我的答案是积极的。操作系统的作用根据用户指令实现资源的分配以及计算的调度，那么ChatGPT发挥的作用是充当新的人机接口，更智能地实现用户指令的解译，减少用户的操作。从更长远来看，通过赋予ChatGPT管理系统资源如硬盘、CPU、外设等能力，将ChatGPT直接作为一种操作系统，用户只需要输入自然语言便可以达到操作的目标，应该是新一代操作系统的雏形。 七、ChatGPT有时会“一本正经地胡说八道”，存在事实性错误、知识盲区和常识偏差等诸多问题。主要是什么原因，产生了这样的可能性？ 梁正：ChatGPT可以无中生有，所以叫做“生成式”。背后有大量的人类的知识以及我们对它的引导和奖励的策略。人类告诉它，什么是对错。它在专业领域讲得头头是道，如果聊个人的喜好情绪等，它的能力远远没有到拟人的程度。“一本正经地胡说八道”可能也是它创造性回答的部分。ChatGPT“一本正经地胡说八道”，那么谁来判断？只有人才能判断。当然有一些工作不要求创造性，它可以做得很好。那么这种条件下人去做什么？人就是要去做创新性的、创造性的工作，包括艺术、创意这样真正叫无中生有，也就是客观世界里没有，只存在于人的这个脑海当中的东西。我们先不讲大模型再大到一定程度，是不是有自主意识产生了，如果说有，可能技术专家可以去回答，那是另外一回事了。起码到现在，不能够说ChatGPT能替代人。所以这方面呢，我觉得它其实反倒会引起我们的反思，就是我们的创意创造的源泉、我们的优势到底是在哪里。也可以反过来去推动我们在这方面的研究，就是人类的这个创造性思维到底是从哪来的？你是逻辑的推理、是现实的观察、还有可能是个人的顿悟，这样的一些思维的涌现究竟是如何发生的？所以，我觉得可能将来它反倒会打开这个空间，让我们去研究人的这种思维和创意。 彭敏：“有没有胡说八道”主要是看它的知识点和计算能力有没有到这个层面。为什么知道是胡说八道的话他还会讲？因为他不知道是错的，因为这一模型缺乏可解释性和验证性。这也是在这10年深度学习出现以后，许多研究者一直在努力做的工作。 李祖超：ChatGPT本质上依托于一个参数量巨大的神经网络模型，其训练过程是基于网上现有的语料进行的，而这些训练数据本身良莠不齐，并不全都是优质文本，因此有可能出现事实性错误问题。此外，ChatGPT给出的答案只是基于其理解生成的最佳结果，然而对于某些训练的知识盲区问题，且可能根据字面意思进行推理，从而出现了“一本正经胡说八道”的现象。此外，自然语言理解困难之一是语境问题，由于缺乏上下文可能导致的对问题本身的不理解等，也会导致ChatGPT给出错误的结果。对于常识偏差的问题，这是由于ChatGPT是基于对大量文本进行预训练，而常识（比如太阳比月亮大）通常不会直接包括在这些文本中，因此缺乏对常识的理解。 八、最近，多国高校出台了ChatGPT禁令，专家们怎么看？ 梁正：对于科学研究也好，对于内容创作也好，我们确实要承认他是能够给我们带来很大的这种帮助的。那么，作为一个好的工具，你为什么不去使用它呢？明明他可以给你很大的这方面的一些便利，包括在文献、资料、信息的搜集和整理上。我个人的观点目前高校对ChatGPT的禁令主要是基于公平性的考虑，从长期来看不能简单地“一禁了之”，更重要的是探讨怎么去诚信、客观、正面地使用它。 彭敏：我们要用一种开放的心态去接受新事物，而且要把它用到我们能用的极致。当然，我们不能过度地去信任这个工具，还得给它配套必要的措施。 九、这些“啥都懂”“啥都会”机器人给我们带来震撼的同时，还提供了哪些思考和启发？ 李祖超：在启发层面，以ChatGPT为代表的人工智能技术的发展确实是迈出了很大的一步。在未来，这样的技术还有着无限的发展潜力，我们的日常生活也会随之而慢慢发生改变。随着人工智能的发展，人工智能可以代替人类进行各种作业，我们未来在生活中应该更好地借助人工智能的力量来进行发展，而不是过度依赖人工智能的能力而丧失我们原有的能力。同时，人类作为人工智能创意的来源，持续不断的新的创意养料才能帮助人工智能迭代，因此未来的高价值职业都会向高创意方向发展。最后，随着人工智能不断渗透到人类的生活中，相应的道德和法律规范也应该随之健全。...