文章主题：人工智能, ChatGPT, 程序员, bug 解决
ChatGPT 的能力从闲聊到解决程序员的程序 bug 等，展现了其惊人的实力。然而，事物总是具有两面性，ChatGPT 的能力在给人们带来便利的同时，也带来了不可忽视的问题。本文将深入探讨人工智能 ChatGPT 的利与弊，让我们一起来了解。
在2022年的12月份，由微软注资的AI实验室OpenAI推出的ChatGPT引起了全球的广泛关注，甚至在短短的5天内就成功吸引了超过100万用户的关注。令人惊讶的是， even 在北密歇根大学的一门课程论文评分中，利用ChatGPT所撰写的论文获得了A+的好成绩，这使得教授们纷纷认为这是本学期最佳的作品。这一现象的出现，无疑给教学活动带来了巨大的冲击，迫使教师们在课堂上也必须做出相应的调整。
ChatGPT是一款具有卓越能力的对话模型，官方对其进行了精准的描述：“它可以连续回答问题、承认错误、挑战不正确的前提，并拒绝不适当的要求。”这一特性使得ChatGPT在众多场景中都能展现出惊人的表现。无论是闲聊、解答疑问，还是创作小说、诗歌，甚至协助程序员解决程序bug，ChatGPT都能轻松应对，充分展示其多元化的技能。正因如此，许多人对ChatGPT的能力表示由衷的赞叹。
张礼立是一位信息化专家，他在1995年担任美国Sun微系统公司的IT架构师。同年，计算机科学家理查德·华莱士成功研发出了聊天机器人ALICE。令人惊讶的是，这款人工智能机器人已经具备了解读乐谱、解读图片以及进行人性化推理的能力。值得一提的是，从1964年世界上首个聊天机器人ELIZA的问世，到1995年ALICE的诞生，仅仅过去了短短30年。
在过去的几年中,人工智能生成内容(AIGC)领域取得了显著的进步。其中,OpenAI发布的GPT-3模型是一个重要的里程碑,而ChatGPT则是该模型引入“强化学习”技术的进一步创新。通过应用GPT-3和强化学习的技术,ChatGPT在人机对话场景中的准确性和可控性得到了大幅提升。
GPT-3拥有1750亿个参数，本以为可以“记忆”和“提炼”出人类知识的规律，但在实际应用中，ChatGPT却表现出了明显的弊端。其提供的答案并不总是准确的，在一些常识问题上会出现疏漏。因此，知名的程序员问答网站Stack Overflow不得不紧急发布公告，宣布暂时封禁ChatGPT。
在面临此一现象时，《新周刊》独家探访了在美国硅谷拥有超过十年工作经验的张礼立先生，就当前AIGC的应用现状、所面临的挑战，以及新技术迭代可能催生的新一轮创业高潮进行了深入探讨。
在2022年的3月份，上海市政府推出了“城市数字化转型”的建设方案。作为我国的首个数字化转型城市，上海面临着巨大的数字技术人才需求。在此背景下，张礼立承担了首次数字技术应用工程师考级的课程教授任务。
“未来的人工智能应用，究竟需要培养出什么样的人，来对机器‘发号施令’”，这是张礼立经常思考的问题。
一、ChatGPT是一项重大的技术创新吗？
2006年，张礼立从美国硅谷归国，加入上海市海促会。此后，他长期在世界500强企业担任高管，并从事信息化和企业科技管理工作，这使得他对城市数字化的切身感受非常之深——ChatGPT火爆的背后，对于未来社会的发展究竟利弊几何，恐怕才是各界应该关注的问题。
如今，有不少人在使用过ChatGPT之后认为，未来这样的技术不仅可以吊打谷歌的人工智能，还可能迫使一些编程问答网站面临极大威胁，甚至有用户与ChatGPT就现代物理学的历史进行对话后发出惊呼：以后大学都可能不复存在。然而，在张礼立看来，这些说法多少有些“过度吹捧”之嫌。
2018年，张礼立开始在浦东创业，出于对产业结构顶层设计的敏感，他发现在城市的数字化转型中，除了科技创新本身是一个挑战之外，更大的挑战在于如何“定义”创新。
奥地利经济学家约瑟夫·熊彼特曾在《经济发展理论》一书中提出“创新理论”：“只要发明还没有得到实际上的应用，那么在经济上就是不起作用的。”对此，张礼立提出了自己的解读：新工具或新方法要在经济发展中起作用，最重要的含义就是能够创造出新的价值，而所谓的创新，最后一定具有普遍性，而且能够给人类带来福祉。
在张礼立看来，要判断ChatGPT是不是一项技术创新，首先要肯定ChatGPT确实是一项技术突破。
1997年超级电脑“深蓝”击败国际象棋世界冠军卡斯帕罗夫、2016年3月AlphaGo在“人机大战”中击败围棋世界冠军李世石，这些案例在细分垂直的领域当中，只是把算力、算法、模型集中化，但是却并没有更广泛的横向扩展。而ChatGPT则更像是“万宝全书”，它把一个可以“强化学习”的庞大数据模型，放入了一个问答系统，但是怎么能确保它永远不出错呢？
“1750亿个参数当然是可控的，就好比在医疗上将已知的干细胞植入人体，但是让器官再生这个过程却是不可控的。AIGC生成的内容也是一样的道理，你永远不知道它的嘴里会吐出什么象牙来。”张礼立表示，我们之所以觉得它有趣，可以写诗、写文章，就是因为它的结果是不可控的。
ChatGPT确实推动了狭义上的人工智能进步，但核心问题是，大规模的信息输出还处于“黑匣子”状态，未来如何让它的结果更可控，将影响到每个产业的发展。
二、AIGC究竟该如何应用？
科技的每一次进步甚至迭代，都会引发不少创业者和企业家思考，如果一项技术既可以产生经济效益，又可以造福社会，那为什么不去做呢？实际上，人工智能普及和应用，往往面临着不少困难，毕竟智能产品的更新换代，需要的是人们对使用习惯和旧观念的打破。
如今，人工智能需要获取使用者越来越多的个人信息，这显然涉及隐私保护的“科技道德”问题，再加上人工智能解决方案的成本往往也令人望而却步——人类通过互联网和软件，已经基本可以满足所有的生活需求，这种更具成本效益的方式，不免将人工智能推向了“边缘”。
但这并不代表人工智能发展到ChatGPT，供人“娱乐”一番后，就算是走到了头。2022年8月，张礼立在上海市海促会的换届选举中，当选为第六届海促会会长。除了经常要作为客座教授去上海交大授课，他平时也格外关注医疗卫生与健康产业。
在张礼立看来，自新冠疫情暴发以来的三年里，人工智能在生物医药方面发挥的效能可谓不小。由于生物医药需要做大量化学分子的适配，人工智能似乎找到了用武之地，甚至在未来国内医疗产业的应用，前景也不可小觑。
从长远角度来看，人工智能势必会对人类的生活产生长期影响，且不是任何年龄代际所能限制的。张礼立指出，比如成长于手机支付的一代人，很少有对货币的概念，如果让他们去一些还在使用纸币的国家，他们反而会觉得不适应。
“为什么许多欧洲国家不去使用线上支付？而将来所谓的互联网原住民、元宇宙原住民，在未来的全球化当中，是不是会同世界上的许多人产生鸿沟？从这个角度来看，他们不见得一定就是引领者。”张礼立表示。对于AIGC的应用，他也始终保持着客观审慎的态度。
据张礼立判断，未来AIGC或许会在科技企业的应用场景当中率先发力。原因在于企业本身就属于投资主体，拥有支出成本的能力。比如说在一场数十人的工作会议中，AIGC能够根据大家讨论的话题和发言，自动整理生成一份会议纪要，甚至把统计数据也都制成表格，这无疑会更大地提高企业的工作效率。
此外，譬如中国政府提出的“3060碳达峰和碳中和”的承诺已是迫在眉睫，假设我们想知道中国当下不同行业的零碳标准，AIGC是不是能很快地检索出这些标准？在未来数字城市转型中，当人工智能重新将制造业的供应链进行数字化，那对于今后的国民经济，以及为全球化发展作出的推动，都将是不容小觑的。
张礼立认为，如果将人类创造的知识分为社会科学和自然科学，上述提出的应用基本上都是建立在自然科学的前提之下对数据进行的收集整理工作。但是如果涉及文学、音乐、绘画等社会科学领域的内容生产，还是要“点到为止”，因为如果人类连想象和思考都丢失的话，最终的结果可能是人类会变得越来越愚蠢。
三、人类是否需要走过“人工智能冬季”？
1984年，由斯蒂夫·巴伦执导的电影《电脑梦幻曲》上映。情节围绕着男人、女人和一个名为“埃德加”的有感知的个人电脑之间的三角恋情展开了一场爱恨纠葛。人类似乎从上世纪开始，就在幻想聊天机器人能够产生自我意识。
但是在人工智能促进协会（AAAI）上，美国人工智能理论家罗杰·尚克（Roger Schank）和“人工智能之父”、框架理论的创立者马文·明斯基（Marvin Minsky）就曾向世界发出过“人工智能冬季”的警告。
1997年，“深蓝”和卡斯帕罗夫下国际象棋的事件，使得西方媒体对这件事情的看法无一不是负面的——人类的失败怎么来得那么快。在张礼立看来，当时的人们之所以会对科技心生恐惧，并不是因为担心机器人的脑子比人类的好使。
“人工智能是否会取代人类”本身就是一个伪命题，而恐惧的真实原因其实是在于，一旦这个会说“人话”的机器人开始发表感言、传达价值观念，我们的身边将会到处都是似是而非的“谎言”，令人无从辨别。
如果人工智能要代替人类思考，那么我们真的需要走过这个“冬季”吗？对此，张礼立分析，人工智能发展至今，走过了“摩尔定律”和“大数据”，进入了第3—4个“冬季”的周期。现在的“冬天”到底冷不冷、冷到什么程度，可能并不好说，但是大家都能回过头看到，每当有这些技术出现的时候，人工智能从宏观上看，其实都是停滞发展的。
只有当人类在生活中出现“木桶效应”的时候，人工智能才会出来发挥作用，补上短板。比如手机有导航和陀螺仪，我们可以通过GPS和北斗进行定位等，但是也仅限于此，并没有超出人类“衣食住行”的范畴。
“尽管在‘弱人工智能’的概念上，有真正做到让人类的生活变得更便利，但是像‘如何通过人工智能颠覆人类生活方式’这样的话语却没有人敢说。”张礼立指出。
如今，有不少人看好AIGC在知识教育领域的前景，然而对于张礼立来说，这反而是最需要慎之又慎的行为。“人工智能的初衷，是解放人的双手，提高生产力。AIGC可以像搜索引擎一般为人们提供精准的知识性罗列，但是最终选择相不相信，或者说最终对信息作出决策的，还得是人自己。”张礼立提出了自己对AIGC的担忧。
人工智能可以收集数据，对数据分类、贴标签，但它不能告诉我们什么是好、什么是坏。
据张礼立回忆，由于2022年上海疫情，相当一部分人开始线上上课。正因为这样，才需要通过一些互动，确保学员们不是在打瞌睡，所以他经常会提出“明白的扣1，不明白的扣2”这样的询问，结果满屏都是“1、2、1、2……”，这成了张礼立脑海中挥之不去的阴霾——人与人之间的连接、人与人之间交流的温度，似乎都消失了，机器越来越像人，人却越来越像机器。
“人如果没有了勤劳的意志，没有了自主学习的耐心，甚至丢失了是非判断的能力，丢失了安身立命的责任，那么如此匮乏的人生，也会逐渐失去意义。”张礼立说。
作者： 段志飞
来源公众号：新生活方式研究院（ID：neweeklylifestyle），《新周刊》旗下生活方式研究院。
本文由人人都是产品经理合作媒体 @新周刊 授权发布，未经许可，禁止转载。
题图来自Pexels，基于CC0协议
该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
