文章主题:视频加载失败,刷新页面,大语言模型,知识
今天文章开始前,先提醒大家一件事:
最近,公众号算法在改版,记得星标⭐️我们,以免错过推送~
檩子:关于 ChatGPT 的神猛威力,估计大家已经听到很多了。之前,我们也给大家展示了一下:“这是ChatGPT写的小学生作文?我真没猜出来…” 当时的结论是,还是我们小朋友自己写的好。
不过就一个月,一个新的版本的 Chat GPT(GPT-4)发布了,据说牛到不行。
本来,科技发展到什么地步,大家也不怎么太关心。虽然 ChatGPT 很火,但相信很多花友和我一样,都感觉:
第一、这事儿还有点远;
第二、不管AI会带来啥影响,也不会只针对我一个人或者我的孩子 …
结论是:不急,到时候再说吧!
但是,这次真的是“大火烧到龙王庙了”,不光我们都该知道这是怎么回事,就连孩子,也要懂一些,从而知道自己该怎么学习才能不被“未来”淘汰。为啥?后面我们会看到很多实例。
然而,这么高科技的东西,小朋友怎么能快速理解?我们一直在找一个资源,能把这件事讲得特别清晰、特别全面,还特别容易懂。
结果发现,有个视频,绝对够格!
视频作者是西安电子科技大学博士后于建国。为什么要做这个视频?于博士是这么说的:
这个视频是关于 ChatGPT 的,一个足以影响整个人类社会的技术。但它没有对国内开放,通用媒体又缺少相应的知识,所以我觉得我有义务做一个视频,向普通大众全面科普一下 ChatGPT 的原理,并提供一个视角让大家意识到它为何如此重要,让那些没有机会了解这件事的人也能应对即将到来的变革。我将抛开技术细节,少用专业名词,让大家明白:ChatGPT是如何回答问题的?它将给社会带来什么样的冲击?以及我们的教育应该如何增强孩子面对未来的竞争力 …
我把这个50分钟的视频从头到尾看了一遍,真心觉得这是把ChatGPT原理讲得最清楚的一个视频。更感到一个新的时代来得好快、好猛!
视频大家可以收藏起来带娃看。下面和大家分享三个方面的信息:
1、从学生学习到就业,哪些方面会马上受到较大影响
2、很有趣的ChatGPT工作原理,大家顺便了解下
3、ChatGPT和咱们的应试教育,冲突在哪里
文末,欢迎大家参加留言,说说你对这些事儿的看法。
1. “狼”真的来了
GPT-4版本的AI出来后,天下再没有他考不过的试。美国生物学奥林匹克竞赛,所有参赛选手的最高的1%。美国法学院的入学标准考试,得分排名进入前20%。美国律师资格考试,每年有将近30%到55%的考生无法通过,GPT-4在当年参加考试的考生中可以排到前10%。美国研究生入学考试(GRE)中的量化分析考试和语言类考试,GPT-4 考进了前1%。但它决不仅是一个好学生,更是一个“优秀打工人”!下面是今天文章的封面图,是不是感觉拍的不错?光影细节,很“老法师”!![1696945301485.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945301485.jpg)
![1696945302045.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945302045.jpg)
利用ChatGPT来英译汉《动物庄园》,图片来自开源项目bilingual_book_maker
其次,编辑行业,也面临着考验。今年1月份,“美版今日头条”BuzzFeed 就宣布将使用 ChatGPT 来创作内容,首次裁员12%,股价一夜翻了倍(檩子瑟瑟发抖) …![1696945302298.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945302298.jpg)
![1696945302699.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945302699.jpg)
![1696945303023.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945303023.jpg)
![1696945303406.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945303406.jpg)
![1696945303620.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945303620.jpg)
![1696945303918.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945303918.jpg)
![1696945304153.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945304153.jpg)
![1696945304337.jpg 未来知识普及:大语言模型的挑战与机遇](https://666chatgptcnbj.oss-cn-beijing.aliyuncs.com/1696945304337.jpg)
2
ChatGPT的原理,我终于明白了
于博士的视频里把ChatGPT的原理讲到普通人都能听懂。说说几个让我印象深刻的“知识点”:
首先,ChatGPT的底层原理是什么?
答案只有四个字:单字接龙。下面这个视频能帮大家了解:
“单字接龙”是 ChatGPT 的本质功能。它没有意识和欲望,只会根据给定的上文来生成下一个字。
如果说,这个 AI 每次能根据上文只能生成下一个字,那么该如何实现持续的文章生成呢?
背后的思路很容易理解,就是把它自己生成的「下一个字」和先前的上文来组合成一个新的上文,再以此生成「下一个字」,由此不断重复。
比如,当它根据「我是」生成了「一」之后,它会把现在生成的「一」和之前的「我是」组合成新的上文「我是一」,再根据这个新的上文「我是一」来计算后面接什么字。
是不是很神奇?
还有一个鹦鹉的例子,特别好玩。
如果我们把同一个上文,送给不同的模型,就会生成不同的结果。比如视频中提到来两只鹦鹉,同样是听到「“我”」这个上文,一只接了“是”,而另一只接了“爱”。
背后的原因嘛,就是两只鸟的主人,一个教的是《我是一只小小鸟》,另一个教的是《我爱你中国》。
为了让 ChatGPT 生成我们想要的结果,而不是像鹦鹉一样乱讲话,我们就需要训练它的模型。
下面这个视频能帮大家快速了解:
通过这样的训练,ChatGPT 就能对答如流了。
其次,ChatGPT 是如何被训练的?
我看下来,感觉和我们爸爸妈妈教孩子也很相似。ChatGPT 正是在 GPT-3.5 的基础上,先后经历了三个阶段的训练:
“开卷有益”阶段:让ChatGPT对「海量互联网文本」做单字接龙,以扩充模型的词汇量、语言知识、世界的信息与知识。使ChatGPT从“哑巴鹦鹉”变成“脑容量超级大的懂王鹦鹉”。“模板规范”阶段:让ChatGPT对「优质对话范例」做单字接龙,以规范回答的对话模式和对话内容。使ChatGPT变成“懂规矩的博学鹦鹉”。“创意引导”阶段:让ChatGPT根据「人类对它生成答案的好坏评分」来调节模型,以引导它生成人类认可的创意回答。使ChatGPT变成“既懂规矩又会试探的博学鹦鹉”。这个过程中,为了让 ChatGPT 的大脑更强大,能够回答更多的问题,研究者们的方法很简单粗暴 — 给它看足够丰富足够多的“语言范例”(学习材料)。我们可以回顾一下 ChatGPT 前身的发展历史2018年6月,OpenAI 训练了 GPT-1。当时的学习材料约 5GB,有1.17 亿个参数;2019年2月问世的 GPT-2,学习材料是第一代的8倍,最大模型参数为15亿;2020年5月 GPT-3 问世,最大模型参数达到了1750亿,学习数据达到45TB;2023年3月,GPT-4 问世。它的模型参数据说达到了万亿级别 …当参数模型达到巨大的量级,ChatGPT 就出现了质变 — 现在它可以理解同一意思的不同表述,学会了编程语言,还能进行高质量的外语翻译,甚至把语言转化为代码 …以 ChatGPT 为代表的“大语言模型”们,正在改变我们的世界 …3
困在应试教育里的孩子,怎么办?
面对 GPT-4对教育的冲击,这个视频的作者于博士,专门花了不少篇幅去讲解。他提出一个非常现实的问题:真正令人担心的是,按照现有模式(应试教育)培养出来的学生,在未来 5-10 年后,还能不能找到好工作?适应未来的就业市场?在未来三年或五年之后,或许更长的时间,我们可能会发现,学校所教授的知识,将会被大语言模型所取代。面对这样的情况,我们该如何应对呢?
未来AI只会更出色、更快速、更便宜。在这种情况下,相当于人人都配有一个「熟读人类既有知识」的“王语嫣”,市场可不会因为学校的禁用而集体不用。《天龙八部》中不会打却精通武学的王语嫣,就有点像GPT
于博士的回答是:打破应试教育束缚,培养孩子的学习力,而且是终身学习力。应试教育是一种「高度特化的教育」。由于最终的考核指标是分数,因此不论教育系统的设计目标是什么,最终「学生的行为」都难免会被特化为仅服务于分数,凡是不能提高分数的行为都不被视为“学习”,即使是可以提高创造力的行为。这样长期规训的结果是,很多学生对“学习”一词的理解变得片面和扭曲。每当提到“学习”这个词时,这些学生就会联想到那种反人性的规训。好不容易熬到毕业了,现在被告知还要再“学习”,他们情绪上当然会抵触。然而,不幸的是,就算心态上不再抵触学习,也还不得不克服过去形成的错误习惯,重塑自己的学习能力。这一步是最困难的,不仅要去掌握抽象层次更高的认识论、符号学、数学建模、批判性思维等内容,还要克服长期养成的习惯,但十多年的应试规训对一个人的影响太深远了,很难在一朝一夕改变。每当这些人想学习时,就会条件反射式地重拾应试的学习习惯,自己把自己变回教室里等着灌输的学生,会习惯性地等待别人的教授,习惯性地记忆别人的总结,很少思考知识到底是怎么来的。相关阅读:
魔都牛校优等生自述:一路应试教育,进入理想高中后,我抑郁休学了…
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号AIGC666aigc999或上边扫码,即可拥有个人AI助手!