人工智能时代的文学:青年诗人戴潍坊的思考与探索
未分类

人工智能时代的文学:青年诗人戴潍坊的思考与探索

article@3: 第六届成都国际诗歌周在成都举行,中外诗人围绕“终极关怀:人类的生命与生态”主题进行文学交流与创作。青年诗人戴潍坊,对科技对文学的影响有深入观察和思考,认为世界正在进行自身电子化折叠,人类的生存空间却越来越小。她认为文学应保持对现实的情感和道德经验的广泛历史回应,诗歌可唤醒人性,重新链接这个世界的亲密。
(万字长文)为什么ChatGPT那么强?华人博士深度拆解GPT-3.5能力起源?️AI商业精选
研博论文

(万字长文)为什么ChatGPT那么强?华人博士深度拆解GPT-3.5能力起源?️AI商业精选

关注【AI商业精选】,带你早半步认知这个复杂的世界!我们会有专业的团队为你从海量信息中精选AI商业文章。限时免费:我们开发了一款GPT聊天机器人(无需魔法、不限聊天次数),如果你希望免费领取7天试用,可以关注公众号回复【668】。AI主编?要点提炼——AI商业精选1.GPT-3.5系列的语言能力、世界知识和上下文学习能力来自于davinci预训练模型。2.GPT-3.5系列遵循指令和泛化到新任务的能力来源于大规模指令学习。3.GPT-3.5系列的对话能力和生成中立的回答能力来源于与人类的对齐,无论是监督学习方式(text-davinci-002)还是强化学习方式(text-davinci-003)。+1.code-davinci-002似乎是GPT-3.5系列中能力最强的模型,因为它综合了代码训练和指令微调的效果。以下为正文内容,Enjoy:作者:符尧 彭昊 Tushar Khot编辑:LRS 好困最近OpenAI发布的ChatGPT给人工智能领域注入了一针强心剂,其强大的能力远超自然语言处理研究者们的预期。体验过ChatGPT的用户很自然地就会提出疑问:初代GPT 3是如何进化成ChatGPT的?GPT 3.5惊人的语言能力又来自哪?最近来自艾伦人工智能研究所的研究人员撰写了一篇文章,试图剖析 ChatGPT 的突现能力(Emergent Ability),并追溯这些能力的来源,并给出了一个全面的技术路线图以说明 GPT-3.5 模型系列以及相关的大型语言模型是如何一步步进化成目前的强大形态。原文链接:https://yaofu.notion.site/GPT-3-5-360081d91ec245f29029d37b54573756作者符尧是2020年入学的爱丁堡大学博士生,硕士毕业于哥伦比亚大学,本科毕业于北京大学,目前在艾伦人工智能研究所做研究实习生。他的主要研究方向为人类语言的大规模概率生成模型。作者彭昊本科毕业于北京大学,博士毕业于华盛顿大学,目前是艾伦人工智能研究所的Young Investigator,并将于2023年8月加入伊利诺伊大学厄巴纳-香槟分校计算机科学系,担任助理教授。他的主要研究方向包括使语言 AI 更有效率和更容易理解,以及建立大规模的语言模型。作者Tushar Khot博士毕业于威斯康星-麦迪逊大学,目前是艾伦人工智能研究所的研究科学家。他的主要研究方向为结构化机器推理。一、2020 版初代 GPT-3 与大规模预训练初代GPT-3展示了三个重要能力:语言生成:遵循提示词(prompt),然后生成补全提示词的句子。这也是今天人类与语言模型最普遍的交互方式。上下文学习 (in-context learning):遵循给定任务的几个示例,然后为新的测试用例生成解决方案。很重要的一点是,GPT-3虽然是个语言模型,但它的论文几乎没有谈到「语言建模」 (language modeling) —— 作者将他们全部的写作精力都投入到了对上下文学习的愿景上,这才是 GPT-3的真正重点。世界知识:包括事实性知识 (factual knowledge) 和常识 (commonsense)。那么这些能力从何而来呢?基本上,以上三种能力都来自于大规模预训练:在有3000亿单词的语料上预训练拥有1750亿参数的模型( 训练语料的60%来自于 2016 – 2019 的 C4 + 22% 来自于 WebText2 + 16% 来自于Books + 3%来自于Wikipedia)。其中:语言生成的能力来自于语言建模的训练目标 (language modeling)。世界知识来自 3000...
大模型创业潮:ChatGPT及背后GPT大模型引领行业变革
本科论文

大模型创业潮:ChatGPT及背后GPT大模型引领行业变革

ChatGPT 和 GPT 大模型正引发创业热潮,众多互联网大佬如李开复、王慧文、王小川等纷纷加入,并在阿里巴巴、腾讯、快手等互联网大厂的中高层职位上辞职。3 月,阿里巴巴技术副总裁贾扬清宣布与团队一起辞职创业,创业方向为 AI,公司关注包括大模型在内的 AI 应用。此外,快手 AI 核心人物李岩创办了元石科技,关注多模态大模型的研发;亚马逊首席科学家李沐可能加入一家名为 Boson.ai 的人工智能公司。百舸争流,究竟谁能拔得头筹?一、投资人看好谁,如美团联合创始人王慧文、阿里巴巴贾扬清等。二、寻找中国的 Sam Altman,即整合顶级资源的能力和足够的远见。三、大模型需要的不仅是技术,还需要公司管理,一个能整合资源的 CEO。
文章AI翻译工具风靡一时,译者何去何从?
本科论文

文章AI翻译工具风靡一时,译者何去何从?

中国国际高新技术成果交易会上展示的人工智能翻译耳机。然而,一位曾担任译员的UP主在B站视频中预测,未来五年内,95%的翻译从业者可能面临失业。AI技术驱动的自然语言处理工具ChatGPT的翻译能力引发行业讨论。尽管AI在短期内无法完全替代人工翻译,但许多译员认为,一些 low-end 和低价翻译工作可能会被AI取代。
国内人工智能为何做不出ChatGPT?
研博论文

国内人工智能为何做不出ChatGPT?

国内的人工智能概念都已经说了好久了,但我们为什么做不出ChatGPT,反而又是美国人引领了这一波人工智能的革命? 我们来看看ChatGPT的团队结构。ChatGPT团队的平均年龄为32岁,其中20~29岁的成员有28人;30~39岁的共50人,占61%;40~49岁的仅3人;无50~59岁年龄段的成员;60岁以上的有1人。 团队中还有9名华人,占团队总人数10%。其中5人本科毕业于清北、华科等国内名校。 可以看出,这支团队大部分人员都在30到39岁,一支30到40岁为主力的团队,却创造出这么惊人的产品,而国内那么多互联网大厂,用的大部分都是二十多岁的小年轻,却做不出这样的产品,谁说中年人就没有能力呢? 这个年龄段,如果放在国内,已经到了快被优化的年龄。用马老师的话来说,就是到了快要为中小企业做贡献的年龄。用京东的话来说,就是到了快顺利毕业的年龄。 而他们在美国,却正是雄心勃勃、年轻力壮、充满创造力的时候。美国人也丝毫不觉得这个年龄就到了被社会废弃的阶段,而是把这个年龄段的人视作充满精力,同时也能很好地适应组织与文化的阶段。 其实,这样才是正常的。一个硕士研究生毕业后,都二十大几了,他们在学校的时候不断积累理论学识,进入了社会后,也需要通过一个又一个的实际项目来积累经验,同时,还要学会与人沟通,学会人际交往。 出了社会经过好几年的历练,到了三十多岁,正好是熟悉行业、有一定技术积累、有一定人际交往能力的阶段,应该说,三十多的这个年龄段,是人生中最好的时候。 然而,在国内,这却是即将被社会淘汰的年龄。所以,有时候我们也不能怪清北学生都跑去为美国做贡献。 留在国内做程序员,大多都是吃青春饭,年轻的时候拿点相对不错的薪资,等到了三十岁以上,好像每个人都是战战兢兢的。即便你能力不错,工作态度也没问题,但企业依旧觉得你年纪大了,觉得你跟不上公司的节奏。 现实就是如此,许多员工年轻的时候每天996,把身体都干出职业病了。但只要年龄一上去,企业就不留情面地把35岁的员工淘汰了,还为自己的裁员找各种借口。 而这一批上有老、下有小,已经三十多岁的员工进入社会想要继续找工作时,发现整个行业都介意他们的岁数,找份工作十分艰难。 正是因为这种极其利己,把员工都当做机器来压榨的企业文化,导致很多清华北大的学生本科一毕业,就到国外去留学,然后就在美国找工作再也不回来了。 我们在清华北大投入了那么多的资源,这些顶尖人才一毕业就出国为美国做贡献,而我们到头来却责怪清华北大成了所谓的“美国预科班”,其实错的不是这群清北的毕业生,而是整个职场文化就有问题。 那么,只要是正常人,大概都会愿意留在美国。在美国的程序员工资更高,还没有996的工作压力,而且不会有年龄危机。 只要你一直勤奋努力,不断提升自己的技术,没有任何企业会因为你的年龄而歧视你,每一个上了岁数的求职者,都能获得自己的尊严。 这种人才环境,正是吸引世界各国的人才源源不断流向美国的原因。什么时候,我们也能真正尊重人才,优待人才,我们才能在科技领域取得很大的突破。
AI助力科研:TLDR生成器助您速读论文摘要
论文润色

AI助力科研:TLDR生成器助您速读论文摘要

这篇文章讲述了一款名为 TLDR 的 AI 软件,能自动生成科研论文的一句话总结。TLDR 通过深度神经网络和大量训练生成,能帮助研究人员快速浏览论文。现在该软件已在 Semantic Scholar 上线,可用于电脑和手机。TLDR 的开发者希望它能帮助研究人员更有效地阅读论文。
AI创作时代来临:ChatGPT与AIGC:智能创作时代探讨未来智能创意产业
本科论文

AI创作时代来临:ChatGPT与AIGC:智能创作时代探讨未来智能创意产业

文章主要介绍了近期火爆的AI助手ChatGPT以及其背后的技术原理,以及一位 expert 的观点。ChatGPT凭借其强大的通用性和广泛的应用场景,迅速吸引了大量用户,引发了人工智能领域的新一轮热潮。人工智能的发展已经从过去的选择题阶段进化到了能进行简答和创作的新时代。ChatGPT的技术基础在于超大参数规模和训练集,结合人类反馈的强化学习,使其具有了超强的理解和创作能力。此外,ChatGPT还具有广泛的应用场景,包括提供咨询、编写代码、写作、翻译、生成图像、音频、视频和游戏等内容。对于未来的发展,作者认为人工智能将会在创造性产业中扮演越来越重要的角色。