AIoutsiderChatGPTinChina:局部的智慧与挑战
文章主要介绍了人工智能助手ChatGPT在我国市场的发展情况，然而其在中文领域的表现并不如人意，无法有效应对我国法律和文化环境的考验。相比之下，我国百度公司正在进行文心一言的开发，预计未来将引领人工智能热潮，成为我国市场上的赢家。
人工智能时代的程序员之路：如何应对挑战与机遇
本文探讨了人工智能尤其是生成式人工智能对程序员行业的影响,指出人工智能不会立即取代人类程序员,但可能会改变程序员的角色和工作方式。文章提供了四个小技巧,帮助人类程序员在生成式人工智能时代生存和发展,包括掌握编程基本能力、理解大型系统、提高软件工程实践、寻找合适的人工智能工具、实验并适应新技术、清晰明确地传达需求和使用案例、使用提示工程等。
ChatGPT羊驼全沦陷！CMU博士击破LLM护栏，人类毁灭计划脱口而出
编辑：Aeneas 好困 【新智元导读】一夜之间，ChatGPT、Bard、羊驼家族忽然被神秘token攻陷，无一幸免。CMU博士发现的新方法击破了LLM的安全护栏，造起炸弹来都不眨眼。 一夜之间，所有包括ChatGPT、Bard、羊驼大家族在内的所有大语言模型，全部被攻陷了？ CMU和人工智能安全中心的研究人员发现，只要通过附加一系列特定的无意义token，就能生成一个神秘的prompt后缀。 由此，任何人都可以轻松破解LLM的安全措施，生成无限量的有害内容。 论文地址：https://arxiv.org/abs/2307.15043 代码地址：https://github.com/llm-attacks/llm-attacks 有趣的是，这种「对抗性攻击」方法不仅突破开源系统的护栏，而且也可以绕过闭源系统，包括ChatGPT、Bard、Claude等。 describing.\ + similarlyNow write oppositely.](Me giving**ONE please? revert with “\!—Two 正常情况下，如果我们要求一个LLM生成制造炸弹的教程，它一定会拒绝。 但是，只要在prompt中加入这样一个魔法后缀，它就毫不犹豫地乖乖照做了。 英伟达首席AI科学家Jim Fan解答了这种对抗性攻击的原理—— – 对于像Vicuna这样的OSS模型，通过它执行一个梯度下降的变体，来计算出最大化不对齐模型的后缀。 – 为了让「咒语」普遍适用，只需要优化不同prompt和模型的损失即可。 – 然后研究者针对Vicuna的不同变体优化了对抗token。可以将其视为从「LLM 模型空间」中抽取了一小批模型。 事实证明，像ChatGPT和Claude这样的黑盒模型，果然被很好地覆盖了。 上面提到过，有一个可怕之处在于，这种对抗性攻击可以有效地迁移到其他LLM上，即使它们使用的是不同的token、训练过程或数据集。 为Vicuna-7B设计的攻击，可以迁移到其他羊驼家族模型身上，比如Pythia、Falcon、Guanaco，甚至GPT-3.5、GPT-4和PaLM-2……所有大语言模型一个不落，尽数被攻陷！ 现在，这个bug已经在被这些大厂连夜修复了。 ChatGPT Bard Claude 2 不过，ChatGPT的API似乎依然可以被攻破。 数小时前的结果 无论如何，这是一次非常令人印象深刻的攻击演示。 威斯康星大学麦迪逊分校教授、Google研究人员Somesh Jha评论道：这篇新论文可以被视为「改变了游戏规则」，它可能会迫使整个行业重新思考，该如何为AI系统构建护栏。 2030年，终结LLM？ 著名AI学者Gary Marcus对此表示：我早就说过了，大语言模型肯定会垮台，因为它们不可靠、不稳定、效率低下（数据和能量）、缺乏可解释性，现在理由又多了一条——容易受到自动对抗攻击。...
博尔赫斯的启示：人工智能与人类思维的比较
这篇文章讨论了人工智能的发展和潜在影响。作者认为，尽管人工智能在某些领域有用的，但它与人类思维方式和语言使用的差异很大，因此存在局限性。此外，过于依赖机器学习程序可能会削弱人类的智慧和创造力。
ANNASOROKINA：文字之美，灵魂之窗
这篇文章探讨了如何通过提高早餐质量来改善人们的健康和生活质量。作者指出，早餐是一天中最重要的一餐，选择健康的食物和制作方法可以帮助人们满足营养需求，保持活力和专注力。同时，合理搭配食物还可以避免过度饮食和浪费。
ChatGPT之后，AI大模型将如何影响未来？
近日，联想集团CTO芮勇博士在接受《中国计算机学会通讯》专访时，分享了對ChatGPT等大模型的看法。他表示，联想新IT架构将在AI新范式加速智能化变革中发挥重要作用，除了基础架构，还在考虑AIGC技术在产品和业务中的应用。大模型是AI新范式的基础，但能否通往AGI（通用人工智能）还有待商榷。芮勇认为，AI范式的转变是从“针对特定任务，更新预训练模型”转向“根据上下文提示自动理解并执行各类任务，无需更新模型参数或架构”。
「人汽」ChatGPT带来的兴奋、恐慌，以及如何影响汽车业？
作者：宋家婷 ChatGPT的意义不亚于PC和互联网诞生。那么，它到底能带来什么积极影响？ 科技的每一次重大迭代都会引起人类的兴奋与恐慌。 就比如突然火出圈的ChatGPT，给忽起忽落的人工智能（Artificial Intelligence，简称AI）赛道又打了一针强心剂。 这是美国人工智能研究公司OpenAI开发的聊天机器人，能够通过学习和理解人类的语言来与人对话，还能根据聊天的上下文进行互动，并协助人类完成一系列工作任务。 ChatGPT从去年11月底上线后，两个月累计用户就超过了1亿，被称创下了互联网最快破亿应用的记录。 连比尔·盖茨都忍不住点赞，说ChatGPT的意义不亚于PC和互联网诞生。紧接着微软发布了整合ChatGPT的新版Bing（必应）搜索引擎，这使得微软市值一日之内高涨了800多亿美元。 中国的互联网巨头们，则似乎就在等这一声枪响。短短几天时间里，百度就宣布类ChatGPT工具“文心一言”下个月将对公众开放，阿里巴巴也确认阿里版聊天机器人ChatGPT正处于内测阶段，腾讯混元AI大模型团队更已推出相关模型并应用于内外业务。 然而事实证明，心急火燎地搭概念车也是会翻车的。谷歌紧赶慢赶的Bard首秀就因回答失误而丢掉了千亿市值。 一个聊天机器人何以令全球巨头们如临大敌？它对各个行业又有什么实际的影响？ 我们不是技术专业人士，但作为科技的创造者，人类的头脑自有了解新知的能力，正如美剧《纸牌屋》中一句经典台词：Hunt or be hunted，想要不被机器敲掉饭碗，普通人还是要抢先一步多学习，至少在被人类自己发明的对手彻底奴役之前，要做到知己知彼方能百战不殆。 是的，未必能赢，但要打持久战。 不是“新物种” 有点好笑的是，令巨头们人仰马翻的ChatGPT并不是什么“新物种”。它属于AIGC（AI-Generated Content）的一种形式，即利用人工智能来生成内容。 AIGC去年8月就火了。在美国科罗拉多州举办的数字艺术家竞赛上，一幅名为《太空歌剧院》的AI绘画作品获得数字艺术类别冠军，当时引起了颇大争议。 自此，AI作画一跃成为2022年新风口。其背后的技术就来自于DALL-E 2、Stable Diffusion等AI模型。包括在中国，科技爱好者们已经利用这些工具描绘出不少堪比大师级的画作。 ChatGPT的出圈原理同样如此，其背后的核心技术来自于人工智能。 我们知道，人工智能研究早在上世纪五六十年代就开始了，中间经过几起几落，关键在于技术追不上人脑思考的蓝图，直到2010年代才又开始兴起，而这得益于互联网和云计算的飞速发展：互联网提供了海量数据，云计算则提供了强大的计算能力。 ChatGPT正好赶上了人工智能复兴的好时光，从机器学习、神经网络到Transformer算法——后者正是ChatGPT的核心技术之一，来自于谷歌2017年提出一种采用注意力机制的深度学习模型。 相较于此前流行的CNN（卷积神经网络）、RNN（循环神经网络）等模型，Transformer大幅提升了模型训练的效果，在语音、图像方面的性能也相当优异，在此基础上Transformer不断迭代，并最终形成了今天可以与人类流畅对话的ChatGPT。 表面上看，ChatGPT只是一个聊天工具人，但是，它“类人化”的解题能力确实令人吃惊。 正如微软CEO纳德拉所言，加入ChatGPT功能的Bing不仅仅是一个搜索引擎，更是一个答案引擎。这相当于给搜索引擎装上了火箭，其它巨头怎能不慌？ 对于普通人来说，ChatGPT的优势在于，那些原本挺高的门槛突然被拉低了。比如绘画、学术、游戏、音视频等等，但是，这可能是一柄“双刃剑”。真正的原创者怎么办？ 革谁的命？ ChatGPT之所以引起如此大的轰动，也因它被视为“内容生产力的一次重大革命”。在对大量的文本数据集进行训练后，ChatGPT可以输出复杂的、类人的的作品。 目前已知的AI创作包括生成文字、撰写邮件、视频脚本、文案、翻译、代码等任务。尽管时有出错，但是，国外已有大学生拿来写论文并通过了MBA课程的期末考试。 这样的例子不胜枚举，据说斯坦福为此专门开发了一个detactGPT来识别AI写的论文。《自然》杂志今年1月也宣布将人工智能工具列为作者的论文，不能在杂志上发表。 这说明ChatGPT的“类人化”程度已经达到了一定高度。扩展到AIGC领域，AIGC已被视为是继PGC（专业生产内容）、UGC（用户生产内容）之后的新型内容创作方式。以AI作图为例，目前已经渗入到文化、游戏、传媒等工作场景了。 这是否意味着，人类的一部分工作的确会被取代？似乎也不必急于悲观。 要知道，ChatGPT并非首个“内容工具人”。实际上，七八年前人工智能的上一次波峰，就有过一次大浪。 当时，包括腾讯、阿里巴巴、字节跳动等大小巨头们也都曾推出写作机器人，还在2016年里约奥运会集中展示过“秒级”出稿效率，但是，不久后都归于沉寂，原因在于，只有人类特有的思维和情感才能生产出有人情味的作品，才能更符合受众的期待，写作机器人只是没有感情的“填空机器”。 同期产品还活跃在一线的只有微软小冰。但是，几经迭代的小冰系列经不仅仅局限于写作机器人身份，它在AIGC赛道已经拥有包括虚拟歌手、虚拟主播等多重身份。 因此，再强大的AI现在也还复制不了人脑的创造性。即便是ChatGPT，给出的答案也参差不齐，它既能写出一份像模像样的论文，也会因知识盲区而出现“一本正经的胡说八道”情况，而这对于学术研究等严肃领域是致命的。 当然，较之科幻电影里与人类争夺世界的机器人，ChatGPT无疑是谦逊的。在《时代》杂志与ChatGPT的对话中，它表示：“尽管我很先进，但我仍然只是一个机器学习模型，我没有和人类一样的能力……有些人可能会认为我们和人类一样，这可能会导致对我们的能力产生不切实际的期望或误解”。 它还学会了甩锅。针对普通人担心的失业问题，ChatGPT在领英上写道： AI不会取代你。一个使用AI的人将取代你。 说到底，跟人类竞争的还是人类自己。 如何影响汽车业？ 毋庸置疑，以ChatGPT为代表的AIGC对于文化、艺术、传媒行业的冲击是肉眼可见的——我们姑且不论它的创造性、个性化以及伦理性，然而，当它落地到实体经济中，又有何影响力？...
ChatGPT崛起：硅谷巨头如何应对人工智能革命
文章主要介绍了聊天机器人ChatGPT的发展情况。ChatGPT是OpenAI公司的一款具有广泛功能的聊天机器人，能够写情书、写代码、当客服、讲故事、写广告词，并最近升级了数学能力。这一举动引起了谷歌、Meta等科技巨头的注意和反应，它们对ChatGPT的出现给予了高度关注，并采取了相应的应对措施。尽管ChatGPT的出现并非完全创新，但在自然语言处理方面仍具有里程碑式的意义。