文章主题：GPT-5, AI训练, 安全性
新智元报道
编辑：编辑部
🎉震惊全场！据OpenAI掌门人 Сам Altman 在最近的访谈中透露，GPT-4 已经是团队目前的巅峰之作，未来研发的脚步似乎戛然而止。没有 GPT-5 的消息，让科技爱好者们陷入了深深的思考。🚀虽然我们无法预知技术的下一站在何处，但Altman的这一席话无疑为创新和未知留下了更多想象空间。🔥保持关注，探索无界！
Sam Altman辟谣了！根本就没有GPT-5！
之前一直有大瓜称，GPT-5正在秘密训练中，预计年底上线。群众们奔走相告，可以说万分期待。
结果，就在刚刚，Sam Altman亲口辟谣了这个大瓜。
🌟【最新进展】🚀我们专注于提升模型实力，而非一味追求新技术的首发。当前，我们的技术团队正深度挖掘GPT-4的强大潜能，而非跳过其直接转向GPT-5。每一步前行都稳扎稳打，只为带来更优质、更可靠的AI体验。👩💻👨💻
🌟【OpenAI官方澄清】💡：关于GPT-5的训练进度，早期信件中的说法并不准确。我们目前并未进行此项工作，并预计在未来一段时间内也不会涉足。相反，我们专注于GPT-4的后续研发，这些项目涉及至关重要的安全问题，却被严重忽视了。🚀每个步骤我们都力求谨慎，确保技术的安全与伦理边界。👩💻如果您对我们的最新进展感兴趣，敬请关注官方声明，获取最准确的信息。💪
所以，从头到尾，根本就没有GPT-5这回事？？
第二个大瓜是，Altman对于AI大佬暂停超强AI训练的联名信，也首次做了回应。
让我们看看，目前网上流出的3分钟视频里，Altman究竟说了什么。
对联名信首次表态
🎉【全球科技巨头联手】🌟 顶尖AI专家Yoshua Bengio与Apple之父携手马斯克，引领行业巨擘们以行动发声！🔥近日，他们联合签署了一封公开信，对GPT-5的潜在影响提出严峻挑战，引起了广泛关注。🌍 短短数日，签名人数已激增至惊人的2.5万+，这场科技界的风暴正席卷全球。🔍 他们的声音不仅是对未来技术趋势的深度剖析，更是对保护知识产权与推动可持续发展的坚定呼吁。🌈 让我们一起期待这场智慧碰撞将带来怎样的革新与启示！🌍 #AI围剿# #GPT-5挑战
随后，另一图灵奖得主Yann LeCun、吴恩达等大佬也纷纷表明自己没有署名的原因。
虽然公开措辞是‘针对所有AI机构’，但大家都明白，这封信就差没点OpenAI的名了。
🌟 Sam Altman, the tech icon known for his低调 approach, has remained mum on this matter, refraining from any public commentary on the letter. 🤔 The world eagerly awaits his thoughts, but he remains a mystery in the midst of the buzz. 💬
🌟 Sam Altman, the mastermind behind Y Combinator, recently chimed in on Lex Fridman’s second round podcast, sharing his thoughts on an idea that has sparked some debate. While he expresses support for parts of it, he gently nudges the conversation by pointing out a crucial aspect that has been overlooked. 🤝♂️Altman, known for his insights into startup success, acknowledges the proposal’s potential impact but emphasizes the need for a more comprehensive perspective. By doing so, he encourages deeper reflection and ensures that all essential aspects are given due consideration. 💡In this insightful exchange, Altman’s comments not only add weight to the ongoing discussion but also serve as a call-to-action for those interested in delving into the subject matter. His contribution, though subtle, underscores the importance of considering all angles before embracing any proposal wholeheartedly. 🤝🤔Remember, when it comes to crafting engaging content, SEO-friendly language and concise use of emojis can significantly boost your online visibility. So, let’s keep the conversation going while respecting Sam Altman’s privacy and focusing on the essence of his contribution. #SamAltman #LexFridman #ThoughtLeadership
他的原话是：‘这个倡议的其中一部分，我是十分赞同的。就像我们训练完GPT-4以后，也是等了六个月才发布。’
Altman强调，OpenAI花了很长时间研究GPT-4的安全性，接受了外部审核，也进行了内部的红队演习。
总之，OpenAI已经尽最大努力去了解，这个模型究竟发生了什么，而且让整个过程谨慎再谨慎。
他自豪地表示：自从我们发布GPT-4以后，一切都很不错。
的确，GPT-4的安全能力确实无可指摘，用Altman的话说，它也许不是功能最强大的模型，但肯定是目前未知最安全、最对齐的模型。
因此，对于公开信的这一部分，Altman是百分百赞同的，他还表示，随着模型的能力越来越强，与之对应的安全措施确实需要增加。
否认：根本就没有GPT-5
不过，Altman随即石破天惊地指出了这封信的‘华点’。
他指出，这封公开信遗漏了最含技术性的一个细微之处——我们该在哪里停止。
接着，他说出了让在场所有人都惊掉下巴的一句话——‘我们根本就没在训练GPT-5’。
这封信一开始的版本，说OpenAI正在训练GPT-5。但实际上我们并没有，而且在相当一段时间内，都不会这样做。所以这么来看，这封信就有些愚蠢了。
不过，他承认，在GPT-4发布后，OpenAI确实做了很多别的事情，并且也在忙着处理各种亟待解决的安全性问题。
而在他眼里，签署一封公开信，并不是提出这个问题最好的方式。
我们的唯一区别，就是更坦诚
Lex还在访谈中提问道：我发现，你从不避讳到处谈话，OpenAI的其他人也是如此。其它公司都会在发布AI产品时，都会更保密一些，但你们却为何如此坦诚呢？你们未来还会继续保持这种坦诚吗？
Altman回答说，我们当然会一直保持坦诚。
因为OpenAI坚信，ChatGPT技术会影响所有人，所以他们大胆地选择把一个还不完美的AI系统公之于众，让所有人都囊括在这个讨论体系中。
尽管这让OpenAI背负上了种种‘声誉风险’，种种骂名，会需要在公众面前改口，让自己难堪。
但是至少，所有人就都能体验和思考这项新技术，了解AI好的一面，和不好的一面。
Altman认为，这样做值得。
很多公司不愿意多说一句话，除非他们确定这句话一定是对的。
而OpenAI认为，保持坦诚比别的选择都要好。
OpenAI的一大目标就是，让全世界都参与进来，一起思考新技术，建立新机构，弄清人类想要的未来究竟是什么样子。
OpenAI另一创始人：未来属于我们所有人
就在活动的同一天，OpenAI的总裁兼联合创始人Greg Brockman，也发了一段长文强调公司对模型的安全问题是非常重视的：
有关AI发展速度的讨论中，有一个底层的核心理念，那就是我们需要非常重视安全性问题，谨慎前行。这对于我们的目标来说十分重要。
我们花了6个月的时间测试GPT-4，力图让这个AI更加安全。这一成就建立在我们多年来步调一致的研究之上。
我们计划继续加强我们就安全问题采取的措施，更积极地面对安全性问题——要比很多用户想的更积极。
大体上我们的目标是，每一个我们推出的模型，都是最一致的。而我们也做到了，从GPT-3，GPT-3.5，到现在的GPT-4．
我们相信（我们也是这么做的），功能强大的AI训练应该向政府及进行汇报，同时要越来越认真地这些AI的能力和影响进行预测。进行AI训练要求我们进行最高规格的测试，比如说危险能力测试。
我们认为大规模运算的使用的管控，安全标准，和部署AI后的监管以及经验分享是非常好的注意。
但是，细节问题也很重要，并且应该随着技术的进步时刻调整。
同时，解决现实问题，比如防止滥用和自我伤害，减轻训练中的偏见，以及应对长期存在的问题等等，同样至关重要。
从AI的长期发展历史来看，专家们自信满满的预测往往并不准确。为了避免出现未注意到的预判错误，我们就应该让新技术以其当下的面貌时刻和现实世界碰撞，并在不断碰撞的过程中发展、测试、投入使用，当然能力提升也是一定的。
同时还有一些人们不常聊到的创造性想法，可以以意想不到的方式提升AI的安全性状况。
比如说，开发一系列性能越来越强的AI十分简单，这就提供了一种新的解决安全问题的机会，和过去不常出现重大模型升级时的方法完全不同。
未来的AI变革性技术变化让我们更加乐观的同时，也带来了诸多担忧。
各种不同的情感都是合理的，OpenAI的内部人员也都有不同的看法。
我们可以一同构建未来——这是一个独一无二的机会，同时对我们来说也是一种义务。
网友：改名GPT-4.5，搞定
那对于这个惊爆的大瓜，网友们信不信呢？
有人认为，这一串发言，完全就是欲盖弥彰，把GPT-5这个名字改成GPT-4.5不就完事了么。
这一网友也很损地翻译了一下Altman的话，‘这个发言总结起来就是，我们没搞GPT-5，搞的是GPT-4.99999。’
这位网友脑洞更大，‘我们没有在训练GPT-5，这是虚假消息。我们训练的AI叫GPT-10，然后我们会让GPT-10去开发一个既安全又合理的GPT-5，再弄9个版本之后，我们就可以公之于众啦。’
而另一边，Sam Altman曾经的好兄弟、OpenAI曾经的联合创始人之一马斯克，最近也被爆出花大价钱买了10000个GPU（每颗约1万美元），还从谷歌那里高价挖人，要在推特内部启动一项AI项目。
因为经营理念不和、愤而退出OpenAI创始人席位的马院士，究竟在憋什么大招呢？让我们拭目以待。
责任编辑：常靖蕾
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
