据外媒报道，美国时间5月30日，超过350名人工智能（AI）领域的行业高管、专家和教授签署了一份22字的公开声明，这份声明于周二发表在非营利组织人工智能安全中心(CAIS)的网站上，签署者包括Google DeepMind首席执行官戴米斯哈萨比斯（Demis Hassabis）、OpenAI首席执行官山姆奥特曼（Sam Altman）、“AI教父”杰弗里辛顿（Geoffrey Hinton）和约书亚本希奥（Youshua Bengio）等。
声明只有一段话：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”
这份声明被外界解读成“警示人类AI技术带来的灭绝风险。”
小V认为这22字声明可能声量大过实际意义，要了解这些科技大佬们到底惧怕AI的什么？还是要从Geoffrey Hinton近期接受CNN及WIRED的采访看起。
Geoffrey Hinton
“尽管许多媒体都在说我认为应该立即停止人工智能的发展，但我从未如此表示，”人工智能领域的重要人物，被称为AI教父的Hinton如是说。他认为停止AI的发展不仅不可能，我们还应该继续发展它，因为它能做出惊人的事情。但我们应该同等地努力去缓解或预防可能的负面后果。
Hinton强调，他并没有因为抗议Google对新型AI的处理方式而离开。实际上，他说，尽管Google在这个领域处于领先地位，但公司行动相对谨慎。Google的研究人员发明了一种被称为“Transformer”的神经网络模型，这对PaLM和GPT-4等模型的开发至关重要。
AI教父的由来1
回溯到1980年代，Hinton和其他几位研究人员试图通过训练人工神经网络，而非传统编程方式，来提高计算机的智能水平。这种网络可以将像素作为输入，随着观察到的样例越来越多，调整连接其粗糙模拟神经元的值，直到系统能够识别图像的内容。这种方法在过去的几年里显示出一些潜力，但直到十年前，它的真正力量和潜力才显现出来。
2018年，Hinton因其在神经网络领域的工作获得了图灵奖，这是计算机科学领域的最高奖项。他和两位其他的开创性人物，Meta的首席AI科学家Yann LeCun以及蒙特利尔大学的教授Yoshua Bengio一起接受了这个奖项。
当时，新一代的多层人工神经网络——被大量的训练数据喂养并运行在强大的计算机芯片上——突然之间比任何现有程序更擅长标记照片的内容。这种技术被称为深度学习，引发了人工智能的复兴，大型科技公司纷纷抢着招募AI专家，构建越来越强大的深度学习算法，并将其应用于面部识别、翻译和语音识别等产品。
与OpenAI的关系匪浅02
谷歌在收购 Hinton 的公司 DNNResearch 后于2013年聘请了他，DNNResearch 的成立是为了将他的大学实验室的深度学习想法商业化。两年后，Hinton 的一名研究生 Ilya Sutskever 也加入了谷歌，他离开了这家搜索公司，与人共同创立了 OpenAI，作为一个非营利组织来抗衡大型科技公司在 AI 领域积累的力量。
自成立以来，OpenAI一直专注于扩大神经网络的规模，它们消耗的数据量，以及它们消耗的计算能力。2019年，该公司作为一个由外部投资者资助的营利性公司进行了重组，后来从微软那里获得了100亿美元的投资。它开发了一系列令人瞠目结舌的流利文本生成系统，最近的GPT-4就是其中之一，这个系统为ChatGPT的高级版本提供动力，并且因其执行看似需要推理和常识的任务的能力而让研究人员惊叹。
对AI快速发展的担忧3
Hinton认为我们已经拥有了一种可能引起混乱和破坏的技术。他指出，像其他人一样，更先进的语言算法可能会发起更复杂的错误信息活动，可能还会干预政治活动。
GPT-4和 PaLM 等模型最令人印象深刻的新功能是他发现最令人不安的地方。事实上，人工智能模型可以执行复杂的逻辑推理并与人类互动，并且进展速度比预期的要快，这让一些人担心我们越来越接近于看到能够超越人类寻求更多控制的算法。“真正让我担心的是，为了提高效率，你必须创建子目标，而对于你想做的或多或少的任何事情，一个非常明智的子目标就是获得更多的权力——获得更多的控制权，”Hinton 说。
有些人对AI的警示极端到了极点。非营利机构Machine Intelligence Research Institute的研究员Eliezer Yudkowsky在最近的TED演讲中，以及在为《时代》杂志撰写的一篇文章中声称，AI正朝着消灭地球上所有人的方向发展，各国应愿意使用致命力量确保AI的发展停止。
然而，Hinton也坦白地承认，他不知道如何控制OpenAI、Google和其他公司正在构建的AI。“我真的不知道，”他说。“我只是在说，许多聪明的人应该付出大量的努力去研究我们如何应对AI可能取代人类的各种可能性。”
落后就要挨打不能停下4
小V认为，对于AI的快速发展我们应该要抓紧步伐追赶上去，因为AI的研究进化不是光靠危言耸听的警示就能够停止的，一项具有变革意义的技术被推动的后面不仅仅是资本逐利，更是生产力解放的重要驱动技术，有能力的大国都已经组织起来发展大模型了，竞赛已经开始，落后不仅要挨打，还有可能成为别人砧板上的肉。#AI共创计划#
