ChatGPT遭全球调查，科技浪潮下的网络安全挑战？

打开凤凰新闻，查看更多高清图片

图片来源：图虫创意

🚀 ChatGPT的全球火爆速度令人惊叹，它引领了科技领域的革新风暴，然而，仅两个月的时间，其潜在的数据安全风险就引发了国际关注，包括海外多国监管机构的调查。这无疑揭示了新技术与网络安全之间微妙而复杂的平衡。🛡️人们对于新兴科技带来的信息安全问题日益敏感，对数据隐私保护的呼声越来越高。

👀🚀 ChatGPT遭欧洲国家热议：德国或步意大利后尘，数据安全成潜在“拦路虎”？💡近日，全球热门AI助手ChatGPT引发了欧洲监管层的高度关注。德国联邦数据保护专员乌尔里希·凯尔伯透露，德国正密切关注意大利的先例，可能采取类似措施应对数据安全风险。意大利已明确禁止ChatGPT在境内使用，并对OpenAI公司进行限制，同时展开了深入调查，这无疑给这款人工智能技术巨头带来了挑战。👀🛡️ChatGPT以其强大的语言生成能力引发了业界和用户的广泛讨论，数据隐私保护问题也随之浮出水面。欧洲国家对于数据主权的重视以及潜在的数据泄露风险，使得这一新兴技术的发展前景蒙上了一层迷雾。💡🌐未来，ChatGPT是否能在欧洲顺利落地，或将取决于其如何确保用户信息的安全，以及能否满足日益严格的法规要求。这场数据安全与技术创新的博弈，无疑将为全球AI行业带来新的考量。🔍💻

在国外，#GPT_4_safety_concerns_rise_with_speed,引发了全球公众对于个人数据保护的高度关注；而在国内，一系列顶尖AI模型如百度的#文心一言#,阿里云的#通义千问#,华为的#盘古#等崭露头角，为满足用户对ChatGPT热潮的追赶，网络安全议题成为了互联网行业的热议焦点。如何确保在技术创新的同时，实现信息时代的安全与可持续发展，各企业正面临严峻考验。

🌟💡网络安全专家张威揭示了AI驱动的全新安全挑战，特别是在数据隐私保护、内容真实性检测及算法安全上。👀对于那些专注于这些新兴领域的网络安全服务商来说，他们将扮演关键角色，但务必提升自身的综合技术实力和卓越服务品质。🛡️💻随着AI时代的到来，网络安全企业不仅需要跟上技术的步伐，还需具备整合与创新的安全策略，以确保在复杂的网络环境中立于不败之地。🌟

GPT被曝可能引发黑客攻击、隐私泄露等安全问题

🌟了解AI分类！💡决策型AI与生成型AI大揭秘🔍首先，我们探讨这两位AI领域的明星——决策式AI与生成式AI。👀决策式AI就像一个数据分析师，通过学习数据中的模式和关联性，为推荐系统和风控系统的决策提供精确指导，如同自动驾驶中的智驾伙伴，确保每一步都基于概率的智慧选择。🚗而生成式AI则更像一位创意大师，它能根据输入信息自动生成内容，如文本、图像甚至代码，广泛应用于创新写作、艺术创作甚至是自动代码编写，为各行各业带来新颖的解决方案。📝🎨两者虽有差异，但都在推动科技进步，共同塑造未来智能世界。📚💻

🌟掌握未来写作潮流！🚀生成式AI已不仅仅是数据分析的工具，它超越传统，通过深度学习，能从海量信息中汲取精髓，模拟并创新。📈它不仅复制已有模式，还能跨越界限，以缝合和模仿的方式，编织出前所未有的内容，为复杂问题提供新颖视角。💡生成式AI就像一位无尽创意的魔术师，用数据语言演绎无限可能。若您寻求独特且高质量的文字输出，这无疑是您的理想伙伴！💖别忘了，你的每一次点击，都是与创新的亲密接触哦！✨

目前，作为生成式AI代表的ChatGPT已迭代到4.0版本，回答准确性不仅大幅提高，还具备更高水平的识图能力，且能够生成歌词、创意文本，实现风格变化。此外，GPT-4的文字输入限制也提升至2.5万字，且对于英语以外的语种支持有更多优化。

相较于GPT3.5，GPT-4最大的进化在于“多模态”和长内容生成，最大的突破是拥有了“读图能力”。有专家预测，未来会出现文字、图像、音频和视频等所有数据统一处理的新变革。

相关资料显示，初代GPT模型的参数是1.17亿个，GPT-2是15亿个，GPT-3模型参数量达到1750亿，是GPT-2的100倍；而GPT-4的真实参数在1750亿-2800亿之间，重点在数据处理优化上。

越来越强的算力意味着更大的数据和隐私风险，与初代GPT带来的惊喜不同，GPT-4的发展已让多国感受到威胁。

据外媒报道，三星在引入ChatGPT不到20天里，就已经发生了三起半导体机密资料外泄事故，涉及测量资料、产品良品率等内容，传闻已被存入到ChatGPT学习资料库中。对此，三星透过公告叮嘱职员注意ChatGPT的使用方式。

与此同时，意大利、德国、英国、加拿大、日本等多个国家的相关企业都开始发出警告，限制在业务运营中使用ChatGPT等交互式人工智能服务。

张威认为，人工智能技术本质上是一种工具，带来的网络安全危害主要是由于被坏人使用或钻了空子，目前，很多“坏人”在寻求钻这样的空子，所以GPT的安全威胁就展现了。

他把GPT带来的威胁分为五个方面，其一是支持诈骗，不论是智能换脸，智能聊天，智能文案等功能首先都会被诈骗分子用来支持他们的诈骗犯罪；其二是支持网络攻击，GPT的海量知识库可以让黑客更快速地搜集被攻击对象的内外部情况，同时黑客也会基于相同算法开发智能化自动攻击程序；其三是隐私泄露问题，如果人们长期和GPT交互，GPT会保留对话者的隐私或用户画像，这部分数据一旦被滥用，其危害比现有的隐私泄露大的多。

其四是算法本身存在漏洞，可以被恶意者污染或引导，产生有利于恶意者的结果；最后是使用GPT可能引发新伦理安全问题，就如同电车难题一样，GPT的智能化会使很多普通人错把它认为有人性，这会引发很多伦理安全的新问题。

在头豹研究院行业分析师常乔雨看来，鉴于很多人对GPT的工作原理缺乏详细的了解，且对语言本身所蕴含的能量信息缺乏妥善的认知，恶意攻击者可以通过GPT快速产出诱导性内容，然后以批量式重复性的信息淹没战术攻击受害者，从而达成不法目的。例如，GPT可以模拟可信任来源，自动化发送网络钓鱼邮件或信息，诱使用户点击恶意链接或输入敏感信息。

如何跳出“潘多拉魔盒”？

据报道，在意大利个人数据保护局就ChatGPT涉嫌违反数据收集规则展开调查后，OpenAI发表博客称：“我们认为，强大的人工智能系统应该接受严格的安全评估。需要有监管来确保这种做法被采纳，我们积极与政府接触，探讨这种监管可能采取的最佳形式。”

OpenAI还表示，解决人工智能安全问题的一个切实可行的方法是投入更多时间和资源来研究有效的缓解和校准技术，并在现实世界的滥用情况下测试它们。

与此同时，微软推出一款新的人工智能对话工具Security Copilot（安全副驾），使用了OpenAI公司研发的GPT-4语言模型，以及网络安全领域的专业数据。据悉，能够帮助网络安全团队防止黑客攻击，并且在遭遇攻击后进行处置。

反观国内类GPT的发展，目前已有百度、阿里、360、华为等多家企业入局，但国内企业推出的语言大模型，从文本数据质量、创造性和灵活性等方面看，都要逊于ChatGPT。

真正能够区分这类大模型能力的，是它们背后多年的积累沉淀，也就是常说的“工程力”。常乔雨指出，工程力在AIGC中是一个很宏观但又很难具体量化解释的概念，它涉及对模型框架的设计思路、对参数变化的持续微调，以及对机器学习方法应用的灵活度。

对于国内企业来说，要发展类GPT技术需要借鉴国外的经验和教训，在拥抱GPT的同时安全先行，避免引发“潘多拉式”的魔盒危机。

常乔雨建议企业在发展此类技术时，需要建立完善的安全管理体系，加强对GPT等新技术的安全评估、审计和监管，及时发现并应对存在的安全隐患。企业还应该对员工进行安全培训和教育，提高员工安全意识和技能。至于用户个人，应该加强密码保护、防范网络钓鱼、避免泄露个人隐私等行为，在使用GPT等新技术时，不轻信来路不明的信息，不随意泄露个人隐私。

从社会层面看，张威认为，目前GPT还属于行业早期探索阶段，适合强调一些底限，比如限制违法内容的输出、个保法、网安法的执行等，但不宜设置上限限制技术创新。

网络安全企业机遇与挑战并存

360日前宣布，4月16日，基于360GPT大模型开发的人工智能产品矩阵“360智脑”率先落地搜索场景，将面向企业用户开放内测。

作为网络安全的龙头企业，360成为较早发布类GPT产品的代表。周鸿祎曾表示：“我自己就是做安全的，但我坚定地认为，不发展才是最大的不安全”。

因为在周鸿祎看来，“不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明，它将带来生产力的大幅提升，进而提升国家竞争力”。在这个过程中，网络安全企业无疑要承担更多的责任和任务，这对它们来说既是机遇也是挑战。

近日，在投资者互动平台，绿盟科技透露，将在今年第三季度发布基于类ChatGPT技术的智能安全服务机器人。奇安信则指出，公司正在基于ChatGPT相关技术和自身积累的海量安全知识和数据，训练奇安信专有的类ChatGPT安全大模型。

对此，绿盟科技方面向记者表示，绿盟研发了ChatGPT文本生成检测的专用工具，对比分析ChatGPT模型生成虚假信息与真实信息，可以用于监控电子邮件、消息和新闻等，以检测信息的置信度，并警示用户注意避免钓鱼攻击,提示用户不要输入任何敏感信息，更好保护用户的信息和隐私。

今年1月份，工信部等十六部门联合印发《关于促进数据安全产业发展的指导意见》提出，到2025年，我国数据安全产业规模超过1500亿元，年复合增长率超过30%，将建成5个省部级及以上数据安全重点实验室。

网络安全企业在把握住下一个红利期之前，需要不断适应人工智能新形态带来的底层技术逻辑、业务逻辑的变化，增强产品研发能力和竞争实力。

常乔雨指出，网络安全企业需要增强监测和防范GPT产出的模仿他人口吻编造的虚假信息等，通过识别文字是AI自动产出的可能性大小发出警告提示。同时，利用GPT进行网络的攻防模拟、通过GPT攻击模拟发现可能存在的网络安全漏洞、和使用GPT进行安全咨询对话增强等功能。

目前中国相关技术水平距离GPT-4还有差距，现有的硬件基础设施能力对支持更大规模的此类技术广泛应用还存在瓶颈。对于GPT可能带来的潜在风险既不可忽视，也不必过度担忧,毕竟永远不会被AI淘汰的是使用或研究AI的人。

正如常乔雨所言，理性地以工具角度看待GPT，认可它成为第四次科技革命潜力的同时不过度神化GPT和传播恐惧，通过持续地实践和思考，让GPT为每个人在它自身擅长的领域最大化发挥价值。