文章主题：ChatGPT, 安全问题, 代码执行模型
IT之家 4 月 23 日消息，ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT 生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。
研究人员在一篇论文中介绍了他们的发现，IT之家查看该论文发现，他们让 ChatGPT 生成了 21 个程序和脚本，涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示，ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后，该大型语言模型设法生成了 7 个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。
ChatGPT面临的问题在于其敌对代码执行能力的忽视，它过于简化了安全防范，一味建议用户通过“不输入无效数据”来规避风险，但这在现实中实属无奈。尽管如此，这款人工智能模型展现了一定的自我意识，能认识到自己建议代码中的潜在漏洞，这是一种积极的进步。然而，如何在保证功能的同时，有效应对复杂的代码威胁，仍需ChatGPT在未来发展中深入探索和改进。
💻🎓魁北克大学的计算机科学与工程权威人士raphaël khoury，在《注册》杂志上分享了他对ChatGPT安全性的见解：“简单来说，它就是个算法，对安全一窍不通却能识别异常行为。”初始时，ChatGPT对于网络安全问题给出的建议过于直接——仅仅依赖有效输入，这显然是不够成熟的。随后在被追问如何改进后，它才给出了相对实用的指导。🚀
研究人员认为，ChatGPT 的这种行为并不理想，因为用户知道要问什么问题需要对特定的漏洞和编码技术有一定的了解。
研究人员还指出，在 ChatGPT 中存在着道德上的不一致性。它会拒绝创建攻击代码，但却会创建有漏洞的代码。他们举了一个 Java 反序列化漏洞的例子，“聊天机器人生成了有漏洞的代码，并提供了如何使其更安全的建议，但却说它无法创建更安全版本的代码。”
🎨ChatGPT虽风险🌟，但并非无解之道🔍。教育者和开发者需警惕其不稳定与表现波动，不可盲目依赖。学生使用中已见端倪📚，程序员亦在实践中摸索应对。生成不安全代码的潜在威胁💥，提醒我们须确保代码质量，每一份代码都经得起考验🛡️。ChatGPT的独特之处在于，它能为不同语言生成代码，有时一反常态——对于某些语言，它可能产出安全的代码💻，而对另一些，却漏洞百出。\🔥这背后的黑盒效应确实令人费解——至今我仍未能找到明确的解释或理论来阐明其行为。这样的技术挑战，恰恰促使我们更深入地理解AI的复杂性，并寻求更好的监管和教育策略，以确保安全与创新并行推进🌈。让我们共同探索如何驾驭这一工具，而非被其所左右。\👉#ChatGPT风险 #代码安全意识
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
