ChatGPT浪潮下，AIiPhone时代真的到来？网络安全新挑战，我们该如何应对？

ChatGPT狂欢背后的“善恶门”

作者／  IT时报记者   郝俊慧

编辑／  王昕  孙妍

短短十天，全球被一波又一波的ChatGPT浪潮“炸晕”了。

🌟🚀”AI iPhone Era” Looms as Tech Giants Unveil Game-Changers 🚀💻🚀In the realm of cutting-edge technology, the annual GTC summit on March 21 witnessed a resounding chorus from industry titans, led by NVIDIA’s visionary CEO,黄仁勋. Seven times over, he emphasized the significance of this AI revolution, painting a picture of an era akin to Apple’s iPhone transformation. 📈💡🔍From the realm of multi-modal chat prowess (ChatGPT 4.0) to seamless integration with Office 365 for PPT creation (with a single click), every innovation underscores the rapid acceleration in AI adoption. These game-changing tools are not just impressive, but they’re set to disrupt traditional workflows. 💻🔥📝While some may argue that alternatives like 文心一言 still have room for improvement, their presence signals the competitive landscape where AI is reshaping industries and user experiences. 🤝💻🔍Emphasizing the potential of AI to revolutionize sectors, it’s clear that we’re on the cusp of a new era, where intelligence will be as ubiquitous as smartphones today. 🔍📱SEO optimized keywords: AIiPhone时刻,科技巨头,ChatGPT4.0,Office365,黄仁勋,年度技术峰会,GTC,AI革命,AppleiPhone转型,创新工具,传统工作流,文心一言,行业重塑,未来趋势.

🎉💡随着AI技术的进步，我们欣喜地看到AIGC正逐步拉低AI使用的门槛，让大众能更轻松触及这一创新力量。然而，这背后隐藏着一个不容忽视的问题—— precautious concern 🕵️‍♂️：AI的普及可能为网络安全带来全新挑战。

🌟🚀2023年产业互联网安全新挑战：ChatGPT引领的AI革命带来潜在威胁🔍🛡️🔥随着ChatGPT等生成式人工智能技术的迅猛发展，网络安全领域正面临一场前所未有的变革。这股创新浪潮不仅革新了信息传播方式，也让新型攻击和内容合规问题崭露头角🌈💼。🏆中国产业互联网发展联盟、《中国信息安全》杂志、南方日报、中国网络空间新兴技术创新论坛等权威机构联合发布的《2023产业互联网安全十大趋势》对此进行了深度剖析。他们警示，生成式AI的广泛应用将促使安全专家们不断创新策略，以应对这些潜在的新威胁🔍🛡️。💡腾讯安全与腾讯研究院携手，正积极应对这一挑战，他们的专业知识和技术创新将成为行业防线的重要支柱💪。\n\n别忘了，保障信息安全，我们一直在行动！🌟#ChatGPT #产业互联网安全 #AI时代防护

👀网络安全新威胁：ChatGPT成黑客新武器？🔥随着ChatGPT的火爆，网络安全领域正面临一场前所未有的挑战。👀据安全专家透露，网络犯罪分子已巧妙地利用这款人工智能语言模型，制作恶意软件、搭建隐蔽网站，甚至撰写诈骗剧本，以更高效的方式发动网络攻击。🔍ChatGPT的强大生成能力，为他们提供了无限可能，让诈骗手法更加难以察觉。这项潜在风险引起了广泛担忧，ChatGPT的普及速度正在成为一把双刃剑。一方面，它为用户提供便利和创新；另一方面，也为网络安全防护敲响了警钟。🛡️防范措施亟待升级，技术与法规需同步跟进，以确保在人工智能时代，我们的网络环境不受侵犯。让我们共同关注这一动态，警惕ChatGPT带来的新威胁，守护好数字世界的和平。🌐

ChatGPT版“诈骗剧本”已上线

🌟ChatGPT的问世引发了全球范围内的热议，许多人开始担忧技能更新的问题。🚀生成式AI的进步，无疑打破了传统，将曾经需要专业知识和技巧的任务简化为一键操作。📝论文撰写、代码编写等创意工作，如今只需轻轻一点，就能迅速呈现。💻程序员，这个曾被视为技术领域的守护者，正面临前所未有的挑战。ChatGPT的普及，让编码不再是高深莫测的秘密，普通用户也能轻松上手。🔍然而，这也意味着他们需要不断提升以适应这种变化。尽管有人担忧失业，但新技术带来的机遇同样不容忽视。它推动了教育和职业转型的步伐，鼓励人们拥抱持续学习的态度。💼对于企业和个人来说，这既是挑战也是机遇，如何在变革中找到自己的位置，将是未来的关键。🌟

同时被拉低的，还有“诈骗的门槛”。腾讯安全策略发展中心总经理吕一平的安全团队观察到，已经有诈骗分子开始利用ChatGPT编写“钓鱼剧本”，这大大提高了骗子实施精准诈骗的效率。

🌟警惕！网络安全新挑战：揭秘”社攻”诈骗手法🔍💻在数字化的世界中，社交关系成为了一把双刃剑，有时它能拉近人与人的距离，却也可能成为犯罪分子的隐形通道。👀 `”社攻”`，这个专属于网络安全领域的术语，正悄无声息地侵蚀我们的隐私和财产安全。👩‍💻诈骗者们擅长利用人们的同情心和信任，通过伪装成亲密的朋友、家人或官方机构，与你进行看似平常的聊天。他们的话语如同温水煮青蛙，一步步引诱你踏入陷阱。 `”孩子生病”、”法院传票”、”退款通知”…”这些都是他们的常用剧本。 tarafindan, 一旦你点击了可疑链接或是下载恶意软件，你的电脑就可能成为他们的藏身之处——一个精心策划的网络”病毒巢穴”。👩‍💻防范”社攻”，首要的是保持警惕，对任何未经验证的信息都要保持怀疑态度。记住，保护个人信息就像锁住家门一样重要。🛡️同时，定期更新你的安全软件和操作系统，确保它们能够抵御最新的威胁。📚让我们一起提高网络安全意识，让这些诈骗手法无处遁形！💪#社攻诈骗 #网络安全防护 #警惕陷阱

“为了赢得被骗人的信任，诈骗分子通常有多套沟通剧本，分别扮演警察、老师、客服等角色，原本这些剧本需人工编写，且必须具备一定的专业知识。比如扮演HR，你要深入了解对方的工作；扮演保险公司业务员，要对保险业务有比较清晰的了解……”吕一平告诉《IT时报》记者，通过ChatGPT，编写剧本不再需要有“专业能力”的骗子，而且“剧本”几乎瞬间生成，大大提升了行骗的效率，因此，未来“剧本”里很可能会出现更多样化的角色、诱骗手段，形成新的钓鱼攻击方式。

调用ChatGPT API？

未必合规

3月初，OpenAI放出ChatGPT API，开发者可以将ChatGPT集成到自家应用和服务的门槛上，构建属于自己的AI聊天机器人。

图源：unplash

但安全专家建议，国内开发者先别急着“冲”，首先要评估这种应用方式是否合规。随着《网络安全法》《数据安全法》《个人信息保护法》的颁布，以及《信息安全技术个人信息安全规范》等行业标准的实施，数据安全成为企业构建安全体系的重中之重，尤其是对“出境数据”，国家有明确严格的评估要求，2022年9月1日，国家互联网信息办公室公布《数据出境安全评估办法》正式施行。

“调用ChatGPT API，意味着要将ChatGPT接入App，但目前ChatGPT所有服务器全部在国外，需根据我国法律对出境数据进行评估，尤其如果App涉及个人信息、地理位置等隐私数据，更要重视合规性。”吕一平认为，数据安全隐患是中国企业引入ChatGPT时的最直接风险。 

此外，调试ChatGPT时输入的数据、代码，也有同样风险。据《IT时报》记者了解，目前国内几家互联网大厂都明确要求，员工不得用公司数据“喂”ChatGPT。

信任ChatGPT？

不能太天真

作为大规模语言模型，新发布的ChatGPT4.0展现出比上一代版本更强大的输入能力和输出结果，也出现了更多的“涌现”。所谓涌现，是指当大模型的参数规模超过某一个临界值时，只需给模型提供提示，就可以让其自动执行任务，而这种提示既没有经过专门训练，也从未被期望过出现，也即会呈现出强大的“智慧能力”。

但在斯坦福大学众多学者联合撰写的文章《On the Opportunities and Risks of Foundation Models（基础模型的机会与风险）》中，“涌现”意味着系统的行为是隐式归纳而不是显式构造的，故基础模型显得更难以理解，并具有难以预料的错误模式。

“一夜长大”的ChatGPT固然让人类看到真正强人工智能时代带来的曙光，但同时也深藏隐忧——它为什么会如此想？它是真正这么想吗？正如《流浪地球2》中的MOSS，它的“涌现”究竟从何时开始？谁又能控制它？所有一切都指向终极问题——AI值得信任吗？

“至少目前来看，大规模语言模型还无法做到被证伪，如果人们信任它们给出的一些回答，很可能会引起严重的后果。”安全公司知其安创始人聂君认为，ChatGPT使生成高质量、高逼真信息的门槛大大降低，而老人、孩子是最容易被高逼真信息困扰或伤害的弱势群体，因此一些需要职业资格认定的领域不应该轻易使用类ChatGPT产品，比如律师、医生等，“国家今后也很可能会出台一些相应的法律规范。”

排版／ 季嘉颖

图片／ 东方IC  unplash 

来源／《IT时报》公众号vittimes

E N D

AI时代，掌握AI大模型第一手资讯！AI时代不落人后！

免费ChatGPT问答，办公、写作、生活好得力助手！

扫码右边公众号，驾驭AI生产力！