ChatGPT与AI安全：革命还是风险？巨头论战，未来已来
文章主题：关键词: ChatGPT, AI安全, 生成式AI, 监管措施
ChatGPT爆发，AI安全得道
采写／陈纪英
激烈的ChatGPT“大辩论”开场了。
正方主辩是微软创始人比尔·盖茨。
🌟微软之父比尔·盖茨对ChatGPT的热情可见一斑，他对其创新力量的赞誉犹如烈火🔥：“这两项技术无疑是我见过的最颠覆性、变革性的发展。”👀作为科技界的领军人物，他对ChatGPT的高度认可无疑是它获得广泛关注的重要推手。🌟SEO优化提示：#比尔·盖茨ChatGPT看法 #革命性技术 #科技引领未来
🌟【巨头汇聚】AI浪潮中，不容忽视的力量！🌟微软之父比尔·盖茨引领潮流，他的声音响彻云端：“AI正迎头赶上iPhone的革新！”🚀 与此同时，科技界的泰斗黄仁勋，这位英伟达的创始人，以他独到的眼光，宣告我们正处在AI技术的革命性拐点——“iPhone时刻”！💡阿里巴巴的掌舵人张勇，以其深邃的战略洞察，坚信每个行业都值得用大模型重构，开启全新的商业可能。🚀这场辩论赛，汇聚了科技巨头们的智慧火花，他们以实际行动推动着人工智能的发展，引领未来趋势。🌍欲了解更多AI领域的深度解析和创新动态，敬请关注我们，一起探索这个充满无限可能的领域！🔍记得，这里没有联系方式，只为分享知识与见解。😊
🌟警惕AI潜在风险！谷歌前AI巨头🔥Hinton以深沉忧虑发声，他对人工智能（AI）可能带来的未知后果直言不讳：“一旦AI具备自我驱动力，控制将成为棘手难题。”这位AI教父的离职背景，似乎为这一议题增添了一丝紧迫与警示。他的担忧并非空穴来风，对于AI失控可能导致的潜在危机，我们不能掉以轻心。🌍🚀
🌟人工智能巨头的声音，无论是比尔·盖茨的坚定支持还是Yann LeCun的谨慎担忧，都是ChatGPT这一新兴技术复杂性的生动体现。他们的观点并非黑白分明，而是ChatGPT潜力与挑战并存的镜像反映。💡不论是对它的革新力量抱有多大的热情，我们都需要理性看待它可能带来的变革和影响。🌍
🌟技术革新无法阻挡，ChatGPT带来的挑战虽有风险，但我们不能盲目地将其封杀。就像科技的脚步，一旦开启就难以停下。诚然，它可能带来一些未知的变量和潜在问题，但这并不意味着我们应该逃避或退缩。相反，我们需要以开放的态度去面对，通过合理监管与教育引导，找到平衡点，确保其健康、有序的发展。🌍
既然人类与AI共存是必然宿命，把握好“应用”和“管理”、“进化”和”失控“的唯一可选项，就是师夷长技以制夷——AI安全的大爆发，伴随着AI大繁荣，将会如约而至。
AIGC大爆发，AI安全新机遇
ChatGPT引爆之后，全球大厂集体入局，而其前景也相当广阔。
🌟 类ChatGPT技术正引领全球潮流，预计未来将触达破亿潜在用户，其带来的经济效益更是不容小觑，预计年营收规模或将突破惊人的2000亿美元大关！🚀 该领域的潜力与魅力，无疑为科技市场注入强大活力。🔍 深入探索这一创新技术的影响力和商业价值，我们期待看到更多里程碑式的成就。🏆
红利汹涌而至，风险也如影随形，AI时代的安全挑战，成为了2023西湖论剑·数字安全大会的主要议题之一。
作为上述会议承办方的安恒信息，其董事长范渊断定，ChatGPT本身就有一定安全风险，“AI机器人，其功能及逻辑极为复杂，虽然其内部设置了大量的安全对抗机制，但越是复杂的逻辑越有可能被绕过。在未来，如果ChatGPT大量应用，必然会出现逻辑绕过，让AI机器人成为攻击渠道和手段。”
长期坚守在安全一线的安恒信息启鉴实验室主任安通鉴，也在西湖论剑论坛上总结了AI大爆发带来的安全隐患。
第一，类ChatGPT等AI大模型的涌现，大幅降低攻击成本。比如用AI大模型批量生产木马，批量发布钓鱼邮件等等。
其二，AI大模型可以帮助攻击者快速甄别安全漏洞，找到防护薄弱之处，提升攻击的精准性和成功率。
其三，在数据调用过程中，可能会导致数据泄密、隐私泄露等。
ChatGPT用户已经成为了首批受害者。据BBC报道，今年3月底，ChatGPT出现了严重技术漏洞，部分用户搜索记录被爆泄漏。随后，OpenAI首席执行官Sam Altman证实了这一报道，“感觉十分糟糕”。
此外，AI系统面临着被注入恶意发送的伪造数据、以破坏神经网络功能的风险。
也正是看到了AIGC（生成式AI）大爆发带来的安全隐患，如今，全球多个国家相继出台了监管措施。
今年4月，美国商务部公开征求意见，探讨存在潜在风险的新人工智能模型发布前是否应该通过认证程序。
而加拿大联邦隐私监管机构已经出手，对OpenAI展开调查，追责该公司涉嫌“未经同意收集、使用和披露个人信息”。
就在同期，4月11日，中国网信办也发布了《生成式人工智能服务管理办法（征求意见稿）》，强调了安全评估和算法备案的前提性和必要性；表态要确保数据安全和个人信息保护合规，尤其是隐私保护；夯实了违规责任的处罚措施，包含追究刑事责任。
无论是业界共识，还是监管趋势，都指向了同一方向——强化AI监管防护是大势所趋，发展AIGC的前提，是必须谨守安全底线。而防护需求的涌现，也提前预定了AI安全行业未来的大爆发。
另一方面，类ChatGPT技术，也能为安全防护行业所用。
在这一领域，出现了两类玩家，一类是微软等通用型巨头，其并不专注安全领域，而是尝试把类ChatGPT能力在多个领域落地；另一类则是安全赛道的专业玩家，如中国安全赛道头部公司安恒信息。
3 月 28 日，微软正式推出 Microsoft Security Copilot。这是第一款让安全人员能够以 AI 速度和规模做出响应的安全产品。
而安恒信息也已经着手布局。范渊对AI安全的前景，就相当乐观，“AI+安全的大幕才刚刚拉开，未来还有更大的可能性”。
AI为盾，安全反攻
在AIGC大爆发的前夜，发展与监管并举，进化和安全并重，已成各国共识。
平台已经主动戴上枷锁，4 月 6 日，OpenAI 发表博文《Our approach to AI safety》，回应外界对其的安全担忧。
但仅靠OpenAI一己之力远远不够，类ChatGPT技术，可能关涉到数10亿人的数据安全问题，而且，安全保护需从概念生成阶段即融入到产品之中，并贯穿全生命周期。
OpenAI作为平台方，也只能在某一环节发力，更多专业安全公司的躬身入局，必不可少，这既是其机遇，也是其职责。
解决新问题，不能用旧思路，AI时代的安全防护技术路径和战略布局，也必须与时俱进。
范渊用《富春山居图》打了个比方，倡导建立高远、平远、深远的数字安全观。其中，高度跟系统化有关，涵盖顶层设计；广度跟多跨、贯通有关；深度则与场景化、智能化有关，通过结果导向实现闭环。
以此为思路，安恒信息也交出了AI安全的答卷。
在深度上，以AI为器，以场景为矛，实现智能化防控，构建安全盾牌，是安恒信息的战略自觉，“让智能更安全，让安全更智能”。
目前，安恒信息已将类ChatGPT的AI算法和智能数据分类分级、智能生成检测规则、智能告警处置分析、智能客服问答系统、智能钓鱼邮件分析、智能加密流量检测等多个场景进行结合，推进研究并逐步落地到产品中。
类ChatGPT这样技术的应用，可以给自动化生成网络安全工具，带来百倍效率的提升；基于强化学习的人工智能模型，已经在安恒信息AiSort数据安全分级产品中部署应用，大幅提高数据梳理的工作效率。
AI会成为水电煤一般的基础设施，而安全符合最低水位理论，任一环节的短板，都会拉低整体水位，因此，与之对应，AI时代的安全防护，也应该构建全链路、全周期的安全闭环。
作为技术链路完善、产品丰富多元的综合专业云厂商，安恒信息的解法是，通过系统化的顶层设计，高处布局大处着眼，同时深入场景，“看山不是山，看水不是水”，基于“云+网+数+用+端”的一体协同，联手生态伙伴，实现三个层面的可信可控——全栈安全全栈可信的基础设施、软件安全和软件供应链安全、可信机密计算的软硬件环境，最终打造一体化无死角全链路的安全防护网络。
刚刚启用的“天穹”安全运营中心，就是基于上述战略思路，提供全天候、全场景、全过程、全闭环的安全运营保障服务，护航杭州亚运会。
再以数据安全为例，安恒数盾的产品和服务，覆盖了复杂数据应用的全生命周期、全链路数据安全，形成了较强的核心竞争力，也推动其数据安全产品2022年营业收入增速超100%。
未来，AI会成为各行各业的底层能力和必选应用，对于安全行业来说，既具备AI安全的底层通用能力，又深入一线了解行业的know-how，提供行业化甚至定制化的安全解决方案，成为了必选项。
安恒信息的军团战略，就呼应了这一趋势。
2022年，安恒信息对市场进行整合升级，成立运营商、公安、金融、网信、大数据局五大行业军团，对各细分行业进行垂直管理，实现公司内部跨多部门协作，充分调动公司资源，端到端解决行业客户的共性需求，2023年，安恒信息将增设交通军团、能源军团，以此提升服务的广度和外延，护航多元化高质量确定性增长。
以交通领域为例，增速迅猛的车联网，成为安恒信息颇为看重的赛道。2022年，中国新能源汽车销售达到688.7万辆，同比增长93.4%，连续8年保持全球第一。同期，提前卡位的安恒信息车联网安全产品则完成关键节点交付，实现百万级业务收入。
在西湖论剑·车联网安全论坛上，安恒信息首次正式发布车联网安全运营中心平台，以“全资产安全监管，多方位业务运营”为起点，描绘新增长曲线。
综上，安恒信息的这份AI安全答卷，顶层设计有高度，AI创新有深度，军团战略有广度，卡位风口有鲜度。
称重AI安全概念股
随着ChatGPT的光明前景已成共识，ChatGPT概念股市值节节攀升，AI安全股如安恒信息等，也多次涨停，但市值终归要以价值为锚点，到底如何“称重”AI安全概念股？
从增长机会来看，AIGC的大繁荣，同步带来了AI安全行业大爆发的确定性机会。
根据全球移动通信系统协会(GSMA)的预测，2025年全球AI安全软件的市场规模将达到1218亿美元，自2020年起的复合年增长率为31.9%。
而中国市场同样具有高增长，中航证券在其研报中断言，“生成式AI快速发展带来更多潜在安全威胁，加强监管是大势所趋。网信办发布生成式AI监管意见稿，中国AI安全市场迎来发展新契机。”
不过，在AI安全大爆发的确定性前景中，红利不会普惠每一个玩家，而是结构性分配，已经布局卡位AI安全的头部企业，将成为最大的获益者。
安恒信息就是其一，今年Q1，其营收同比增速达到四成以上，已有多家券商给予其买入、增持等看多评级。
国盛证券在其研报中预测，安恒信息2023年-2025年的年营收，同比增长有望分别达到35.7%、30.6%、26.9%。国元证券对安恒信息营收增速的预测，也在类似区间。
其二，AIGC概念股估值高企，AI安全如影随形，两者估值逻辑具备一致性，估值、市值水涨船高。
根据美国科技媒体TechCrunch的报道，因推出首个语言大模型ChatGPT而爆红的美国人工智能初创公司OpenAI，估值再度大幅提升， 4月底已完成103亿美元融资，投后估值达到270亿~290亿美元。
奇绩创坛创始人兼CEO陆奇甚至预测，OpenAI的未来市值有望碾压谷歌，成为全球首家超十万亿美元市值的企业。
受益于资本市场高看AIGC类公司，AI安全股也将在资本市场迎来价值重估，因此，今年以来，AI安全概念股多次触及涨停并不意外——表面是为AI安全概念股买单，其实是在为AI的确定性前景买单。
AI技术的大爆发，除了帮助安全行业拓展新的营收变现机会外，还能帮助安全行业降本增效，有利于改善公司的财务表现。
比如，在安全行业，数据分类分级是数据治理和数据安全治理的相交点，也是数据资产的起步线、数据安全的基准线、主体责任的推进线，涉及到十几万字段到几十万字段的数据治理场景，仅靠人力会让安全公司不堪重负。
在智能化加持下，安恒信息利用自然语言模型通过迁移学习进行训练，快速适配行业特性，从而实现信息整合自动标注相似字段进行强化学习，对不同行业数据分类分级，新行业效率提升5倍以上，已积累行业效率提升10倍到20倍以上。
充分利用AI技术，可以助力安全公司降本增效，提升利润空间。
安恒信息高级副总裁、首席安全官袁明坤对此颇有心得，“提高安全能力，同时也要降低人的成本，必须同步进行“，安全产品自动化、智能化水平的提升，可以带来人力的解放，提升终端安全产品的普惠性，帮助安全企业和其客户降本增效。
这在安恒信息的财报中，可以管窥一斑，2022年，公司研发费用、 销售费用及管理费用增速分别为 20.57%、34.20%和 15.41%，对比 2021 年在增速上有明显下降，控费成效逐渐显现，营收却保持增长。
范渊也乐观表态，“从今年开始，我觉得我们很快会看到这种利润模型的回归，因为伴随着数字安全产业的增量，伴随着我们过去的储备，伴随着数字中国的开启，我觉得我们还是会更持续、健康、高质量地发展。”
眼下，正是AIGC大繁荣的中场，也是AI安全大爆发的前夜，谁先入场，谁往往能占据主场，谁能看到终局，谁往往能左右大局。返回搜狐，查看更多
责任编辑：
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
相关文章
