陷入安全危机、概念股震荡走低！ChatGPT风口还能否持续？
近期聊天机器人ChatGPT风靡全球，这不禁让人产生疑问：ChatGPT以及此类人工智能（AI）技术，究竟会对人类社会产生多大影响？这些影响最早何时会显现？ChatGPT于去年11月发布，其月活跃用户在今年1月就达到了1亿，刷新了消费级应用程序用户增长速度记录。随之而来的是ChatGPT的一些后续问题，比如，ChatGPT很容易受到网络安全攻击，因为它与互联网相连，有可能被用来传播恶意内容或病毒。
近两天，ChatGPT平台突然大量封禁OpenAI账号，据统计已有数百万用户的账号受到了影响。许多用户在社交媒体上表示，他们的账号在未收到任何警告的情况下被封禁，这让他们感到非常困惑和担忧。3月29日，作为曾经OpenAI最大的支持者，世界首富、OpenAI联合创始人、特斯拉CEO马斯克（Elon Musk），却与数千位科技界和学术界大咖联名呼吁，所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
“我们还有很长的路要走，我们确实需要更强大的对齐技术来构建更强大的模型。”ChatGPT之父、美国OpenAI公司CEO阿尔特曼连发数条推文回应公开信，称仍对GPT-4技术能力感到非常自豪。“许多人陷入了疯狂ChatGPT循环中。AI比核弹更恐怖。”马斯克在ChatGPT于2022年11月发布后多次评论其对人类的影响。
有消息称，此轮封禁OpenAI账号被猜测可能与异常登录账号的安全问题、遏制恶意行为、不符合新版规则的技术升级调整、账号邮箱权重等因素有关。截至目前，OpenAI暂未对此进行相关回复。
三星电子引入ChatGPT不到20天，被爆泄密
据韩国媒体报道，三星导入ChatGPT不到20天，便曝出机密资料外泄的意外事件，涉及半导体设备测量资料、产品良率等内容，传已经被存入ChatGPT的数据库中。这导致半导体设备测量资料、产品良率原封不动地传输给了美国公司。据报道，总共有3起事件涉及ChatGPT，2起与半导体设备有关，1起与会议内容有关。
设计芯片设备的事件中，三星半导体事业暨装置解决方案（Device Solutions）部门的员工于操作半导体测试设备下载软件的过程中，发现复制有问题，即把有问题的代码复制到ChatGPT中寻找答案，此举有可能令ChatGPT把三星的机密信息当作训练资料使用。另一事件亦为DS部门所发生，亦是寻求ChatGPT来优化代码，只不过此代码是涉及芯片良率的。第三起则是让ChatGPT记录会议内容，虽然不是技术机密，但亦可能导致会议内容外泄。
据财联社4月3日报道，三星方面回应，已加强ChatGPT相关的安全措施，将进一步收紧内部监管和员工培训。公司还特地发布公告叮嘱员工注意使用ChatGPT的方式，如果再次发生类似事件，内部可能会切断ChatGPT服务。
欧洲“围剿”ChatGPT？
不止公司层面，已经有国家监管机构注意到了数据安全风险。3月31日（上周五），意大利个人数据保护局宣布对OpenAI公司非法收集用户信息展开调查。意大利监管机构表示，即日起禁止使用ChatGPT，并暂时限制OpenAI处理意大利用户数据。
4月3日，德国《商报》(Handelsblatt)刊登了德国数据专员乌尔里希·凯尔伯（Ulrich Kelber）的评论。凯尔伯表示，德国可能会效仿意大利，以数据安全方面的担忧为由，屏蔽聊天机器人ChatGPT。凯尔伯称：“原则上，此类行动在德国也是可能发生的。”但他强调，这将属于国家管辖范围，不过，他没有概述目前采取此类行动的任何计划。
ChatGPT的横空出世引起了监管机构的担忧，欧洲在个人数据保护方面就始终走在全球前列，相关监管以严厉而著称。1981年开始，欧洲议会就通过了世界上第一个个人数据保护条例，此后，相关的监管条例始终紧跟技术变化，甚至始终领先技术一步。例如，1995年，欧盟进一步针对个人数据隐私和流动通过了新的立法，而此时，互联网时代也只是刚刚开启而已。
欧盟委员会早在2021年便提出了《人工智能法案》，目的是保护公民免受这种新兴技术的危害。欧盟《人工智能法案》原定于3月底在欧洲议会进行投票，但ChatGPT等生成式人工智能（AIGC）技术的兴起，在一定程度上延缓了该法案的出台。欧洲立法者目前正就多方面限制高风险AI工具的新规则进行磋商。
ChatGPT概念股震荡走低
4月4日，ChatGPT概念股震荡走低，截至10：46，当虹科技跌超8%，因赛集团、中文在线、海天瑞声、汉王科技、万兴科技等跌幅居前。
3日晚间，多家相关上市公司披露ChatGPT、人工智能等业务相关情况并提示交易风险：
昆仑万维公告称，目前公司AIGC、人工智能等业务产品尚未产生实际收入，预计对公司2023年财务状况不会产生较大贡献。AIGC技术需要持续大规模资金的投入，投资回报慢，如果公司继续加大投入，预计还会对公司2023年财务状况产生负面影响。
云从科技公告，截至本公告披露日，公司未与OpenAI、谷歌以及Hugging Face等公司开展合作，包括但不限于ChatGPT在内的GPT类产品和服务未给公司带来业务收入；公司未向微软Microsoft 365 Copilot、Security Copilot等产品或服务提供训练数据；公司在大模型业务领域未产生收入，敬请广大投资者注意投资风险。在大模型技术层面上，短期内公司与境外领先企业之间仍会存在较大差距。
国内AIGC领域风险事件频发 相关领域立法工作刻不容缓
国内AIGC(基于人工智能生成内容)领域近日也发生一起风险事件，引发社会高度关注。3月31日，一位女网友在网上晒出自己在地铁列车上的照片被别有用心的网友下载，并用AIGC技术“一键脱衣”，造谣图随后在网上广泛传播。此事引发网友关注并冲上热搜，不少网友怒斥：“科技不应该用在这上面！”
对于上述情况，湖南金州律师事务所高级合伙人资深律师邢鑫表示，“这一行为已经构成了数个犯罪事实，其中包括触犯刑法。按刑法第364条规定，制作、复制、传播淫秽音像制品，应处有期徒刑、拘役或者管制，并处罚金。向不满十八周岁的未成年人传播淫秽物品的，从重处罚。”
邢鑫补充说，“使用AIGC技术生成淫秽物品并传播、牟利和侵犯他人权益，属于新型犯罪，具有犯罪成本低、犯罪手段隐蔽、受害范围广大、影响持续时间长等特点。当前尚无AIGC领域的专门法案，容易出现‘甲错乙罪’的犯罪错位等情况。‘甲错乙罪’具体表现为，实施犯罪者犯有甲种罪错却没有对应法案，只能按乙种罪名进行判罚结案，不利于审判执法、警示教育、维护受害人权益和维护社会秩序。”
2021年，我国发布的《法治中国建设规划(2020-2025年)》当中明确提出，加强信息技术领域立法，及时跟进研究数字经济、互联网金融、人工智能、大数据、云计算等相关法律制度，抓紧补齐短板。加强区域协调发展法律制度建设。制定和修改法律法规要着力解决违法成本过低、处罚力度不足问题。
湖南大学经济与贸易学院副院长曹二保表示，“我们呼吁对AIGC领域立法，不是限制AIGC产业的快速发展。恰恰相反，立法有利于推动AIGC产业朝着健康、可持续的道路上更快发展。”
（大众网·海报新闻编辑 包春玲 综合 界面新闻、每日经济新闻、光明网、证券日报等）
相关文章
