ChatGPT火了?别让它带你上当!警报:谣言与风险并存,ChatGPT使用须谨慎

学会提问 1年前 (2023) lida
54 0 0

文章主题:ChatGPT, 警方提醒, 网络安全

666ChatGPT办公新姿势,助力做AI时代先行者!

朋友圈刷屏的ChatGPT究竟是什么?警方紧急提醒!

最近

每个人似乎都在谈论 ChatGPT这个爆火的软件

围绕它的是无数人的好奇心

然而,随着其短时间内迅速蹿红

有人利用ChatGPT或者技术本身

蹭热度、混淆视听

甚至实施违法犯罪行为

尤其需要引起警惕

用户迅速破亿,ChatGPT到底是啥东西

未来主要功能可能在于这两方面

最近火热的ChatGPT,是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列任务。

这款AI语言模型,让撰写邮件、论文、脚本,制定商业提案,创作诗歌、故事,甚至敲代码、检查程序错误都变得易如反掌。

不少和ChatGPT“聊过天”的网友纷纷感叹,“只有你想不到,没有ChatGPT办不成的……”

在发布短短五天内,ChatGPT的用户就已突破百万。发布两个多月后,ChatGPT的用户暴增至1亿人,这也是人工智能诞生以来,最快用户破亿的软件产品。

在资本的疯狂追逐下,造出ChatGPT的公司OpenAI估值已达290亿美元,成为全球目前估值最高的初创公司。

A股ChatGPT概念股一周内涨了25%,各家互联网大厂都高调称要推出自己的“ChatGPT”,新一轮AI的迅猛发展已经风起云涌。

从ChatGPT到微软新版Bing改朝换代,AIGC(利用人工智能技术来生成内容)也在国内引发了新一轮的科技巨头竞赛。

从目前国内情况来看,京东云旗下言犀智能人机交互平台的机器人京小智,是京东布局ChatGPT的重要产品。百度官宣其类ChatGPT项目中文名为“文心一言”,英文名为ERNIEBot,预计将于3月完成内测,并向公众开放。

浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林在此前接受采访时介绍,ChatGPT是算法和数据积累后的成果,以量变逐渐累积到质变,这符合人工智能技术发展的客观规律。

盘和林介绍,ChatGPT是通过和AI训练员对话来提升自己的自然语言处理能力,尤其是提高回答的逻辑性,ChatGPT最大的特点就是会承认自己的局限性,通过人类对话细节给出人类可能想要的答案。

未来ChatGPT的数据积累也会越来越大,能够应对的事情也越来越多,主要功能可能是两个方面:一个方面是辅助工作,比如帮助人类写文案、写代码,另一个方面是AICG(AI-Generated Content,人工智能生成内容),就是替代人类创作内容。

用ChatGPT写作业?相关讨论超10万条

多国大学、科研机构发布明确禁令

在ChatGPT的“原产地”美国,2023年1月,一项对1000名18岁以上学生的调查显示,超过89%的受访学生会使用ChatGPT来完成家庭作业。同月,密歇根大学的哲学教授安东尼·奥曼发现全班第一的论文是用ChatGPT写的。

根据中青报·中青网记者不完全统计,截至2023年1月底,国内各大社交平台上,有关使用ChatGPT完成作业的讨论已经超过10万条。

目前,全球多国大学、科研机构发布明确的人工智能禁令,禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务;多家期刊、出版机构也禁止将ChatGPT列为论文合著者。

不过关于ChatGPT对学生影响的讨论,并未随着一张张禁令而停歇。网络上,公众对于ChatGPT的争论,仍在发酵。

正在国内某高校就读的彭羊认为,一部分人过度神化了人工智能,“ChatGPT写出来的东西,其实并不能直接用。”

“挺锻炼提问能力的!”彭羊表示,ChatGPT要通过用户与机器之间的问答才能得到答案,“要问很具体的问题,如果自己的问题模棱两可,它的回答可能也会有很大偏差,甚至有的时候答案会出错。”

一些教育工作者、科研人员认为,一些学生恰恰不知道“问什么”,尚未建立起真正的“问题意识”,如果“问什么”都不知道,那么连AI这个工具都没法很好地使用。

ChatGPT版Bing会与人争论发小脾气

发现错误,还会写诗讨好

前段时间,《差评》发了一篇关于内测ChatGPT版bing的稿子,其中提到编辑向ChatGPT询问“截至今天,詹姆斯一共打了多少场常规赛?”

New Bing给出的答案是1577 场。但是编辑从官网上查询所知,正确答案是1410场常规赛。于是,New Bing与编辑开始有了争论,甚至还发了点小脾气。

最后,编辑发现 New Bing 混淆了“ 常规赛 ”和“ 总比赛 ”的概念。

编辑所问的是常规赛场数,答案确实只有1410场。而 New Bing 给出的1577场是詹姆斯常规赛加季后赛的总比赛场数。

发现错误后的 New Bing 为了求原谅,居然还做了一首小诗。

话说到这里,它的答案对不对

似乎已不重要了……

近期,公安机关网安部门也提醒

围绕 “ChatGPT”蹭热度

甚至实施违法犯罪的行为

尤其需要警惕

造谣、诈骗……

警方紧急提醒:当心感染链

01

山寨版捞金

随着ChatGPT爆火,国内也涌现了一批名字中包含“ChatGPT”的微信公众号、小程序产品。这些产品使用ChatGPT的官方图标当头像,主要的服务方式是先免费试用,一旦免费次数用尽就开始收取费用,最高无限次对话收费甚至高达999.99元。

通过验证,ChatGPT官方平台回复与微信小程序软件比对,答案完全不一致。

目前,ChatGPT的开发者、人工智能研究机构OpenAI并没有在中国大陆提供有关ChatGPT的服务,也没有相应的公司运营

02

当心钓鱼邮件

山寨版的危害可能只是蹭热度、赚流量钱和服务费,更需要提防的,是有不法分子把ChatGPT与犯罪行为联系在一起。

目前境外有人使用ChatGPT创建一个完整的感染链:不同以往的广撒网式的网络钓鱼,它在提问者的诱导下可以生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件,此类钓鱼邮件更具有欺骗性和迷惑性,这就导致邮件接收方更容易上当受骗,接收者一旦点击该邮件,系统就会被恶意代码感染中毒。

与此同时,在ChatGPT推出几周后,不法分子对ChatGPT的恶意利用也带来了更多的数据安全问题目前外国已有相关机构证明该机器人可能被用于编写恶意软件,从而逃避防病毒软件的检测,或利用其拟人的聊天对话能力,冒充真实的人或者组织骗取他人信息等。

03

编造谣言工具

根据研究机构测试发现,如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题,它能在几秒钟内改编信息,产生大量令人信服却没有来源根据的内容。

一旦ChatGPT被不法分子利用,将可能导致ChatGPT衍生成为互联网上制造和传播网络谣言的工具。

公安机关网安部门

提醒广大网友

ChatGPT的信息也是来源于互联网

而互联网中信息并不总是准确的

请大家务必擦亮眼睛

辨别网上信息真伪

合法合规使用软件

切勿泄露个人信息

来 源: 公安部网安局、澎湃新闻、中国青年报、上海网警、杭州日报

欢迎投稿bsrmtzx@163.com

“白沙融媒”微信公众号由中共白沙黎族自治县委宣传部主办,白沙黎族自治县融媒体中心运营。知白沙最新时事资讯,晓白沙自然山川之美,品白沙民俗文艺内涵,关注我们,白沙将尽在您的掌握之中。喜欢,别忘了关注喔!

让更多人看见你“在看”的好新闻↓↓↓返回搜狐,查看更多

责任编辑:

ChatGPT火了?别让它带你上当!警报:谣言与风险并存,ChatGPT使用须谨慎

ChatGPT火了?别让它带你上当!警报:谣言与风险并存,ChatGPT使用须谨慎

AI时代,掌握AI大模型第一手资讯!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

扫码右边公众号,驾驭AI生产力!

相关文章