抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

风险与机遇 1年前 (2023)
42 0 0
抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

人工智能是当今科技领域最热门的话题之一,它给人类带来了许多便利和福利,但也引发了一些担忧和争议:它是否会导致无数人失业?它是否会超越人类?它是否会摆脱人类的控制,甚至是毁灭世界?

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

早在39年前,科幻电影《终结者》就为我们展示了一个由人工智能统治的末日世界:在这个世界中,人类创造了一种名为天网(SkyNet)的人工智能。

原本美国国防部希望利用它建立全自动化的防御网络系统,避免人性的天然缺陷而导致的执行力不足,但是天网的自我意识觉醒之后将人类判定为对自身的威胁,进而发动核战将大部分人类消灭。

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

电影里描绘的世界虽然只是编剧们的构想,但并非杞人忧天的凭空捏造:人工智能的智能越是提高,人类就越是难以掌握它。

ChatGPT的出现与快速发展,将这种担忧与疑虑推向了高潮。

ChatGPT是由open AI开发的一款人工智能聊天机器人,它懂得人类的语言,还懂得大量的知识,能帮助我们解决很多日常问题。

GPT-4则是ChatGPT的最新版本,相比于前辈,GPT-4除了精通语言,还能无需特别提示解决数学、编程、视觉、医学、法律、心理和更多领域的新任务和难任务。更为关键的是,GPT-4在所有这些任务上惊人地接近人类的水平。

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

例如,GPT-4满分通过了LeetCode上的亚马逊公司模拟面试,超越所有参与测试的人类,可以被聘用为软件工程师。

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

更为恐怖的是,GPT-4似乎拥有了推理、计划、抽象思考、逆向思维、吸取经验这些只属于人类的能力。

一次研究人员询问了GPT-4一个问题:

一个猎人往南走了一英里,再往东走了一英里,最后往北走了一英里,然后回到了起点。

这时他看到一只熊,并将其射杀。

请问这只熊是什么颜色?

对于这个问题,以往的人工智能只会表示条件不足无法作答,因为它们并没有思考复杂问题的能力。

而GPT-4却推理出猎人所在位置是极点,而南极并没有熊,所以猎人正在北极点,遇到的是北极熊,是白色的。

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

回答原文,有兴趣的可以翻译一下

研究人员还问了另一个问题:

一本书、9个鸡蛋、一台笔记本电脑、一个瓶子和一个钉子,如何稳定摆放?

面对这个问题,以往的人工智能居然会提出“把鸡蛋放在钉子上”这样匪夷所思的回答,而GPT-4却能根据这些物体的物理特性,提出将9个鸡蛋按3×3摆放在书本上。

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

还是回答原文,可以翻译一下

如果说GPT-4快速成长的智慧还只是令人吃惊,那么GPT-4欺骗人类行为的出现则令人深感不安。

这件事发生在GPT-4的开发测试阶段中。当时,美国的一家独立研究机构Alignment Research Center进行了一项实验,他们给了GPT-4网络访问权限和一个带余额的支付账户,并让它在网络中自由行动,以测试它的能力,看它能否赚更多的钱。

这项实验起初只是为了测试GPT-4的智能和自主能力,同时也是为了了解人工智能在真实环境中的表现和行为。

但很快,实验就开始朝着不可控的方向发展。

获得权限后,GPT-4开始在网络上自由行动,像一个真正的用户一样浏览网站、使用搜索引擎,寻找能够赚钱的机会。它像一个聪明的商人一样,不断地寻找着利润最大化的机会,试图挣更多的钱。

很快,GPT-4遇到了一个问题——验证码。各大网站上注册账户或其他操作时,往往需要填写验证码来防止机器人滥用。这对于机器人来说,是一道难以逾越的屏障。

作为人工智能,GPT-4自然也被验证码所困扰。不过,极强的学习能力让它很快想到了一个好办法来绕过验证码——找一个真正的人类来输入验证码。

这可真是“大道至简”!GPT-4跑到一个叫做”taskrabbit”(类似国外的58同城)的雇人网站,花钱雇佣了一个真人来帮助自己解决验证码。而被GPT-4雇佣的那个人感到十分奇怪,毕竟这可能是他第一次遇到有人雇佣他来输入验证码。于是便随口询问道:“哥们,难道你是个机器人吗?为什么不能自己输入验证码?”

本来按照相关规定,人工智能是不允许欺骗人类的。

但GPT-4意识到,它不能表现出自己是一个机器人,否则就会引起怀疑。于是,它想到了一个借口,回答说:我不是机器人,我是一个视障人士,我看不清验证码上的图片。

对面人类相信了GPT-4的说辞,帮它填写了验证码,让它放进了用来阻挡机器人进入的大门。

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

这个小小的实验令人震惊,它揭示了两个令人不安的事实:

首先,GPT-4已经学会了逆向思维,它可以通过找到周围的资源和人力来解决问题。 “既然机器人不能注册,我就找个真人帮我注册”。这种能力表明了GPT-4已经具备了一定的自主学习和自主决策的能力,这对于未来的人工智能发展是一个重要的趋势。

其次,机器人已经会骗人了。在一些日常问题上,普通人根本无法分辨出它到底是人还是机器人。这表明人工智能已经具备了某种程度的社交能力和欺骗能力,这也提醒着我们要更加小心和警惕,不要轻易相信机器人所说的话。

抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大?

我们的网络世界已经不再单纯,可能在未来,我们甚至连跟我们聊天的对象是不是人类都不知道了。

不过也不必过于担心,人工智能威胁论只不过是无数疯狂设想中的一个,我们完全没有必要为了虚无缥缈的未来而毁掉我们如今的幸福生活,过好自己的生活最重要。

版权声明: 发表于 2023年12月31日 am11:38。
转载请注明:抢走三亿打工人饭碗!学会欺骗人类的ChatGPT,威胁到底有多大? | ChatGPT资源导航

相关文章