原创 “我非常后悔!”AI之父离开谷歌,警告人类ChatGPT的巨大风险

原标题:“我非常后悔!”AI之父离开谷歌,警告人类ChatGPT的巨大风险

在人工智能发展突飞猛进的今天,有太多伦理上的问题需要去克服。

ZHENGJIEKEJI

正解科技出品

美国有个著名的系列电影——《终结者》。

说是在未来的世界,世界已经由机器“天网”来操控,并且机器希望把人类赶尽杀绝。

为了改变未来的历史,挽救人类的命运,主角一行人穿越时空,找到了“天网”之父,说服他,希望其销毁一切有关“天网”的资料,阻止“天网”诞生。

现在,电影里的剧情,可能正在成为现实。

01

之前,无相君介绍过ChatGPT诞生的故事,英国著名计算机科学家、获誉为“人工智能教父”的辛顿和他的两个学生用AI的力量,引起了各大科技巨头的争抢。

最终辛顿入职谷歌,他的学生IIya Sutskever后来从谷歌离职,创办了OpenAI并开发了现在如日中天的ChatGPT。

现在,AI之父后悔了!

最近,辛顿从谷歌离职,并接受了媒体的采访,坦言为自己研发人工智能(AI)技术感到后悔,并且透露自己辞任Google副总裁的主要原因,就是希望能够警告世人有关AI发展的潜在可怕风险。

“看看它(AI)5年前和现在的模样,那样的差异和成长,真的很吓人。”

“这些系统在某些方面,正在超越人类的智慧,因为它们分析的数据资料量很庞大。”

他提到,自己曾经以为AI要进化到比人类聪明,起码要花上30年至50年,但现在看来,这个情况马上就会出现。

目前,AI目前已经有能力生成犹如人类撰写的文章,以及像真度极高的图片和视频。

实际上,中国有很多大型科技公司、网络直播公司已经开始大规模的偷偷使用ChatGPT,并裁掉不少员工。

美国、欧洲也正在那么干。

这就引发了辛顿的忧虑——未来的互联网,将充斥大量由AI生成的虚假文章、图片和视频,而一般人将无法辨别这些信息的真伪。

此外,他越来越担心很多工作岗位将被AI取代,大量白领失业,出现社会危机。

辛顿指出,AI会通过分析庞大的数据集,学习到超乎人类预期的行为。

有人会利用AI系统自行编写程式运行,并且人类再难掌控此类AI系统。

假如放任这种发展趋势,人们很难阻止一些坏人利用AI做坏事,例如制造出可以自主决定目标的杀人机器。

所以辛顿呼吁,国际社会尽快就AI技术发展订立全球监管措施,避免他的假想最终成为真实的噩梦。

“如果人类放任AI发展失控,最终将威胁人类的存亡。”

02

我们回想一下,电影《终结者》中的机器“天网”是怎么诞生的?

一开始也是人类研究出来,为了服务人类,但最后“天网”有了学习能力,并产生了自我意识,最后开始消灭人类。

现实世界也许没有那么夸张,但已经初现端倪。

最近,世界经济论坛在其《就业前景报告》中预测,全球近四分之一的工作岗位将发生变化。

这份报告调查了全球45个不同经济体的803家公司,约有75%受访公司表示,预计会在5年内采用人工智能技术。

约50%的公司预计人工智能会创造就业机会,而25%的公司预计就业机会会减少。

到了2027年,全球会减少1400万份岗位职位。

而研究发现,科技进步正是导致失业的最大因素之一。

比如收银员、售票员和会计等,一旦信息数字化和自动化的推动,这些岗位就完全没有存在的必要了。

我们看现在很多超市,不都是用自动扫码机取代收银员的吗?

03

但是,呼吁归呼吁,人们很难在现实巨大的利益面前,去考虑道德,考虑未来。

对于超市老板而言,10台扫码机的成本不过1万。

但10个收银员的年薪,可能就要超过50万。

这种诱惑,很难让老板们拒绝。

诺贝尔经济奖得主史迪格里兹认为,在所谓“自由市场”的调节过程中,财富不是向下,而是向上流,造成富者愈富的财富再分配现象。

只要丛林法则没受到有效约束,社会制度(例如税制)没相应变革,AI创新的成果(所谓经济的饼做大了)同样会被少数精英阶层掠取,令财富更加集中到少数人手上。

赢家全取,输者全输。

当社会财富向上流,经济赤贫化,加上婴儿潮人口老化,要怎么办才能舒缓大众的困厄?

在人工智能发展突飞猛进的今天,有太多伦理上的问题需要去克服。

我们不该只是惊叹其发展之快速、应用之便利,也该小心它对于社会的冲击,毕竟它是威力强大无比的工具,一旦失控,绝对后患无穷。返回搜狐,查看更多

责任编辑:

相关文章