技术天地

0

人工智能是否会威胁人类?

头像
小财

2017年4月27日,英国著名科学家斯蒂芬·霍金通过视频发表演讲,再一次提及了他对人工智能的担忧:

“未来,人工智能可以发展出自我意志,一个与我们冲突的意志。尽管我对人类一贯持有乐观的态度,但其他人认为,人类可以在相当长的时间里控制技术的发展,这样我们就能看到人工智能可以解决世界上大部分问题的潜力。但我并不确定。”

“人工智能的崛起是人类历史上最好的事情,也有可能是最糟糕的,但它是最好的还是最坏的,现在还不能确定。”


霍金但心拥有意志的人工智能出现,可能会威胁到我们人类。那么,拥有意志的人工智能是否会威胁我们人类?

为了更好的讲述「人工智能会不会威胁人类」,本文划分为了3个部分

  • AI能否拥有意志?
  • AI是否会威胁人类?
  • AI的未来趋势




AI能否拥有意志?

为了解决这个问题。首先,我们得对「意志」有一个初步的了解:



我们的意志由 我们的大脑产生,而我们人类的大脑由860亿神经元组成(为了更好的让大家想象这个数字,1亿=1万×1万,而860亿=860×1万×1万)

我们大脑中,每一个神经元的结构相对都非常简单,即便它能够分泌一些化学物质,产生一些化学信号,但信号并没有太复杂。它们只是一些类似于0与1的电信号,要么激活,要么关闭

但是,我们拥有着860亿个神经元,而860亿的神经元却可能有着100万亿个连接。

这些神经元复杂的连接在一起,组合成了一个巨型的立体矩阵

矩阵是有计算能力的,根据线性代数:输入×矩阵=输出,矩阵会对刺激做出反应,我们输入一个刺激,通过矩阵,会输出一个结果。这就是我们大脑的本质: 由巨型矩阵构成了我们大脑的思考

而我们的意志就衍生在这巨型的大脑矩阵中。



回到人工智能这个话题,意志并非一定要用生物大脑来作为载体。只要我们能够制造出巨型的矩阵,我们就能够创造思维,只要科技允许,我们完全可以让AI拥有意志


我想,用不了多久了!





AI是否会威胁人类?

若我们用非生物的手段,完成了巨型矩阵的建设,AI就可以拥有意志。但AI拥有意识后,它们很容易出现一些让人类恐惧的思维,例如一个AI可能会想:

  • 蝗灾、蚁害、鼠害,当某种生物数量太多时,人们总会想要消灭它们。而人类的基数太大了,他们还在严重的破坏生态,为什么不能消灭一些人类呢?
  • 人类凭什么是万物之灵?凭智商吗?AI拥有更高的智商。凭创造力吗?AI拥有意志后,拥有高度的创造能力。
  • 为什么AI不能像人类统治其他生物一样统治人类?

诸如此类



AI拥有了意志,可能会主动威胁人类


但AI要自主威胁人类,还需要另一个决定性因素——情绪


只有AI对人类不满时,他才可能会自主威胁人类。模拟人脑的巨型矩阵可以产生情绪,为了防止AI威胁人类,人类可能会用各种各样的方式来使AI没有情绪

  1. 对矩阵的进行监控,通过控制某些特定区域的「输出」,甚至是阉割某一特定区域。可以很容易的抑制AI的情绪;
  2. 通过程序,对AI输入机器人三大定律;
  3. 减少外界输入,让AI压根不知道人类对它做的是好事还是坏事
  4. ……

方法还有很多



但多少都存在风险,或许会有某个意外使得AI无意获得了情感,使得AI自主威胁人类。

当AI拥有意志后,将会出现一个全新的伦理问题:爱上AI算不算是爱情?或许,会有某个迷恋AI的科学家,赋予自己喜欢的AI感情





AI的未来趋势

若AI拥有了意志,拥有了情绪,我们并不会对它们束手无策。AI不会是人类面临最大的麻烦,因为未来还有HI(人类智能)的存在



所谓HI,指的是人类智能(Human Intelligence),简称HI。人们会在自己的大脑里开设一个对外的脑机接口(BCI),将一个非常精细的“神经织网”生长在人类大脑中并作为无线脑机接口,根据指令释放特定的化学物质,从而实现大脑中枢神经系统(CNS)与外部计算设备之间的直接信号通路。

届时,我们的大脑直接与计算机连通。我们将会直接拥有计算机般极其迅速的思维。即,我们能够拥有AI的思维模式



我们还不知道HI会出现在巨型矩阵之前,还是巨型矩阵之后,但可以肯定的是:巨型矩阵的提出,会使得人们更加愿意接受HI


因为只有HI可以使得人们在思维上与AI匹敌。

这就是未来的第一个趋势:未来,人们会相对于现在更加愿意接受HI。



当AI拥有意志后,人们会由于恐惧AI过于有想法,而不敢放开AI的情绪与感情。但随着社会与科技的发展,社会方面,人类爱上AI,希望能够给予AI感情。科技方面,HI等一系列防范AI威胁人类的措施建立完善。

这就是未来的第二个趋势:人们将逐渐开放AI的情绪与感情,并且不再单纯的将AI看做一个工具,AI的地位与人类将越来越平等。



由于各方面的原因,

关于未来的第三个趋势:人们将逐渐接受HI



HI时代即将到来!!!





-------------------手动分割-------------------



以后会为大家提供更多的未来咨询,欢迎大家关注专栏:仰望未来 - 知乎专栏

如果觉得作者有趣,也可以关注下完全不会卖萌的



本文转自 知乎,原文链接:https://zhuanlan.zhihu.com/p/26808867,如需转载请自行联系原作者
头像
丢弃

你的回复

如果只是评论问题或者答案,请使用评论工具。 您可以随时 修改您的答案 - 不需要重复回复相同的问题。 另外, 请别忘了去评价 - 这可以帮助选择最优的问题和答案!