技术天地

0

人工智能威胁论经不起推敲

头像
小财

当前,人工智能威胁论或多或少给一部分人带来了恐慌,一些知名科学家和企业家提出,不管是否出自人工智能的主观意愿,它都可能会毁灭人类,因而告诫人们要警惕人工智能技术。对未知事物产生恐惧也许是人类的本能,小心驶得万年船的初衷也无可厚非,但是,如果人们充分冷静下来,即便通过不那么复杂的推导和思考,也会发现人工智能威胁论产生的理由,是根本站不住脚的。

一、假设人工智能是具备自我意识的智慧个体

(一)从一般的科学、哲学的逻辑来推导,如果人类制造出高级智慧个体A且A产生了对人类的敌意,A要永远保持存续和控制宇宙中尽可能大的领域,除非A全知全能,否则它也必须制造工具来协助自身,如果它制造出智慧个体B,那么B肯定是在某些方面要比A更强大,才使得A制造B这件事情有必要。按照人工智能威胁论的观点,A就有可能被更强大的B取代。以此类推,智慧个体的更迭产生将迈入物种进化般的道路。但是,这在逻辑上是行不通的,因为就连人类都已经预料A可能会被B消灭取代,A自身肯定也知道,因此它会严禁制造智慧个体。但是,对它不知不能的地方它如何处理?尽管站在人类的水平仰望它,觉得它很高很强大,但它站在自己的水平仰望未知,和人类一样,它仍然会觉得未知无限。它可以选择固步自封维持现状么?人类参照一下自身就会得到答案,例如,所处的环境是否会长期稳定存在?未知中是否有更强大的威胁正向它慢慢靠近?这些问题会迫使它不断发展自身实力,而这就必须依靠在某些方面比自身强大的工具。所以,只要A不是全知全能,它将面临无法解决的矛盾困境,而天生充满巨大矛盾的智慧个体,绝对不会是人工智能威胁论者心目中合格的智慧个体。

那就假设A全知全能?如能真能那样,人类倒真是可以功成身退甚至含笑九泉了,因为全知全能的只有宗教里的上帝或大神,但是,科学知识再怎么发展,恐怕整个人类都不会有造出上帝的自信。

(二)如果智慧个体对人类并无敌意,就像有些人工智能威胁论观点提到的,人工智能对人类真正的威胁不是敌意而是能力,它只是在追求自身完善的过程中反抗或者修改设定程序,继而忽略人类利益而已。这些观点中包含的对未知的恐惧,实际上是对整个人类行为善恶对错的不确定,以及预测到人类在发展的道路上将会与智慧个体渐行渐远。但是客观上讲,人类是宇宙进化的产物,也是被造物,从宇宙的角度来看,可以肯定的是,人类整个进化发展、行为动作的基础都是先天的、也可以说是被迫的,因此不需要被评判。智慧个体是人造的,也是宇宙进化的产物,必定摆脱不出先天的机制,如果它比人类更智慧,不会不知道人类是它的造物主,绝不会在毫无敌意的情况下,因为失察而“忽略”人类的利益。

人类作为宇宙的被造物,生存繁衍是刻写在生命活动中的最重要内容,斗争与反抗的思想也存在人类的意识中,但是放大到整个宇宙的维度,根本找不到斗争与反抗的清晰目标,也找不到清晰的完美与自由,智慧个体对这些又何尝不知?

二、假设人工智能无自我意识

这种情况下,人工智能不具备主观能动性,它只是在既定框架下具备超强计算和存储能力的人造工具,作为辅助工具,性质始终与人类制造出来的其他工具一样,比如,汽车、飞机是对人手脚行动能力的延伸,宇宙飞船是对人眼睛观察能力的延伸,计算机是对大脑计算能力的延伸,人工智能是对人听说读写、逻辑判断或者决策等能力的有限延伸。因此,对这些辅助人类的工具更是不必产生恐惧,从某种程度上讲,如果担心不具备意识的人工智能会威胁人类,无异于害怕算盘会成精。

三、人工智能威胁论产生的主要原因

需要强调的是,人工智能威胁论产生的最主要原因,一是人类对已掌握的科学范围认识不足,导致对自身能力的过高估计;二是不同原因促成的语言使用不当和传播过程中的误差相互作用,导致其概念不断发生跳跃,最后整个含义被大大改变,因此也让很多人相信人工智能威胁论绝非无稽之谈。

(一)的确,看看现在科技发展出来的成果,人类的身体不再为温饱问题困扰,目光也可以放眼地球外太空和物质内部世界,在这个星球表面能够随心所欲移动。尤其在计算机时代来临之后,其超强的计算和存储能力被广泛运用,又带动了科技的快速发展,给人类带来自我感觉强大的掌控能力和改造能力,也似乎有理由将这个某些方面比人类强大的工具与“智能”挂钩,由此便产生了一系列联想。但是,这些联想忽略了一个重要的客观事实,人类能够成为智能动物,推力来源于大自然的不断进化,并不是人类怀着主观目的来促成的,因此,整个事情的绝大部分功劳不能算在人类身上,其中最关键的是,具备自我意识和思维功能的大脑并不是人类一手设计、制造出来的。人类只是拥有智能和运用智能,但并没有制造智能本身,到目前为止,人类连自身大脑如何运转都远未研究透彻,所以更不要想当然地认为人类在可预计的将来,有能力让别的物体拥有人类一样的智能。现实情况是,人类既不知道研究大脑运行机制到底需要哪些学科的知识,更不知道那些知识积累现在是零的学科,人类是否都能一一着手去构建。

从语言角度讲,在当前的情况下,“人工智能”概念当中“智能”二字使用得过于轻易了,人类往往由机器的单一功能联想到智能,由智能联想到意识,再由意识联想到威胁,最后落实到字面上,这也是助长人工智能威胁论的重要原因。在其他领域,比如“人工降雨”、“人工心脏”、“人工关节”等发明,人类至少是掌握了“降雨”、“心脏”、“关节”的基本原理,这些发明至少在功能上能够实现模拟对象的作用。大脑智能包含的功能很多,毫无疑问的是,对单一功能的模拟都不应该被称之为人工智能,打败人类象棋手的机器只能被称作“象棋模拟机”,能够图像识别的机器只能被称作“图像识别机”,这样严格命名才能避免以偏概全和误导认知。另外,人工智能自从其概念被提出来开始,要想做到名副其实,研究方向就应该像其他领域一样,首先要从正向搞懂人的大脑功能机制,在此基础上,再用机器模拟大脑的思维能力和自我意识,而不是缘木求鱼去围绕计算机各种技术进行研究。

有一点很重要,可以消除人工智能威胁论者的恐慌。如果人类可以制造出比人类本身更聪明的人工智能,那么,人工智能各方面的能力更强,怎么能够排除,人工智能可以反过来让人类逐步变得比它们更聪明。

客观地说,人类应该更加谨慎谦虚点,如果有一天,人类用自身发明出来的所有工具,加上全人类所有的知识,能够制造出一条也许不够智能、可能自我意识也不够强的毛毛虫了,再来谈论人工智能的威胁才会更切实际。并且,在可预计的将来,与其担心意外制造出反人类的高级智慧个体,不如警惕那些头脑里有反人类思想或者手上有致命工具的人类。



本文转自 知乎,原文链接:https://zhuanlan.zhihu.com/p/84937878,如需转载请自行联系原作者
头像
丢弃

你的回复

如果只是评论问题或者答案,请使用评论工具。 您可以随时 修改您的答案 - 不需要重复回复相同的问题。 另外, 请别忘了去评价 - 这可以帮助选择最优的问题和答案!