文 | 贺定圆

1、电影里的人工智能会不会发生？

《剪刀手爱德华》是一部关于机器人的现代童话。它讲述一座古堡中住着一位发明家，制造出了各种东西，最后还造出了一个机器人，并给他起名叫爱德华。发明家对这件作品倾注了全部的心血，他甚至教授爱德华人类的礼仪和诗歌，何时微笑何时沉默。然而，没有等到机器人最后完成，发明家就去世了，留下已有人类心智却残留着一双剪刀手的爱德华独自在古堡生活。不知过了多少岁月，一位推销化妆品的中年女子佩格误闯城堡，发现了形容古怪的爱德华。好心的佩格没有被爱德华惨白的肤色和张牙舞爪的剪刀手吓倒，而是怜其孤独，把他带回了自己的家。让他走进了人类的世界。单纯的爱德华爱上了佩格的女儿金，金也慢慢的被爱德华的善良所吸引... ...

电影的情节，在未来会不会真实上演？按AI的发展趋势，这样的场景在将来未必不会发生，AI如果不作约束，还可以和人类相互竞争甚至冲突，所以有必要在AI真正大规模成熟之前就设定好伦理、道德方面的约束和规范。

2、完善中的AI伦理和规范

近几年德国、英国、欧盟、G20、OECD、IEEE、谷歌、微软、人工智能联盟（Partnership on AI）等机构、政府、企业已提出了不同维度的人工智能伦理规范、原则、框架性约束，并设立相应的人工智能伦理委员会或咨询委员会，人工智能的发展都离不开对伦理、道德等方面的思考和保障监管。可参考：

a、欧盟发布人工智能伦理准则-新华网

b、Partnership on AI再添新人，百度与谷歌、微软共同探索行业标准

c、IEEE发布人工智能伦理标准 确保人类不受影响

d、AI专家凯·费斯·巴特菲尔德：已有33个国家采用了统一的AI规范

人工智能的发展未来会达到怎样的能力，以怎样的形态和人类共处，目前依然是未知，毕竟目前的AI还处于初级发展阶段，但总体的发展方向是清晰的，比如“可信赖的人工智能”，“科技向善”等，总之是以引导AI为人类生活更美好而建设。

现阶段人工智能首要需约束的，是以军事方面建设为主的约束，比如美国国防部与谷歌合作的Maven项目合同，背景是利用AI解读视频图像，帮助无人机更精准的袭击特定目标，参见： 迫于舆论压力 谷歌计划不再续签国防部Maven项目。中长期的约束，一定是限定以人类为主导，机器使用人工智能技术以人类为核心服务的发展方向。

3、为AI设定的人类落败画面或许永远不会发生

3.1、无法逾越的仿真难题

人类（生物）的身体构造，和机器的身体构造，都是原子和分子的组合，只不过数量和组合有极大的不同。生物信息的传递主要是化学突触和电突触的方式，也就是电信号和化学信号的组合，这些在将来是有可能技术手段达到。但包括一切的物质，我们周边所有的物质结构，都有可能是由看不见摸不着的特殊频率所驱动构造，我们身体和外部物质本身只不过是被驱动和显现的目标，唯独人类的意识，至今无法确认是在何处源头产生的，亦或者是像量子纠缠一样，由外部隐藏的形式驱动控制。

要说人类与机器人、其他生物、物质的最大不同，那一定是人类的自由意识、自我意识。

意识到底是什么，在哲学、心理学和生物学里有截然不同的定义，一般认为意识是人对环境及自我的认知能力。现有技术水平，我们只能猜测意识到底是由什么在控制，有研究表明屏状核是大脑意识的开关，但目前只是试验性质的猜想阶段。感兴趣可参见：屏状核：大脑的意识开关？

也有种说法，意识是人体意念磁场的作用，在量子力学里，科学家认为，纯磁场（和纯电场）是虚光子所造成的效应，但虚光子是不可直接观测到的光子，是真实存在的。加州伯克利大学的研究结论证明，人类DNA是能量接收的通道，使得人类可以正常运转。而能量的接收，主要是指接收和转移转译光子，使得DNA周围的水分子充满能量，并加强了螺旋结构。人体身体是由器官组成，器官又是数以亿计的细胞组成，有些说法是每个细胞都有一定的磁场，细胞组成的人体器官也有磁场，意念磁场对每个细胞的磁场进行干涉，产生力的作用，影响身体机能的发展。

更靠谱的说法，意识是神经元突触在幼年期进行突触修剪后形成的连接，逐步意识开始形成，具备身体催发的即时性记忆能力。我们每个人从出生开始，就被设定在婴幼儿时期觉醒，然后看到我们被机体机能特性所限定感知的“真实世界”，接受被眼前现实，并日积月累成为习惯。我们从小到大，从出生到死，人的思想、选择、基础感官、性格，都受到了大脑中遗传的、已有的结构和思维方式的限定，终结而言是被意识指挥着，一切的决定都是被自以为是的“自我意识”指挥着，我们每天、周围的一切，被操控着在做一个巨大的看似有规律实则无规则的宇宙布朗运动。

3.2、对未知的遐想

蝙蝠用超声波辨别世界，蛇用红外线寻找猎物，座头鲸的交流可以间隔数百公里，他们眼中的世界和人类完全不一样，我们看见的、听到的、闻到的，只是我们自己认为的真实世界，但我们又没法证明某些动物看见的世界未必不是真实世界，我们甚至还按照人类自己的理解划定了平行宇宙等界限。

如果人类有能力控制意识的形成和发展，将这样的意识构造注入到由相同神经元机能催动的仿人类机器体内，或许会出现机器和人类自身都无法分清是否为本体的状况。从元素构成、生物生理特征、信息传递方式、意识形态等特征来说，没有绝对正确的差别，又何来针对人类的伦理一说？只不过有可能即便人类再怎么努力，都可能无法发现或操控意识的产生，包括暗物质、暗能量等隐性的存在，也一样无法识别。关于暗物质，可参见：暗物质，我们如何才能找到你（新华网）

除了人类所认为独特的自由意识之外，哪一块构成不是有“机器化、结构化、元素周期表化”的特征？我们自以为是的意识，或许也是由隐性物质驱使体内的各种激素、细胞、突触的看似自然实则无规律的运动结果。人工智能的智慧和能力，或许有一天会超越我们人类自身的极限，但即便如此，也不太可能出现像曾经的恐龙一样，将人类优胜劣汰掉。譬如古代，野人阶段因为生存问题、更重要的是因为智力和大脑发展能力问题，极易发生过人吃人，近代社会人类在解决温饱问题后，已经开始关注地球、关注生态、关照地球上的小动物们，明白在满足自身诉求之位，需要整体和谐共处，也会痛惜一个物种的灭绝。如果人类真的处于整个宇宙智慧的底端，那高级智慧的外星人也会将我们看做小生命进行呵护，我们可能依然是地球的领导者，甚至太阳系、银河系的领导者，但在整个宇宙中，我们整个星系或许只是个小生命，宇宙大爆炸向外的推力超越光速或许这一点就限制了人类永远不可能和外星人产生交集，担心人工智能的伦理道德，其实是害怕被智力超越，但越智慧的生命体已经证明会越文明，除非出现在人类发展到高级文明阶段时，依然有人因疾病发疯发狂设定了错误、暴戾的人工智能程序，那时或许需要全球级别的安全程序进行实时扫描、监管，预防这样的事情发生，单个病人的能力不太可能超越集体智慧的安全设定。