阿西莫夫“机器人三定律”还现实吗? 人类与机器到底谁怕谁

人类和机器,到底谁更强大,这是多少年来科幻电影一直在讨论的主题,从《人工智能》到《她》以及《机械姬》都在提供给我们不同的思考,在去年李世石完败给AlphaGo后,作为智力游戏的最高象征,围棋领域的失手让人类感到一丝畏惧。而神秘账号Master的出现再次印证了这一点。

视觉中国供图

短短的7天之内,一个名为Master的神秘账号在多家网络围棋平台连续挑落50多名世界围棋高手,目前中日韩三国的最强选手柯洁、井山裕太和朴廷桓三人无一幸免,甚至在对局中看不到些许能和Master扳手腕的可能。

此前Master的真实身份曾引发了外界的热烈讨论。当时的普遍推测已认为,Master或为去年大败李世石的人工智能AlphaGo的“升级版”。

就在2016年12月30日凌晨,推特账号Science News曾发布了一条推文,内容为——AlphaGo:“Now,I am the master”。1月4日晚间,在某围棋网站上,神秘的Master终于宣布自己就是就是AlphaGo。至此一场搅动整个围棋界并引起大面积”围观”的事件终于告一段落。

不出人们所料,Master就是AlphaGo的2.0版本,它的出现无情地证实着这样一个事实:人类智慧在人工智能面前的最后一个堡垒已全面陷落。

面对咄咄逼人的人工智能,人们不得不思考一个问题,是不是真的有那个临界点,在那个点上,人工智能将全面碾压人类,并将人类甩在脑后……

上海交通大学科学史与科学文化研究院院长江晓原说:“讨论临界点意味着我们想找到这个临界点,但实际上这个临界点我们虽然在理论上知道它是存在的,但是在哪里我们不知道。”

有人说,就算将来人工智能全面超越人类的智商,我们也至少可以在其底层施加一些限制措施,比如著名科幻作家阿西莫夫提出的“机器人三定律”,第一条就是“机器人不得伤害人类”。

有人因此很乐观,认为眼下的人工智能仍有许多限制,以“阿尔法狗”为例,它首先需要海量样本的训练,而人类学习新事物时往往只需很少的样本,其应用范围离“通用人工智能”还有很大距离,不像人类,一个小学生就能学会下棋、绘画等多种才艺。

关于人工智能,今年还有一大看点,开发“阿尔法狗”的“深度思维”公司表示,下一个目标是著名即时战略游戏《星际争霸》。与围棋对弈中双方都能看到所有棋子不同,这款游戏的玩家只能根据有限的视觉信息来猜测对方行动,因此决策更加复杂,对人工智能的挑战也更大。

这又带来一个问题,如果人工智能在这一游戏中战胜人类顶尖玩家,是否要“断线”以阻止其前进,以维护人类的尊严。

不可忽视的是,现在人工智能领域吸引了大量资本投入,这其间有巨大商业利益的驱动。未来人工智能在资本的裹胁下将发展到何处,没有人能说得清楚。会不会有那么一天,人工智能将威胁到人类安全,上海交大的江晓原教授就是一位悲观论者,他认为,人工智能的威胁可以从近期、中期和远期三个层面来看。近期主要的问题是会导致大规模的失业和大规模的军事化应用,中期是公众相对了解最多的,就是担心人工智能失控、反叛;但是远期的终极威胁很多人都没有想到,因为人工智能“将最终消解人类生存的根本意义”。