有朝一日机器人“奇点”到来 人类岌岌可危

眼里的时光 2015-06-07 来源: 一点资讯

OFweek机器人网讯:“机器人消灭人类”一直都是科幻电影的里热门话题。科幻归科幻,人类发明那么聪明的机器人,可能还要很多年。不过在最近几年“AI威胁论”一直大行其道,人们有必要严肃的讨论一下这个问题了。

AI威胁论:科技还在人类的控制之中吗?

瑞典有一个叫做 Nick Bostrom 的哲学家,是个不折不扣的蛇精病。他的“末日论”有一个版本是这样的:

有一个机器人,它非常聪明,但只是被设计用来做“回形针”(好像有点大材小用了)。后来它越来越聪明,越来越强大,就像“奥创”那样。但是它没有进化出人类的价值观。最终它把所有东西都制作成“回形针”——包括人类!!!地球上的东西都被做成回形针之后,它开始把目标转向其他星球。

 

像 Bostrom 这种“人工智能、世界末日、机器消灭人类”的论调在科技界已经成为主流。连史蒂芬·霍金都在担忧这件事。比尔盖茨和马斯克已经捐出了1000万美元,用来作为预防人工智能危害的基金。

这背后其实是反映了一些问题:科技已经深深的渗透进人们的生活中,但人们不一定能 Hold 得住科技。

现在电脑已经可以操控飞机了,用不了几年,连汽车也能控制。大数据可以预测我们的消费偏好,然后向我们展示对应的广告。电脑可以自己生成一篇新闻。甚至,在茫茫人海中,电脑通过人脸识别准确地辨认出你的脸。这些事情将来会产生什么样的后果?还在人类的掌控之中吗?

奇点:机器超过人类的临界点

谈到机器人,很多人会想到阿西莫夫的“三大定律”:“机器人永远都不得伤害人类...Bla Bla”。不过比“三大定律”更为让人津津乐道的是一个叫做“奇点”的东西。

 

英国数学家、解码员 I.J.GOOD 曾留下这样一句话:“超智能机器人将能够自行创造别的机器人,甚至能创造出比自身更强大的机器人;那将毫无疑问地引来‘智能大爆发’,等到了那时候,它们的智慧将远远地把人类甩在后面。”后来科幻小说作家 Vernor Vinge 把它命名为“奇点”。

除了“奇点”之外,还有一种观点,认为人类和机器人最终将融合,所有人将成为“半机械人”。不过在 Bostrom 看来,不论哪种观点,结局都是悲观的。

比如“机器人永远不得伤害人类”,最终机器人发现,这几乎是不可能的,唯一可行的方法就是不让任何的人类再出生!

又或者……设计师把机器人设定为“不管做什么,都要让人类微笑”。那么它们可能会选择在人类的面部肌肉中植入电极管,来让人类“永远”保持微笑。

科技的发展让人类一下子打破了大自然的限制,现在看起来我们还能控制局面,但是科技真的还在人类的掌控之中吗?

与科技赛跑:让人类 Hold 住未来

还有一个瑞典人,名字叫 Max Tegmark。他不是什么蛇精病哲学家,而是物理学教授。马斯克曾资助它进行 AI 的安全性研究。

 

Tegmark 是一个“激进分子”,他经常脑洞一些世界末日的方法:比如利用大型强子对撞机来创造一个小型黑洞,用来吞噬整个地球?又或者能否创造一个‘奇异物质’来催化地球,使其转变成奇异夸克物质?

他认为人类目前处在一个与科技赛跑的竞赛中,关键在于我们能否赢得最终对科技的控制权。

1975年科学家们在加州的艾斯罗马召开了基因重组研究会,该场会议最终促成了针对基因重组的安全措施。2014年,大约有70名科学家和学者,在 Tegmark 的邀请下聚集到波多黎各进行关于现存机器智能威胁的讨论。

此后,有300多只研究团队提交了各种各样的方案来降低AI的威胁。Tegmark 说他们发放了37份奖金,总计700万美元。

人类 VS 机器人

其实很多 AI 研究者认为科技界的焦虑是多余的。人工智能的研究非常复杂且进展缓慢,“奇点”也许不是一个时间点,可能是长达几十年的时间。

Daniela Rus 是自动驾驶汽车的研发人员。真正世界的交通环境太复杂了,汽车和行人混杂在一起,还夹杂着各式各样的标志,这些标志都是机器无法理解的。如果碰到堵车或者雨雪天气,根本处理不了,还得辨识交警和其他司机的手势。

 

这些事情是一个系统工程,需要更先进的传感器,更强的处理器和计算能力,还有软件工程师编写更高级的算法。

还有很长的路要走。也许我们有足够的时间来消重隐患。

机器人也许不是太聪明而是太傻了

我们在一个科技社会里,但其实科技是很脆弱的,通常因为一些未知的 Bug 而挂掉。回忆一下那些大的事故:深水油井一旦失火,需要花费好几个月才能扑灭。核反应堆也有可能随时崩塌。火箭也有可能爆炸。

由于科技系统越来越复杂,以至于没有一个人能搞懂它们究竟是怎么运行的。机器在无认监管的状态下,很容易出错,酿成大祸。

比如在股市上的自动交易系统经常会出现“乌龙指”,2010年的某一天琼斯工业指数突然暴跌1000点就是程序化交易产生的连锁反应。

也许未来机器人杀人不是因为它想杀了你,而是出Bug了。

取缔自动型武装机器人

虽然现在有很多问题科学家们还在争论中,不过有一件事情却是赶紧要做的:取缔自动武装机器人!

自动武装机器人离我们并不远。人们可以研究无人驾驶汽车,但是无人驾驶的坦克、装甲车是必须禁止的。自动巡航的无人机可以进行航拍或侦查,但无人战斗机是必须禁止的。

 

2014年7月28日,在布宜诺斯艾利斯的AI会议上,马斯克、Tegmark等人呼吁禁止自动型武装机器人的联名公开信正式被呈出来。

让脑洞再开一点

回到那个瑞典的疯子哲学家 Bostrom,他认为如果人类无法发明比人类更聪明的智能机器人,那么地球文明也挺失败的。

在他看来,地球就像一个小岩石,围绕着一颗普通的恒星,而这个恒星只不过是整个银河旋臂中成千上万颗恒星中的一颗。而在宇宙中的银河数目,又岂止数百亿。

人工智能的发明,使探索更广大的宇宙成为了可能,也提供了殖民宇宙的可能。我们可以把人类的智慧输入到电脑中保存起来,这样不同星际、星球的文明都可以保存上数十亿年。

宇宙这么大,肯定应该有一些高级文明已经掌握了无穷的计算能力,他们有能力创造一个虚拟宇宙!这个虚拟宇宙能够精确地模拟出人类意识,同时复刻出人类的记忆。那么我们很有可能就生活在一个由机器所创造出来的虚拟宇宙中!

Geek's view

也许在人工智能不受控制之前,人们早就掌握了控制之法,或者像胚胎克隆那样被严格禁止。毕竟人类发展至今几千年里,有一万种毁灭世界的可能性,但他们都没发生,可以说是我们比较幸运,也可以说是必然的。那么假如有一天机器人消灭人类,可能是运气用完了,抑或是必然的。

编辑推荐

推荐内容

猜你喜欢

精彩推荐

产品推荐

公牛GN-Y2011智能插座
¥
78.00
4.8分
海尔 EB80BM2WU1
¥
1699.00起
4.8分
科勒贝宝k-72441t-0 (sh)浴镜
¥
1884.00
4.7分
BOLEN/伯仑 CTL303
¥
608.00
4.6分
美的微波炉M3-L253C
¥
599.00起
4.7分
3M DWS 2500 CN净水器
¥
1999.00起
4.9分

最新评论