【晨说网探索分享】

　　霍金除了对外星人入侵地球十分关注外，也对人工智能技术的发展感到担忧。

　　霍金不止一次在公开场合对人工智能技术爆炸后出现的杀手级机器人行为进行预测，认为全自动武器站的普及使得机器人能够获得一定程度的开火权，甚至在智能决策系统发展后超越人类的指令，直接开火。

霍金对人工智能技术的发展感到担忧

　　这种杀手智能机器是极度危险的，国际天主教爱尔兰分部秘书长也指出，杀手机器人的使用就会把我们人类推离伦理和文明的社会。

　　越来越多的人开始关注全自武器自行选择和攻击目标的行为，即使人类的某些行为存在局限，但是我们的基本道德准则是与人性站在一起的。

越来越多的人开始关注全自武器自行选择和攻击目标的行为　　目前半自主的无人机已经在美国、俄罗斯、韩国和英国等国家的军队中部署，韩国的哨兵机器人SGR-1和英国的防空武器都能够自行寻找攻击目标。

　　最近的联合国会谈目的是限制或禁止可能导致士兵与平民误伤的全自主武器的使用，但多数国家不同意协议中的条款，其中包括是否应该限制现有技术和未来的发展。

　　停止杀手机器人小组成员Mary Wareham指出，战斗中攻击目标的决定应该由人类执行，从基督教的观点来看，战争已经发展成为解决世界冲突和支配人类的一种手段，它是完全错误的。

如果没有对高级智能机器人进行相关限制，那么一旦恶魔被从瓶子里放出来，将很难对其进行控制。

　　霍金认为宇宙中也有类似的文明存在，它们会自己发展的机器人技术所取代，因此我们以后遇到的外星人可能是机器人的概率并非不可能。

我们以后遇到的外星人可能是机器人的概率并非不可能

　　事实上变形金刚这样从碳基演变成硅基的超强生命体，在宇宙中也应该存在，两种生命区别很大。

　　霍金认为人类如果无法控制人工智能的泛滥，只有数百年的时间就会完成演替，想想一百年前世界是什么样子，当时飞机才被刚刚发明不久！100年后的今天近地轨道已经遍布航天垃圾，在计算机技术爆炸后，机器人会更加聪明。

在计算机技术爆炸后，机器人会更加聪明

　　去年英国第一台计算机首次通过图灵测试，这意味着我们已经分不出人和电脑的区别，下一步电脑将学会思考。

然而这也是板上钉钉之事。

相信大家都还对20年前的人类象棋大战计算机之事记忆犹新，而近日，英国计算机Giraffe便能自主学习下象棋了。

　　20年前，IBM 的深蓝战胜了国际象棋冠军卡斯帕罗夫，让人们感受到了计算机的强大。

20 年后的今天，计算机的下棋能力更是突飞猛进了。

　　不过，尽管计算机的速度越来越快，它下棋的方法却没有什么变化，基本还是靠蛮力，就是说，它会快速搜索所有可能的棋步，然后做出最好的选择。

　　与计算机相比，人类有着不同的思维方式。

通过对棋局的判断，人类能够找出最有利的选择。

据外媒报道，伦敦皇家大学的 Matthew Lai 把人工智能技术用于象棋引擎的构建。

他开发的象棋引擎 Giraffe 能够像人类一样思考。

IBM 深蓝

　　与传统象棋引擎完全不同，Giraffe 可以对棋局做出判断，自己学习下棋技巧。

　　自完成之日起，Giraffe 下棋的水平就等同于最好的传统象棋引擎。

与人类相比，它的水平等同于国际棋联的“国际象棋大师”。

深蓝战胜了国际象棋冠军卡斯帕罗夫　　Giraffe 背后的技术是神经网络。

在处理信息的方式上，神经网络是模仿人脑的。

它拥有许多层的节点，而且，通过训练，这些节点的连接方式会发生改变。

　　而这些技术，将来会是机器人，或者说是人工智能拥有自主意识的技术支撑。

　　拜各种科幻电影所赐，“自我意识”似乎成了邪恶高科技机器人的代名词。

　　目前科学家已经证明了机器人可以有非常基础的自我意识，幸运的是这些机器人都非常有礼貌。

　　在一项实验中，一个小型机器人成功解决了一个哲学问题，其中涉及到对问题的理解和对自己声音的辨识。

人工智能的曙光：机器人有了自我意识

　　来自纽约伦斯勒人工智能和推理实验室的科学家在Selmer博士的带领下进行了这个实验。

他们使用了三台研究中广泛应用的Nao机器人。

Nao机器人　　三台机器人中的两台被编程成“吃了”哑巴片的状态，以此来防止它们说话。

而另外一台则给了安慰剂。

　　在实验中，这意味着两个机器人无法出声，只有一个可以讲话。

现在巧妙的地方来了：这些机器人并不知道它们中的哪一个可以说话。

　　研究者们问三个机器人它们中哪两个吃了哑巴片。

三个机器人都尝试回答这个问题，但只有一个大声喊出了“I don't know（我不知道）”。

　　这些机器人在回答这个问题之前沉默了很久，似乎在进行思考。

准备好回答后，机器人站起来开始回答问题。

　　讲话的那个机器人在辨识出自己的声音后补充道：“Sorry, I know now. I was able to prove that I was not given a dumbing pill.（抱歉，现在我知道了。

我能证明我没有吃哑巴片。

）”

该机器人表现出了良好的教养，如同《星球大战》中的C-3PO

　　该机器人的反应证明了它拥有简单的自我意识，同时它还表现出了良好的教养。

　　在另一方面，实验还说明了机器人可以理解问题并进行推理，辨识自己的声音。

第一个自我意识机器人不是《终结者》　　如果说这个实验在长期中向我们证明了什么的话，它证明我们的第一个自我意识机器人将会像是《星球大战》中的C-3PO，而不是《终结者》。

欢呼吧。

　　不过即便如此，人类处境也是不容乐观。

一些科学家对未来进行了预测，人类将面临多重危机，而人工智能的威胁程度可以算是极高：

　　人类面临12大末日危机：人工智能将取代人类　　1、全球性疫情

　　能够造成人类文明末日的超级疾病应当是无法治愈的（类似埃博拉病），并且常常是致命的（类似狂犬病），具有高度传染性（类似流感）并有很长的潜伏期（类似艾滋病）。

　　如果有一种病原体具备了以上所有这些特征，那么它将会造成的人类死亡病例将是惊人的——而流感病毒已经开始具备从其他病毒那里获得类似特征的能力。

全球性疫情

　　尽管人类已经投入巨资进行医学研究，对抗疾病，然而现代化的交通系统和庞大的人口正在让疾病的传染变得越来越难以控制。

　　2、超级火山爆发

　　超级火山爆发带来的危险主要是其产生的大量悬浮颗粒物和尘埃会进入大气层。

这样的超级火山爆发的强度将比正常情况下强大1000倍以上。

超级火山爆发

　　大量尘埃和颗粒物进入大气层将会吸收和阻挡阳光，导致全球性降温，这种情况就和小行星撞击地球或核战争之后产生的“核冬天”情形相类似。

而依靠人类现有的技术水平，面对这样的灾难，人类所能做的事相当有限。

　　11、全球体系崩溃　　从较为宽泛的角度来说，这里主要是指全球规模的经济或社会崩溃，并引发公民骚乱，法律秩序崩溃以及其他严重后果，并最终导致人类生活已经无法在地球上持续下去。

全球体系崩溃

　　要想预测这样的情况真正发生的可能性有多高很难，因为其中有太多的不确定因素，但这种类似的情况已经在相互联系非常紧密的生态和金融领域出现过。

而当多个国际网络相互依存时，出现这种严重后果的可能性将会更高。

　　12 未知的风险

未知的风险

　　科学家们将那些以我们目前的知识还尚无法察觉的危险，以及那些非常不可能单独发生的风险归为一类，作为“未知风险”。

但整体上而言，它们仍然将有可能对人类的未来生存构成威胁。

声明：本文内容仅代表作者个人观点，与本站立场无关。如有内容侵犯您的合法权益，请及时与我们联系，我们将第一时间安排处理。