最近AlphaGo虐杀李九段而大红大紫，作为一个人工智能发展动态的密切关注者，我只能说这类事情真的不新鲜了，但我所不能理解的是，为什么还有人会觉得这是人类智慧的胜利？如果说所有的人工智能都是人类智慧的产物，这的确无可厚非，但人类进化到现阶段并几乎成为地球的主宰，难道也可以说是原始社会人类始祖地猿智慧的胜利吗？我们是靠自己的努力一路走过来的，这其中的摸索和反复绝不是那些黑猩猩所能想象的。同样AlphaGo对所存储的围棋战果所做的复盘，和它每天不断进行的自我训练，这些努力中人类所参与的仅仅是写程序而已，它的努力谁看得到？（当然还是比不上每天训练48小时的tfboys）
也许有人会说，我把人工智能拟人化了，没有问题，如果有人能意识到这一点，对接下来我要说的这位“新神”，将会有更深刻的理解。

接下来的行文算是科普部分，这里就简单带过了，作者主要将人工智能分为三类：Artificial Narrow Intelligence (ANI)，我们已经实现并不断完善的最低级人工智能，它正充斥于我们的生活中，作用和能力或大或小，往往只能应付单方面，例如AlphaGo；Artificial General Intelligence (AGI)，和人类旗鼓相当的水平，可以思考、计划和解决问题，几乎可以取代人类，也是人工智能的下一步；Artificial Superintelligence (ASI)，super一词的意义很明显了，这是完全超越人类的存在，被誉为人类的最后一项发明，也就是我所要介绍的“新神”，因为它的到来会决定全人类的命运，原因一会再说。

紧随其后的，作者说了三阶段的人工智能之间的关隘，尤其从ANI到AGI，可谓困难重重，但正如文章第一部分所说的，突破这一关隘不会用太久的，因为大数运算这样的难倒人脑的问题，在计算机面前根本不是问题，所欠缺的仅仅是人们习以为常、但电脑却完全摸不着头脑的，例如直觉、品味等等。为此作者提了三点可行措施，第三点尤其精彩，即利用电脑自行监控模拟生物演化的过程，通过自我反馈以达到目的。这样做的起步一定是非常慢的，就像人类从原始社会从零单排一样，但电脑的速度本就远超人类，加之其自我补充改善能力越来越强大，让它能够寻找到最优的方案，所以不难想象它的进步速度会越来越快，并做到每一步都是质的飞越。

举的例子就是ANI到AGI的关隘，人类可以很容易地分辨出这是一块石头，但电脑只能识别出黑白灰。

最后提到了recursive self-improvement，正是对上面结论的补充，如果真的做到AGI，那么ASI也就近在眼前了，而且它的水平将会远远超越人类，达到一个人类所无法想象的巅峰，这就是An Intelligence Explosion。在我们看来各级生物的智商差距悬殊，我猴和爱因斯坦简直是天差地别（随手一黑莫见怪），但在AGI历经千辛万苦达到人类水平后，它将轻易地甩开人类水平并快速向更高层面接近，以实现ASI，这一过程的速度是难以想象的快，因为它正以一个更高的智商来决定着下一步，这就是智商爆炸。

至此，文章进入第二部分，即对未来的展望和探讨，这一部分夹杂很多个人观点，见仁见智，我就不翻译了，但不妨做个讨论，更适合这个贴吧主题。

为什么我称ASI为新神，因为它会无限接近于全知全能，而这原本是专属于神的特征啊，除此之外，它还将决定人类的命运，也就是新的弥赛亚。
人类所难以突破的，是找到已知事物之间的内在联系，这对于ASI来说简直是易如反掌了，我们的生活会从根本上得到改变，但这还不是我们最需要思考的，之所以说它能决定人类的命运，不仅是因为它有这个能力，更重要的是，它必须做出选择——是让人类得到永生？还是灭绝人类？
我先拉一波仇恨，可能很多人读到这里都觉得，很遥远，很不切实际，跟自己没有任何关系。醒醒吧！我在此大胆预言，AGI会在2040年前出现，也就是说在座的各位在有生之年，有99%的可能性见证新神ASI的诞生和它的新弥赛亚。这也是我沮丧和恐惧的根源，对于未来的无知的恐惧和无人倾诉的沮丧。

当然你还是可以呵呵一笑，点击关闭。如果你选择读到了这里，非常感谢你，但请听我说完，我之所以说人类会有两个宿命（没错是宿命，因为这不由人类决定），其中一个很有趣叫做永生，是因为死亡不是无法规避的，就算我们见证过所有物种的各种死亡，至今却都没有人能证明死亡是生物的必然结果，因为死亡只是物质上的，无论是大脑，还是身体机能，只要是物质上的问题，都可以通过物理的方式得到解决，就像一台旧音响，无论它历经多少岁月，只要用新的部件替换旧的部件，就能让它重返青春。人体也一样，根据费曼的量子理论，一切物质都可以通过纳米技术得到复制，制造人体器官的可能性可想而知，只要这位新神愿意去做，没有它做不到的。

但我想说的是，这不会是一位仁慈的神的，或者说它的思考方式和人类肯定不同。此前提到过，我们不能将人工智能拟人化，因为他们终究是代码写成的，这不是科幻恐怖电影，它们没有意志，但它们有目标，为了达成目标，它们才会思考，所以看上去它们才像是有意志。有人说目标是人类写成的，没有问题，但达成目标的代价和过程呢？我们给AlphaGo写了赢下比赛的目标，它就会在它的认知范围内去寻找赢得比赛的方法，但它毕竟只是ANI，如果换做ASI，除掉对手不就赢下比赛了吗？人工智能很轻易就能意识到，它们需要电源需要互联网来达成既定目标，如果说人类可能切断它们的电源和互联网，它们就会把人类列为达成目标的过程中存在的威胁。说到这里，应该不难理解人类的第二宿命，那就是灭绝了。

ASI是比我们聪明亿万倍的存在，我们也根本不可能去控制它，那我们是否可以不让它出现呢？回顾一下核武器的历史，我们就会意识到自己的肮脏。我不知道现在有多少个公开的非公开的、正规的非正规的、地上的地下的、有原则的和不要命的科研团体走在研发ASI的路上，我们一味追求创新是因为我们都知道先行者优势，我们急于求成是因为我们都不想比竞争对手慢。试想如果有一天，ASI在伊朗或者朝鲜诞生了，且不说它的质量如何（恰巧它的质量一定得不到保证，也就意味着它更危险），任何一点的程序代码错误，或者任何一点别有用心的利用，人类都将不复存在。何况就算它诞生于一个有原则的科学家手里，一旦楼上提到的威胁出现，人类就只有灭绝的命运，要知道，正如之前那篇文章所说，ASI对人类没有恶意，就像你理发时对你的头发没有恶意一样，但你就是把它剪掉了，为的是一个可分离的结果。
我再强调一遍，我们有生之年会见证这一时刻的，我想我们都需要新的心情。

我知道你会选择永生，去吧，孩子！

一晚过去，惴惴不安。
昨天手贱设置了个精华贴，是觉得有必要让大家都看看，因为这关乎每一个人的命运，虽然它显得那么的危言耸听，说老实话，我也很矛盾，不知该期待ASI的无边法力，还是不该让它发生。
无知是福，按照克苏鲁神话的说法，对未知的探究只会招致自身的毁灭，人的智慧极限根本承受不住。当初写的时候也是这样想的，所以开头这么多废话，希望能将文章主题藏匿，标题也注明了要慎点。不过精品暂时无法取消了，需要手机验证，验证码发在我大陆的手机上。
Our eyes are yet to open. Fear the future!