Alphago战胜人类,或许只是开始 管控好人工智能和核能！

王兴

雷锋网> 新闻> 专栏>正文

Alphago战胜人类，或许只是开始

2016-03-11 08:36 原创 台伯河

编者按：技术真的是中性没有意志的吗？在Alphago再次击败李世石之后，人类将如何面对人工智能？如果技术有意志，那么它将会引领我们奔向何处？作者台伯河，对技术的意志做了探讨，作为一家之言，文章有很多值得思考的地方。如果你也是技术出身，有不同看法，可留言或给编辑投稿（zhuanlan@leiphone.com ）参与讨论。

我是『阿爾法』，也是『歐米伽』；是首先的，也是末後的；是開始，也是終結。
——啟示錄 22:13
Singularity is NIGH.

AlphaGo战胜李世石之后，已经有人高呼：“奇点已然到来。”至少我们可以承认，奇点正在临近。那么奇点是什么意思呢？

“技术奇点”的概念是基于人类科学进步的一个自然观察：总的来说，人类的科学进步的速度是越来越快的。

人类从学会使用工具到进入农业时代花了数十万年的时间；
从农业时代到蒸汽机用了上万年时间；
蒸汽机到电气时代，不过200年光景；
电气时代到目前的信息时代，也就不到一百年。
这说明人类的科技进步速度是一个加速度，或者按照某些理论，是呈指数发展的，那么可能在不久的未来，人类的科技的进步将会快到这样一个程度，在之后技术将会变得与之前完全不同，就跟数学上的概念“奇点”一样，这之后的世界将完全无法预测。

技术奇点将以一个什么样的形式到来呢？从目前来看，人类的科技发展的主要方向有三个：生物，能源和信息。这三个领域中的任何一个产生了突破，都会导致奇点的到来。在生物领域，人类如果能够彻底的搞清楚生物的秘密，突破进化的限制，最终将生物世界和人类自己塑造成任意的形状，那无疑是技术奇点的产生；在能源领域，人类如果最终发现了核聚变或者比此要更加先进的，近乎无限能源的产生办法，那么科幻迷们常常爱说的“星辰大海”的时代就会到来，人类会突破地球的重力井，扩展到星际之间，那也是奇点的一个产生方式；而在信息科学领域，人类最终制造出了人工智能，它的智力必然会远远超过人类自身，技术奇点也会到来。这个过程还有另外一个称呼，叫做“超人巨变”。

Alphago战胜人类，或许只是开始



计算机的性能是一条指数发展的曲线

从目前的科学发展来看，生物或者能源科技的突破需要基本理论的革命性突破，就如同当年相对论和量子力学的产生或者DNA的发现那样的突破，而这样的突破目前来说还没有任何先兆。相比于生物或者能源，信息科学领域是最有可能产生奇点的，因为最能够支持“奇点”理论的就是计算机科学的进步。著名的摩尔定律：“每十八个月芯片的晶体管数量会增加一倍，价格降低一半”就是一个标准的指数定律，而现实中计算机性能的发展也很好的符合了摩尔定律的预测。在未来学家Ray Kurzweil的那本《奇点临近》里，作者就举出了很多的指标说明我们现在处于指数发展的一个平缓期；到了一个临界点之后，指数发展会变成近乎于无穷大的斜率，技术发生了爆炸，人类社会就进入了“奇点”时代。

而奇点的到来对于人类是不是个好消息？很不幸，大多数的未来学家都对此持悲观态度。超级智能产生之后，“增进人类的福祉”这一项很有可能并不包括在它的目标里。就算是包括了，人类自身对于所谓“人类的福祉”究竟是怎样的一个范畴都会有争议，就更别提让超级智能来决定如何增进人类的福祉了。在它“优化”世界的这个过程中，人类很可能会像遇到了先进欧洲文明的美洲文明一样被消灭掉，只是这个过程会更快，更无情（几个小时到几周时间）；而人类在这个过程中甚至都不会像《终结者》里的那样，还有能力组织一支反抗军；在这个过程中人类连一丝一毫的机会都不会有。

Alphago战胜人类，或许只是开始



Transcendence这部电影大概是第一部描写“超人巨变”过程的电影。当然，最不科学的是，人类赢了

所以Elon Musk三番五次的警告我们：要警惕人工智能！自从核弹的发明，我们头一次的发现，原来技术有着毁灭人类的危险——而人工智能可能是下一项有着这种危险的技术。奇点的到来对于人类而言，我们要么进入天堂，要么落入地狱，这中间很可能并没有中间状态。

但是我们是否能够阻止奇点的到来？结论同样是悲观的：技术有其自己的意志，我们甚至没有办法去阻挡奇点的到来。在这里我们不妨来回顾一下历史。

生物学家道金斯曾经写过一本著名的进化论科普书《自私的基因》。这个书名曾引起极大争议：基因无知无识，怎么能够“自私”？在书里他反复说的事情是：基因没有自己的意志，当然不会“自私”；但是从表现来看，基因是“自私”的，因为只有能够最大限度的保存自己的基因才能够留存下来。所以，这里的“自私”不是个性上的自私，而是为了方便描述才用的词汇对基因进行一种唯象风格的概括。

这就和技术的描述很类似了：技术是一种客观的存在，它怎么可能有自我意志？

大概没有人会否认人类的发展是依靠的技术。环绕四周，既然我们没有住在山洞里吃生肉，我们看到的都是技术的产物。人类将自然界改造成人类想要的形状，运用的就是技术。

人类历史上最重要的一门技术是什么？

是农业。在游戏《文明》中，农业是科技树的第一层阶梯。人类发明了农业才走上了攀登科技树的道路。没有农业，我们现在还是在非洲大草原上打猎的猎人。但是这里我免不了要问一句：为什么？

Alphago战胜人类，或许只是开始  

人类为什么要发明农业？农业让我们的生活变好了么？

没有农业，大概就没有现在正在坐在电脑前打字的我们，人类还在茹毛饮血。可是，茹毛饮血不好么？

这里我们有必要做一点严肃的人类学研究。人类学家马歇尔·萨林斯曾经认真的研究过狩猎采集社会，结论是：实际上狩猎采集社会并没有现在我们想象的那么糟糕。实际上那会的人类过得相当不错。

根据人类学家的野外调查和考古挖掘，实际上狩猎采集社会中的人类过得挺好——他们在这种环境中进化了数十万年，已经完全适应了环境。他们平均每周只需要劳动30个小时就可以收集到足够的食物；他们的婴儿死亡率很高，但是平均寿命相当长，只需要活过危机四伏的童年，就基本上可以活过四十岁；他们的营养状况也不错，平均身材都相当高大；他们的疾病也很少，因为疾病总的来说是农业社会的结果。总之，从各方面来看，那时的人类生活不错。马歇尔·萨林斯称之为“原初丰裕社会”。

Alphago战胜人类，或许只是开始



《疯狂原始人》海报

然后人类发明了农业。一开始人类只是发现某些植物的种子特别容易获得，味道也不错。然后这些群落开始在固定的时候回到这些植物的生长地去收获这些种子。然后他们开始为这些植物提供更好的生存环境，去除野草，搬开石头。然后他们开始在某个地区定居下来，有意识的将这些植物的种子撒播在土地里，期望能带来更好的收获。一步一步地，人类发明出了农业。

农业给人类带来的是更多的食物和热量。在单位面积上农业所能产出的热量是狩猎采集的十倍以上，这个毫无疑问，是食物链金字塔的一个必然结论。更多的食物和热量带来的是人口的爆炸，农业社会的人口猛增至狩猎采集社会的十倍以上。那么这是不是意味着农业社会的人类要比狩猎采集社会过得更好？事实告诉我们，并不是。

请牢记经济学的基础定律：均衡之下，永无剩余。增加的热量产出必然被人口增长所消耗掉，这是马尔萨斯人口论的基础。实际上，由于人口指数增长而农业产出线性增长，这意味着农业越发展，人均热量反倒越少。目前的考古发掘和人类学研究也证实了这一点：农业社会的人类的人均热量摄入比起采集狩猎社会要低得多。人类的牙齿原本是吃坚果和肉类的，摄入却全部变成了谷物，于是牙齿早早就磨损了，年纪一大就只能等死，平均寿命也变低。人口密度的增加，以及和牲畜的混居导致了疾病的大范围传播。糖尿病就是农业社会的副产物。人类的身体结构本来是进化用来在大草原上追逐猎物，现在却是在农田里无休止的劳作，平均身高变得更矮，寿命更短，病痛更多。

既然农业社会比起狩猎采集社会，给个人带来的更多的是痛苦，那为什么农业社会取代了狩猎采集社会？

其实原因很简单：因为农业社会的人口更多。一个贫弱的农民或许打不过一个强壮的猎人，但是十个贫弱的农民一定可以打过一个强壮的猎人。于是农业社会就这样扩张开来，逐渐将狩猎采集社会驱逐到了这个星球上的偏远地区。

如果将这两个选项摆在你面前：要去当一个农民，还是当一个猎人，你会怎么选？

Alphago战胜人类，或许只是开始  



古埃及农业壁画

在于你并没有选择。农业社会所出生的人类，他们一代一代都已经习惯了这种生活方式，并没有办法去想象一种其他的生活方式；各个古老文明的上古神话中总是有一个丰饶而无忧无虑的过去，或许可以视作某种对于狩猎采集社会的集体记忆。那么我们在这里可以总结出这样一个结论：人类从狩猎采集社会进入农业社会，并不是一个主动的选择过程。自从人类发明了农业，人类的发展就已经确定了路径，这样的路径是并非任何一个人，甚至一个群体所能左右的，在这里，马克思的幽灵就在你我耳旁轻声细语：“这是历史车轮。”

决定人类的发展方向的，并非个人或者群体的意志；而是技术本身。

同样的事情也发生在大概一万年后。当英国的军舰来到大清的海岸边，就注定了这是一场大清必输的战争。而之后的历史结论也很简单：能够对抗工业化的，只有工业化。看到这一点的不仅仅是光绪或者孙中山，还包括凯末尔以及一切历史悠久的后进国家当时精英们。工业革命起于大英，就如同农业一样，历史的车轮滚滚碾过，不论你是大清还是土耳其奥斯曼帝国，这对它毫无意义。

Alphago战胜人类，或许只是开始



工业革命中一景

再过了150年，来到了这个所有人都在谈论人工智能的时代。我们能够制造出跟我们一样聪明，甚至比我们更聪明的强人工智能，现在我们还不知道；我们也不知道我们什么时候能知道。但是让我们来考虑一个假设的问题：假设有一个时间穿越者，从2050年穿越回现在，告诉我们，那时候我们已经制造出了强人工智能，并且把我们自身毁灭了，我们会停止开发人工智能么？

回答是什么无关紧要。消费者想要更加智能的手机助理和导航算法；商家需要能够更加精确能够预测消费者行为的智能广告系统；工厂主想要更加智能更加自动的工业设备。这一切都并不是自由意志能够决定的。就算有那么一小群人说他们不会去做，那么下场无非就是被忽视，被会这么去做的人淘汰掉，被历史的车轮碾压过去，一如当初的猎人们，或者大清帝国。技术作为历史的压路机一路往前，在上面的我们自以为是司机，却只是乘客。

所以Elon Musk的大声疾呼和他手头上所做的事情看起来就并不矛盾了。他深知我们这样做可能是一条通往毁灭（或者永生）的道路，但是这并不是他所能够掌控的。

我们经常说，“技术本身是中性的”。但是，我们知道它并不是。自从人类发明了技术，技术就引领我们走向一条不归的道路。

周穆王西狩于昆仑山，遇到了一个大师工匠偃师，制造出了和真人一模一样能够跳舞唱歌甚至能够向宠姬抛媚眼的假人。偃师制造的有可能是人类有史以来的第一个人工智能。制造人是神的工作，人自己来做，是僭越。当年，各地的人们集合起来要造巴别塔直通天堂，上帝觉得这么做根本就和自己把他们当初放在地上的目的完全冲突了，“变乱他们的语言”，于是巴别塔垮掉了。

在最古老的文献之中人类就在梦想着造出与人类一样的机器。到了今天，DeepMind开发出了AlphaGo，制造超越我们自己的智能，做上帝的工作，或者干脆说，制造出神本身，是人类一直以来不断追求的目标。这是人类的意志，也是技术的意志。《普罗米修斯》中机器人大卫问人类：为什么要把我造出来？回答是：因为我们能够。We do what we must because we can.

你們要進窄門。因為引到滅亡，那門是寬的，路是大的，進去的人也多；引到永生，那門是窄的，路是小的，找著的人也少。
——馬太福音 7:13-14
技术的意志会引领我们奔向何处？我不知道。它可能一路通往毁灭，或者通往我们作为一个物种的辉煌的永生，或者哪里都不去。人类的命运是否跟刘慈欣说的那样，在第一次望向星空的时候就已经决定了？或者说，所有的智慧生命的命运都是这样？费米悖论的下一个大过滤器（Great Filter）在哪里？这都不是这一篇简短的文章所能够回答的。



http://www.leiphone.com/news/201603/jd75ogPY55ME1jhs.html  L

现代化研

《奇点临近》-百度百科 :

奇点临近

《奇点临近》是2011年机械工业出版社出版的图书，作者是雷·库兹韦尔。该书讲述了智能问题的数据结构及实现的算法，人工智能的应用。
书    名 奇点临近 作    者 (美)Ray Kurzweil 著 原版名称 The Singularity is Near:When Humans Transcend Biology 译    者 董振华,李庆诚 ISBN 9787111358893, 7111358899 页    数 373 定    价 69.00 出版社 机械工业出版社 出版时间 2011年10月1日 装    帧 平装 开    本 16开 贴    吧 奇点临近 名    字 宁祝蒙

目录
1 作品目录
2 作者简介
3 作品前言
4 译者序言
5 作品摘要
6 作品特色
7 媒体评论
作品目录
摘要
对本书的赞誉
译者序
前言
致谢
作者简介
第1章六大纪元
直觉的线性增长观与历史的指数增长观
六大纪元
奇点临近
第2章技术进化理论：加速回归定律
摩尔定律与超摩尔定律
DNA序列、记忆、通信、因特网和小型化
奇点是一项经济命令
第3章达到人脑的计算能力
计算机技术第六范式：三维分子计算和新兴计算技术
人类大脑的计算能力
计算的限制
第4章达到人类智能的软件：如何实现大脑的逆向工程
大脑的逆向工程：任务概况
人类大脑是否与计算机不同
对等进入大脑
构建人脑模型
大脑与机器间的接口
加速人类大脑逆向工程
人脑上传
第5章GNR：三种重叠进行的革命
基因技术：信息与生物的交汇
纳米技术：信息与物理世界的交汇
机器智能：强人工智能
第6章影响的盛装
关于人体
关于人类大脑
关于人类的寿命
关于战争：远程的、机器人的、健壮的、更小尺寸的、虚拟现实的范式
关于学习
关于工作
关于游戏
关于宇宙中智能的命运：为什么我们可能是宇宙中唯一的
第7章我是奇点
关于意识的烦人问题
我是谁？我是什么
奇点是一种超越
第8章GNR：希望与危险的深度纠结
相互纠缠的益处
相互纠缠的威胁
生存危机的概观
准备防御
放弃的理念
防守技术的发展和监管的影响
GNR的一个防御计划
第9章回应评论家
一系列的批评
来自怀疑者的批评
来自马尔萨斯的批评
来自软件的批评
来自模拟处理的批评
来自神经处理的复杂性的批评
来自微管和量子计算的批评
来自图灵支持派理论的批评
来自故障率的批评
来自锁定效应的批评
来自本体论的批评：一个计算机可以有意识吗
来自贫富差距的批评
来自政府管制可能性的批评
来自整体论的批评
后记
本书相关资源与联系信息
附录重新审视加速回归定律
注释

作者简介
雷·库兹韦尔：是世界领先的发明家、思想家、预言学家，他用20余年的时间记录和追溯历史的发展轨迹，以预测未来。他被《华尔街日报》誉为“永不满足的天才”，被《福布斯》杂志誉为“最终的思考机器”，被《Inc．》杂志称为“托马斯·爱迪生的法定继承人”。他还入选了美国国家发明名人堂，是美国国家科技奖章获得者，Lemelson—MIT大奖(世界上最重要的发明奖)获奖者。拥有13项荣誉博士头衔，曾经获得3位总统嘉奖。

作品特色
人工智能作为21世纪科技发展的最新成就，深刻揭示了科技发展为人类社会带来的巨大影响。本书结合求解智能问题的数据结构以及实现的算法，把人工智能的应用程序应用于实际环境中，并从社会和哲学、心理学以及神经生理学角度对人工智能进行了独特的讨论。本书提供了一个崭新的视角，展示了以人工智能为代表的科技现象作为一种“奇点”思潮，揭示了其在世界范围内所产生的广泛影响。本书全书分为以下几大部分：第一部分人工智能，第二部分问题延伸，第三部分拓展人类思维，第四部分推理，第五部分通信、感知与行动，第六部分结论。本书既详细介绍了人工智能的基本概念、思想和算法，还描述了其各个研究方向最前沿的进展，同时收集整理了详实的历史文献与事件。
适合于不同层次和领域的研究人员及学生，是高等院校本科生和研究生人工智能课的课外读物，也是相关领域的科研与工程技术人员的参考书。
《奇点临近》一部预测人工智能和科技未来的奇书，这本奇书，为更多人提供崭新的视角，也因此让更多人痴迷，使其在当当一直居于畅销榜单之中。

译者序言
当人们看到太多相同的时候，也许我们很无知；
当人们看到太多不同的时候，也许我们视野不够大；
当人们同时看到不同和相同的时候，也许这恰是我们的智慧原点。
物质是静止的能量，能量是运动的物质，生命是连接物质与能量的桥梁；智慧是生命的形态，智能是智慧的简化，计算是智慧的元素，当人与机器以计算作为交集时，我们会发现它们的生命是相通的。
15世纪欧洲的文艺复兴，让科学挣脱神学的束缚，成为一匹驰骋的野马，为18世纪初的工业革命以及20世纪末至今的信息革命奠定了基础。求真、细分与发散的逻辑，让物质得到了无限的发展，然而人类的精神却被混淆了。
信息科技发展到今天，已呈现出了两大趋向：一方面传统IT正在走向资源化，即计算可以像水、电一样被资源化；另一方面软件正在与文化融合。在科技与人文的碰撞中，科技似乎走到了发散的尽头，人文也正在艰难地溶解着科技，人文化的科技正逐见端倪。
1998年，我们所在的南开大学嵌入式系统与信息安全实验室，在普适计算研究与新媒体阅读产业实践中，发现阅读作为人的一种基本行为，正在被雨后春笋般出现的各种网络化电子装置裂解，带有理性思考的传统阅读正在被无情的娱乐化，萃取、整合理性阅读成为一种使命，同时人迁就机器的时代正在淡去，人与机器融合的时代将要到来。由此带来的众多困惑，驱使我们不断地在Internet上寻求营养。 2008年，无意间看到了一则消息，称在美国的硅谷将成立一所“奇点大学”，这个大学的名称和教育探索，源起于一本《奇点临近》的图书。出于好奇，简单在网上搜索了一些评述资料和评论，发现作者是大名鼎鼎的雷·库兹韦尔先生。由于国内没有完整的原版图书，我便通过正在美国UCLA联合培养的宫晓利博士，买了本《奇点临近》电子书，浏览后发现书中的观点很特别，而且与我们计算机专业相关，就安排实验室的硕士、博士按照章节进行报告、讨论，经过半年的讨论，发现书中的观点对我们非常有启发意义。在这期间董振华博士（现在UMN联合培养）建议我将其翻译成中文，介绍给中国的读者，由此产生了翻译本书的冲动。
奇点一词来源于数学的Y=1/X函数曲线上X=0的点，这个点应该是数学的禁区，也因此给人们以无限的遐想，在这一点上，也许科学与人文得到了交融。
在本书的翻译过程中，我们发现了本书的叙述方式和内容有以下特点：
（1）奇特与警示的结论
书中六个纪元的划分非常奇特而又富于哲理，宇宙的唤醒是个神圣的命题，大脑的模拟、计算能耗、人与机器的相互融合等都是一个个令人惊叹的结论，其结论如此的积极、如此的自信、如此的奇特。
（2）严谨与独特的论述方法
书中前两章运用了归纳式推理总结，后几章又大量运用了演绎式推理预测，真正诠释了回溯有多远，预见就有多远的道理；作者通过追溯、分析以往的科学发展趋势和当今科技的现状，演绎并预测未来。
其重点论述的技术加速回归定律已被现实逐步地验证。
（3）警世之语与探讨性对话
书中每章章首都有名人的警世之语：通过智者的眼睛去审视自然、科学以及我们生存的世界，从而不断强化思想的力量；
章尾是与未来的对话，是一种思想的博弈：通过设想中的未来去理解当今的技术发展和进化中的人类。
（4）东西方思维的对话
本书集中体现了西方科学注重演绎的思维方式，即分科放大的纵向思维回归；不同于东方哲学着重归纳的横向思维方式；书中以东方的归纳思维为基础，以西方的演绎思维导出结论，两者恰如“T”字形中的“横”与“竖”，无意之中完成了一次东西方思想的对话。
（5）GNR综合，科学的东方回归
GNR是三门可敬可畏的学问：触动物种的遗传（G）、复制物质的纳米（N）和改变智慧和灵魂的机器（R）。西方科学本质的发散性极有可能令G、N、R失控；东方哲学的宇宙观本质是收敛的，注重与自然、宇宙的和谐共存，科技的发展亟须东方哲学的收敛性作为制动系统，保证天地人的共生。
（6）衍生无限的奇点
“奇点”后续的衍生物包括：
? “奇点主义”：“奇点”已经成为了一种思潮，在世界范围内具有广泛影响，关于它的争论没有一天停息过，拥护者将奇点升级为奇点主义，从哲学、科学、技术、艺术等各个方面构建奇点。
? “奇点大学”：2009年2月，Google和NASA联合建立了奇点大学，旨在解决“人类面临的重大挑战”。
? 电影《奇点临近》：由库兹韦尔自编、自导、自演，从艺术的角度说明“奇点”，本片将于2011年上映。
由于本书涉猎的内容既专业又交叉，因此由于专业知识的局限，翻译难免有失准确和恰当，希望读者给予批评指正。

详细：
http://baike.baidu.com/view/6596237.htm



奇点迫近-维基百科，自由的百科全书 :

https://zh.wikipedia.org/wiki/%E ... 9%E8%BF%AB%E8%BF%91