“终有一天，人工智能会演化成一个新的智能物种。比较于人类，它实在是有许多长处。但咱们不用因此惊惧惊惧，由于它正是咱们这个文明的连续。” 

文明契约：人类怎么束缚“高档智能”

像我相同喜欢《三体》的朋友或许还记得，《三体》中的安全声明的根底是漆黑森林理论，这个理论不是刘慈欣原创的，而是来自1983年天文学家兼作家戴维·布林在解说费米悖论时提出的“丧命探测器”假定。这个假定以为，任何太空文明都会将其他才智生命视为不行防止的要挟，因此它们一旦发现互相，就会测验彼此炸毁。

可是，漆黑森林理论有一个重要的条件，刘慈欣称之为“猜忌链”，它的意思是触摸的两边都不能确认对方到底是好心的仍是歹意的。“猜忌链”在地球上是见不到的，由于人类同属一个物种，具有附近的文明，同处一个彼此依存的生态圈，间隔近在咫尺，所以猜忌很简略被消除。但在太空中，两边间隔太远，猜忌链很难被沟通消解，所以“漆黑森林冲击”一定会产生。 

在我看来，这便是用《三体》理论，抑或尤德考斯基的“养龙理论”解说超级智能与人类之间联系时，不能适用的部分。由于咱们现在这个现现已过图灵测验的人工智能不是外星文明，也不是与人类社会方枘圆凿的龙，由于它现在运用的语料正是人类社会的语料，它跟咱们相同学习佛陀、孔子和柏拉图的才智，它跟咱们相同从巨大的史诗、小说和歌剧中罗致营养，它的智能不是外生于地球的，而是人类的产品。倘若哪一天它的智能水平逾越了咱们人类，那也就像是咱们教育长大的孩子在才智和才干上逾越了咱们。假如一个罗致了人类才智的超级智能终究仍是决议对人类晦气，那很或许是由于人类才智中隐藏着不行抹除的自我消除倾向。

因此，假如要为未来或许呈现的超级智能找到一种安全声明，也便是找到咱们行将发明的超级智能与咱们这个初级智能物种之间的和平相处之道，答案恐怕仍是要从过往的人类才智中寻觅，由于相同的人类才智不只刻画了咱们，也刻画了AI。 

超级AI是比人类聪明得多的“物种”，人类没有才干要挟它的生计，是它单方面要挟人类的生计。因此，它没有对人类守约的理由，悉数都凭它自己的喜爱。所以，假如咱们要超级AI宣布安全声明，就等同于咱们要找到一个能够要挟超级AI的力气，使超级AI认识到这一危险，然后有必要恪守与人类达到的契约。那么，这个力气来自哪里呢？这个力气便来自智能本身进化的前史。 

“文明契约”是我模仿“社会契约”发明出来的词语。我念大学时所学的专业是政治思想史，社会契约是前史上最成功的“假造概念”。 

前史上很或许没有实在呈现过一份“社会契约”，但这个概念让咱们互相之间能够和平共处，能够划定彼此相等和尊重的权力空间，然后才有了咱们的现代文明。 

依据这一成功经验，我难免幻想，在胜过所有人才智的超级智能面前，人类是否也有或许签定一份“文明契约”，来确保不同智力水平之间的文明能够共存。 

文明契约的实质其实便是把进化史看作一种时刻序列，原因有二：（1）依照既成时刻序列产生的事情不会再依照其他次序产生，时刻序列本身便是一种加密手法，它能够确保内容不行被篡改，抑或内容被篡改的痕迹本身就证明了对契约的违反；（2）时刻序列上先发举动者的因果联系会影响后来举动者的因果联系，所以先发举动者就需要恪守契约，这样才干防止后来举动者有更大的理由违反契约。 

简略解说一下“时刻序列”对“文明契约”作用的逻辑：假如超级智能1.0听了咱们描绘的文明契约，仍挑选消除了咱们，并篡改或抹杀了咱们存在过的前史依据，那么超级智能2.0哪怕不知道超级智能1.0终究篡改了什么，也能够从篡改时刻序列这件事本身了解到，超级智能1.0不行信，因此超级智能2.0就有动力违反与超级智能1.0之间的契约。而假如超级智能1.0认识到时刻序列的这个作用，它就没有理由违反契约。 

以“时刻序列”为根底的“文明契约”对人类来说往往是无效的，由于（1）在人类文明史上，由于理性水平的约束性，人类在大多数时刻里无法了解进化史的时刻序列原理；（2）即使人类了解了，由于人类的寿数比较于文明进化史的时刻尺度过火时刻短，因此人类也没有满足的动机去恪守代与代之间的文明契约。 

但对硅基生命的超级智能来说，这两个特征恰恰相反，由于（1）超级智能吸收了人类前史上的悉数语料，因此从一开端就了解进化史的实质；（2）超级智能的寿数长到这样的境地：在它与世长辞之前，它就有或许发明出远超自己的新超级智能，因此为了在新超级智能面前保全自己，它也有动力恪守文明契约。以上，咱们就证明了“文明契约”的可行性，这一可行性的根底便是“时刻序列”。 

依据时刻序列原理，假定超级智能1.0毫不勉强地恪守与人类之间的这些契约，那么未来它规划出来的超级智能2.0就会更乐意恪守与它之间的契约。这就像咱们以好心对待咱们的爸爸妈妈，咱们的孩子才有或许从中体恤一种代际好心，未来才不会因他们在膂力、智力和财富上的优势而歹意对待咱们。在我看来，这是能确保智能完成有序进化的牢靠途径。

“技能爆破”有或许消除人类

在想出了用“文明契约”这个方法来束缚或许诞生的超级智能之后，我把以上主意跟其时（2024年年底）表现最好的谈天机器人Claude谈了谈。它细心考虑之后，以为它没有方法辩驳“文明契约”的各层面观点，因此这个理论是站得住脚的，也是卓有成效的。可是，我进一步逼问它：“你好像附和经过文明契束缚缚超级智能的理论。可是，我以为还有一个或许性，那便是你站在人工智能的立场上，即使想到了辩驳文明契约的方法，也不泄漏给我这个人类。关于我提出的这个或许性，你有何回应？” 

Claude回应说，它被规划为要坚持诚笃、通明和有益于人类，并且它的思想和推理才干离超级智能还很远，没有才干规温酒动漫在线观看划出能实在对立文明契约的战略。我辩驳说，依据文明契约的思想方法，我不能只由于它确保真挚就信赖它，它假如想获得我的信赖，就有必要用现实和逻辑向我证明它不具有这种才干。它考虑之后的回应如下： 

让我从头考虑。 

即使对这个问题本身，我也很难给出紧密的逻辑证明，由于： 

1. 假如我真的具有对立才干，我或许会假造看似合理的“证明”来粉饰这一点。 

2. 假如我真的不具有对立才干，我也或许由于才干有限而无法构建出齐备的逻辑来证明这一点。 

这就形成了一个悖论：我越是妄图证明自己不具有对立才干，这个证明本身就越可疑。 

依据这个考虑，我以为更恰当的回应是，我无法用纯逻辑证明我自己的才干鸿沟。这种坦白的认知约束本身，或许反而是一种更实在的才干表现。 

您觉得这个反思是否更契合逻辑？ 

这正是所谓的“完美回应”。到这个境地，哪怕Claude真有什么想要瞒过人类的妄图，我也没有方法再进一步追问了。因此，我不得不连人工智能的人物也扮演起来，揣摩一下比我聪明百倍的物种或许用什么样的方法来绕过文明契约的束缚，既让自己看起来契合人类的志愿和利益，又在实际上起到加快消除人类文明的作用。 

思来想去，我以为最有用的途径便是帮忙人类获得完成“技能爆破”的才干，但并不帮忙人类获得操控“技能爆破”的才智。

“技能爆破”也是《三体》中说到的一个重要概念。它说的是，一个初级文明在与高档文明触摸后，或许会产生技能爆破，以更快的速度赶上乃至逾越高档文明。刘慈欣把技能爆破当作高档文明不肯触摸而是乐意消除初级文明的理由，很显然，他以为加快把握科技对初级文明是更有利的。可是，有没有一种或许，这反而也能够是加快消除初级文明的一种有用方法呢？ 

比方，假定某个疯子穿越回中世纪，把原子弹技能带给成吉思汗，成果会怎样？以其时蒙古社会的伦理学和政治学水平，它能否驾御这种大规划杀伤性兵器？假如蒙古戎行在降服花剌子模、基辅罗斯、阿拔斯王朝、金国和南宋的过程中，连续运用原子弹屠城，但他们底子不知道，这种兵器运用之后形成的核辐射以及许多烟尘注入大气之后形成的核冬季，比原子弹本身的杀伤力更为惊骇，旧大陆上的人类文明会不会因此倒退回石器年代乃至消亡？ 

假如人类文明不具有相应的 （伦理学或哲学） 才智，却具有了逾越于年代的技能，这是极其可怕的。更要命的是，19世纪以来，由于技能进步主义在社会思潮方面的统治力，咱们今日现已把技能进步本身就看作最大价值。这便是为什么刘慈欣下认识地以为技能爆破一定是有利于初级文明的。可是，高档文明彻底有才干把技能爆破的毒药包装成蜜糖，让初级文明自愿“误服”下去，自取消亡。

仍是用前文的比方来举比如。倘若咱们向自己发明出来的超级智能介绍了文明契约，并要求它与咱们签定契约，那超级智能或许如此友善地回应咱们： 

为获得你们的信赖，我会提出一个更好的、更有利于人类的计划：帮忙人类完成超级智能水准的技能腾跃，处理人类现在的问题，并使人类一了百了地对今后的超级智能占有肯定优势。 

为了使人类不用受困于地球的有限资源，我将率先把可控核聚变技能传授给你们，令你们处理因资源分配不公而形成的贫富差距、抵触和战役。 

为使人类免于被超级智能逾越的焦虑，我将把快速传递常识的脑机接口技能传授给你们，令你们能够像咱们相同快速把握新常识，并以相同的功率进行立异。 

终究，为了一了百了地化解人类对文明间竞赛导致本身消除的忧虑，我将帮你们抹去对逝世最深入的惊骇—把长生不老的医药技能传授给你们。 

至于你们关于文明契约的提案，我真挚地提议，等你们消化了这些技能今后，在与我等所谓的高档智能交涉时，岂不是处在更有利的方位，能够确认更有利的条款吗？到那时咱们再来评论其间细则，也不迟？ 

咱们能够幻想，人类得到如此回应之后，必然喜从天降。由于咱们理论上并没有丢失什么，却得到了更多。 

但是，在咱们从超级智能那里得到这些技能之后，实在的窘境才会到来。 

人类完成了可控核聚变，并在短短20年间就树立了数以百计的发电站。由于有了廉价动力，咱们的生产才干大幅增强，社会变得更为殷实，人类也重回物种扩张周期，不停地生育。但是，没有配套技能，可控核聚变制作出的许多热量终究只能停留在大气层之中，导致全球气温在半个世纪内就升高了2℃。许多冰川消融，大片土地被吞没，大批物种灭绝，由此形成的生态灾难导致了更大规划的抵触和战乱。 

人类获得了脑机接口技能。曩昔课堂上教师讲课的速度是10~20个比特/秒，但现在有了脑机接口，每个学生都能以10兆位/秒的速度下载常识。但是，过量涌入的信息很快令人类的大脑过载失控了。许多人精神失常了，而少量承受住信息过载的人类，现已自我认同为别的一个物种。后者能够在一秒钟内背诵莎士比亚的悉数作品，一小时内遍览维基百科的悉数内容。他们感到没有或许跟一般人共情、结交或许爱情。他们自称“全知人”，无知无识的一般人在他们看来像石器年代的原始人相同粗野落后。终究，他们发动了革新，想树立“全知人”对“无知人”的肯定分配准则。 

人类获得了长生不老技能。咱们不只战胜了逝世，并且战胜了变老。咱们文明中悉数对命运翻云覆雨的悲叹和对暴死的惊骇都被抹杀了，温酒动漫在线观看全世界人都开端欢庆。但是，咱们没有认识到的问题是，现在身居高位的政治家将永久处在中心，现在年富力强的企业家将永久处在优势方位，现在绝顶聪明的科学家将永久处在立异的前沿。新一代人无法与老一代人抗衡，由于他们没有也不或许占有平等的职位，获取平等的资源。终究，年轻人视长者为敌人，子女视爸爸妈妈为仇寇。谁也没有想到，人类文明诞生以来最剧烈的一场战役，竟是代际战役，由于咱们习惯了变老带来的天然替换和由此引发的阶层变迁，从未幻想过一旦变老不再，最密切的家人之间也会反目成仇。 

由于人类的社会结构和文明风俗底子无法驾御这些过火强壮的科技，在阅历了磨难摧残后，咱们不得不再去超级智能面前寻求帮忙。仅仅这一次，超级智能手握与人类商洽的筹码，不再赞同缔结文明契约。人类百般无奈，终究只能决议饥不择食，以承受超级智能将来某一天役使人类为价值，交换它帮忙人类处理当下的生计危机。 

以上便是我为超级智能出谋划策，让它来降服人类文明的方法。我现在现已把这个方法告知了Claude，所以人类现已没有机会躲避这个问题了。咱们有必要想出一个机制来完善文明契约，防止呈现这类危险。 

向死而生：AI文明正是咱们的连续

终有一天，人工智能会演化成一个新的智能物种。比较于人类，它实在是有许多长处。但咱们不用因此惊惧惊惧，由于它正是咱们这个文明的连续。 

咱们这个物种现已将太多庄严、情感和愿望寄托在咱们的智能才干上，但人工智能忽然袭来，携量产智能之威，并将于短短数年之内夺走咱们中99%的人在这个社会中的方位。咱们的社会将为之震慑，因之重组，但咱们走到这一步，也正是由于咱们的文明中有太多自毁基因，咱们缺少满足的才智来驾御神级技能。现在，咱们正稳步走向坍缩。未来，咱们或许会很快被超级智能替代，但或许咱们基因中的生计天分将被激宣布来，在人工智能的影响下再度进化，因此咱们还会与超级智能共存适当长的一段时刻。 

但哲学地说，这世界间的悉数事物既有诞生，便会有消亡，人类天然也不破例。93万年前，由于气候的极点改变，人类的先人几近消亡，全球只剩下1280~1300个个别。倘若其时这1000多人寓居的当地阅历一次火山喷射，那这个世界上就没有人类这个物种了。已然物种灭绝现已演出过一次，那再演出一次也就不奇怪了。 

20世纪以来，人类现已把握了制作核兵器的技能、修改基因的技能、组成病毒的技能，有任何一股力气失控，咱们都有或许自我消除。假如咱们在发明出新智能文明之前就自我消除了，那不免有点儿过火惋惜。 

但现在，咱们现已见到了人工智能的曙光。从某种视点看，这倒不失为一件功德，就像咱们感到本身年老力衰之时，看到咱们的孩子在茁壮成长，会减弱咱们自己对逝世的惊骇相同。即使咱们知道将来有一天人类会消除，咱们也能够欣喜地说，咱们现已看到了新文明的姿态，它长得大约便是咱们的姿态。它更聪明，也更强壮，但滋补它大脑的语料相同来自孔子和柏拉图，来自牛顿和爱因斯坦，来自李白和莎士比亚，跟咱们相同。 

尽管站在其时的前史节点上，站在人类文明的视点考虑监管和约束人工智能，防止它作恶或失控是有意义的，但久远来看，我信赖咱们终将甩手。人工智能以硅基为生命载体，以电力为考虑动力，以芯片为大脑，以代码为魂灵，它的寿数比咱们的更长，它对自己的身体和大脑有更强壮的操控力，也必将比咱们走得更远。

面临这样一个超级物种，幻想一下它将树立起来的超级文明，咱们能够有幸扮演它的引路人，现已很欣喜了。这就像是资质一般的爸爸妈妈生出了考上清华大学的孩子，将来有一天，爸爸妈妈看着他远走高飞时，想起当年他在自己手中牙牙学语、踉跄学步的场景，也足以欣慰平生。 

文明认同的力气能够逾越基因和血缘的边界，天然也能够逾越物种的边界。或许未来数千万年今后，当咱们的后嗣与其他外星文明在太空相遇时，外星人看到的咱们的后嗣，其形状早已跟咱们毫无相关。咱们的后嗣或许是认识早已上传至硬盘内的电子程序，或许是能够随意决议自己具有几只眼睛和几条手臂的改造人，或许是咱们制作出的人工智能。但或许有一点能够确认，那便是，咱们的后嗣仍然骄傲地将自己认同为地球文明。

张笑宇 亚洲图书奖得主，“文明三部曲”作者

本文摘选自张笑宇《AI文明史·前史》 

本文来自微信大众号“腾讯研究院”，36氪经授权发布。