当我们发明了明天（11）

人离开伊甸园的时候，并没有失去智慧。生命树被封锁了，伊甸园的道路也被守住了，但那双已经打开的眼睛，并没有重新闭上。人仍然能够想象另一种未来，仍然能够比较今天和明天，也仍然会对眼前的世界感到不满。

于是一个几乎无法避免的问题出现了。既然我已经看见另一种可能，为什么不能想办法走到那里去？

如果冬天会冷，就做衣服；如果野兽会伤人，就制造武器；如果粮食不稳定，就种植土地；如果一个人的力量太小，就把更多的人组织起来；如果记忆会随着身体消失，就把它写下来。人类后来几乎所有的技术，都可以从这种冲动里找到一点影子。

智慧先告诉人，世界还可以不是现在这个样子。技术随后开始尝试，把那个还不存在的样子变成现实。

这两个东西其实并不一样。智慧让人看见可能，技术则让人获得抵达可能的能力。人类可以想象飞翔几千年，可真正造出飞机以前，飞翔始终只是故事。人可以想象跨越大海，可以想象把声音送到遥远的地方，也可以想象让黑夜像白天一样明亮，可只要技术做不到，那些未来就还只是脑子里的未来。

在很长的历史里，人类其实受到过一种非常可靠的保护，那就是我们的无能。

我们想要的东西一直很多，真正能够做到的却很少。古代的皇帝可以想长生，可以寻找仙山，也可以让术士炼丹，可他最后大概率还是会死。一个人也可以幻想摧毁整座城市，但在很长时间里，他最多只能带着一支军队，一条街一条街地打进去。

欲望一直很大，力量却很小。很多危险的想法之所以从来没有变成真正的灾难，并不是因为人已经理解了后果，而只是因为人做不到。

但技术一直在改变这件事。

农业大概是最早的一次巨大变化。人原本只能等待自然提供食物，后来却开始决定哪里长麦子，哪里种稻谷，哪些植物留下，哪些植物拔掉。一个原本需要跟随季节和食物迁徙的生命，第一次开始要求土地按照自己的未来计划生产。

一颗种子埋进土地的时候，粮食并不存在，可人已经相信几个月以后那里会出现一片庄稼。智慧先想象了那个未来，农业再把它一点点变成现实。

也正是在这里，人开始越来越深地改造世界。有了剩余粮食，就可以养活不种地的人；有了不种地的人，就会出现工匠、士兵、祭司和官员；人口不断增加以后，又需要城市、法律、军队和更加复杂的组织。

国家也可以被看成一种技术。它不是机器，却能够完成单独一个人永远做不到的事情。一个人只能控制很小的一块土地，一个国家却可以修路、征税、储存粮食、建立军队，把几百万甚至更多人的行动拉进同一个计划里。

人的身体没有变大，可人的力量开始变大了。

工具延长了手，车轮延长了腿，文字延长了记忆，货币延长了交换，国家延长了组织能力，机器延长了肌肉，计算机又延长了计算。人类不断发明新的东西，看起来每一次都只是在解决一个眼前的问题，可这些东西最后都在做同一件事：让人能够碰到以前碰不到的未来。

工业革命以后，这个过程突然加速了。

一个人一天能够生产多少东西，曾经长期受到身体限制。无论一个人多勤奋，他终究只有两只手，也只有那么多力气。机器第一次大规模拆掉了这个边界。一台机器可以完成几十个人的工作，一座工厂可以生产过去一个城市都无法生产的东西，而煤炭、石油和电力又不断给机器提供新的力量。

人没有变得更强壮，却开始拥有像巨人一样的力量。

铁路、轮船、电力、化学工业、汽车、飞机，每一种技术都把一个原来很遥远的未来拉到了人面前。可技术有一个很奇怪的特点，它通常只需要证明一件事：这个东西能不能做出来。

至于做出来以后，整个世界会变成什么样，那往往是后来的问题。

汽车刚出现的时候，人首先看到的是移动变快了。很少有人会在第一辆汽车上路的时候，就完整想象几千万、几亿辆汽车以后会出现怎样的城市、道路、石油工业、空气污染和生活方式。化肥首先解决的是粮食，塑料首先解决的是廉价、轻便和耐用，互联网首先解决的是信息传播。

每一种技术在刚刚出现的时候，都有一个非常清楚的眼前问题需要解决。

真正复杂的后果，却经常藏在几十年以后。

这就是有限智慧真正麻烦的地方。

人能看到前面的一段路，却很难同时看见这条路最终会经过的所有地方。我们可以解决今天的问题，但解决方案本身又会进入明天，和更多东西发生关系，最后变成一个最初谁都没有想到的世界。

所以，技术越强，伊甸园里守在生命树前的基路伯反而越值得重新去看。

如果把基路伯理解成局部理性不可跨越的认知边界，那么它提醒人的并不是“你什么都不知道”。恰恰相反，人知道很多，而且往往知道得非常准确。

真正的问题是，我们永远只知道其中一部分。

我们可以知道一种药能够影响身体中的某条生理路径，却不知道它被几亿人使用几十年以后会出现所有什么结果；可以知道某项制度今天提高了效率，却无法提前知道几代以后的人会怎样利用它；可以知道一个算法能够解决某项任务，却不能因此自动知道，一个大量依赖算法的社会最终会变成什么。

局部理性最危险的地方，恰恰不是它总是错误。

它经常在局部上完全正确。

眼前的问题真的解决了，成本真的下降了，产量真的提高了，战争真的赢了，效率也真的变高了。只是更远的地方还没有出现。

而人的行动已经继续往前走了。

如果基路伯象征的是这种认知上的边界，那么火焰之剑代表的则是另一件事。在很长的历史里，有些边界即使人看不懂，也根本过不去。

你可以幻想永生，但身体仍然会衰老；可以祈求飞翔，但重力不会因为祈祷失效；可以炼丹、求神、寻找仙山，可以相信自己偶然发现了某种秘密，可如果世界的物理规律不允许，那条道路依旧关闭。

火焰之剑不是劝告。它更像是一道不会因为愿望而改变的物理边界。

你可以不理解它，也可以不相信它，但你仍然过不去。它甚至不允许一个只有局部理性的人，靠一次偶然、一次运气，突然闯进一个自己根本没有能力理解的世界。基路伯限制了我们能够看清多少，火焰之剑则限制了我们即使看不清，也不能随意做到所有事情。

可技术真正令人不安的地方，也正在这里。

那把剑开始后退了。人类逐渐能够做到一些过去只能想象的事情。过去，一个人的愤怒无法瞬间毁掉一座城市，后来炸药出现了；再后来，人开始研究原子核。核武器也许是技术史里最清楚的一次提醒。制造它的人并不是一群完全不懂科学的人。恰恰相反，他们是当时世界上最聪明的一群人。

他们对局部问题理解得极其深刻。中子怎样运动，链式反应怎样发生，什么材料能够达到临界状态，这些问题都可以被认真计算。也正因为计算是正确的，武器才真的爆炸了。人类也就获得了能够瞬间毁灭一个城市的力量。

可“我们能不能把它造出来”和“一个拥有核武器的人类文明以后会怎样”，从来就不是同一个问题。

前一个问题可以交给物理学。

后一个问题，没有一条公式能够一次算完。

这就是基路伯与火焰之剑之间最危险的距离。人的局部理性依旧有限，可原来阻止我们行动的物理边界，却开始被技术一点点拆掉。

以前人做不到，所以许多错误没有机会变成现实。后来，我们做到了。

进入二十一世纪以后，这种感觉变得越来越明显。人开始修改基因，重新设计生命过程，干预胚胎，研究延长寿命，改变生态系统，也开始制造越来越强的人工智能。

人工智能尤其特别。

过去的工具主要扩大人的身体。机器扩大肌肉，汽车扩大移动范围，计算机扩大计算能力。而人工智能第一次开始大规模碰触一种更加接近智慧本身的东西——判断、预测、生成、寻找方案。

如果这条路继续走下去，人类得到的可能不再只是一个更快的工具。我们甚至可能是在制造一个帮助自己看得更远的东西。

这当然令人兴奋。因为人类一直以来最危险的问题，就在于行动能力已经变得越来越大，而理解后果的能力并没有同样迅速地增长。如果人工智能真的能够扩大人的因果认知半径，让人在行动以前看到更多可能，它也许会成为一种过去从未出现过的工具。

如果人工智能首先扩大的是行动能力，而不是理解能力呢？

如果它让人更快地制造药物、更快地开发武器、更快地影响社会、更快地改造生命，却没有让人同样更清楚地知道这些事情最后会把世界带到哪里呢？

那么智慧果的问题就会再一次被放大。

我们能做到的事情，又一次跑到了我们能够理解的事情前面。

这也许就是技术史里一直隐藏着的一条线。从石器到农业，从国家到工业，从核武器再到人工智能，人类始终在做同一件事——不断把“我能想到”变成“我能做到”。

这个过程创造了几乎所有文明，也制造了文明最危险的时刻。因为智慧从来没有承诺，只要人能够想象一个未来，那个未来就一定值得实现。

蛇第一次让人知道，世界还可以有另一种样子。技术则不断把越来越多的“另一种样子”，真正摆到人的手边。于是几千年前伊甸园里的问题，并没有因为我们不再相信那棵树而消失。

它只是换了一个地方。

今天的人不再站在生命树前，而是站在实验室、数据中心、核设施、基因编辑设备和越来越强大的机器面前。我们看不到基路伯，也看不到一把真正燃烧着的火焰之剑。

于是人很容易产生一种错觉：

既然我们已经可以过去，也许就说明我们应该过去。

可“能够”从来不是“应该”。

技术最擅长回答前一个问题。智慧真正困难的工作，却一直是后一个。当过去那些无法跨越的物理边界，真的开始被一个个拆掉以后，人类迟早会面对一个比伊甸园更加困难的问题。如果那把火焰之剑终于可以被绕开，那么最后还能阻止人的错误的，会是什么？

也许真正缺少的，从来不是更大的力量。

而是一种能够看得和力量一样远的智慧。