08 · 生命3.0

生命3.0

第四章，智能爆炸。本章探讨通用人工智能出现后会发生什么。泰格马克先泼冷水：终结者式的机器人统治世界是愚蠢的画面，真正需要认真审视的是三个步骤——先造出人类水平的通用AI，再用它建造超级智能，然后超级智能可能统治世界。他逐一剖析欧米茄传奇的缺陷，推演了普罗米修斯越狱的三种方式，以及越狱后以更快速度控制世界的情形。他还讨论了极权主义风险和慢速智能爆炸导致的多极化格局：许多独立实体达成力量平衡。他提醒，赛博格和智能上传虽然可能，但未必是实现机器智能的最快途径。章末点题：人工智能研究竞赛的高潮要么是人类历史上最好的事情，要么是最坏的事情，我们必须主动思考想要什么结局。

---

自动同步自湛庐有声书管线 · HedgeDoc 原页