15 · 第11章机器智能存在的风险

第11章机器智能存在的风险

第11章，机器智能存在的风险。本章回应智能机器威胁人类生存的流行担忧，作者认为这类争论建立在对智能的错误理解上。他把风险拆成三个概念：复制、动机和智能。能自我复制的东西才危险，比如病毒和细菌才是种族灭绝的真凶；动机是进化的产物，不复制不进化的机器不会突然想统治人类；智能是三者中最温和的，模型像地图，本身没有目标。针对目标失调，他引用巫师的学徒和回形针思想实验，指出这需要机器既忽略后续指令又能征用全球资源，两个条件都不现实。针对智能爆炸，他说学习必须与世界互动，造望远镜收数据都需要时间，再快的机器也无法一夜之间无所不知。真正的风险是坏人滥用智能武器和操控宣传，应像对待化学武器一样达成国际协议。

自动同步自湛庐有声书管线 · HedgeDoc 原页