09 · 第8章创造可信的AI

第8章创造可信的AI

第八章，创造可信的AI。本章讲打造可信AI的几个支柱。首先是优秀的工程实践：要留出余量、设置冗余和失效保护，电梯按半吨设计就要造到五吨，无人驾驶不能只靠摄像头，还要经得起类似碰撞测试的压力检验。其次是用深度理解取代深度学习，因为神经网络更像药理实验，只知有效却说不清原理，调试维护都很难，而具备常识的系统根本不会犯咯咯笑、把母亲认成儿子的低级错误。第三是赋予机器道德价值观，阿西莫夫的机器人三定律是起点，而博斯特洛姆担心的回形针灾难，在真正拥有常识和价值观的系统面前根本不会发生。章末结论是：真正的危险不是超级智能，而是被赋予权力的白痴专家，解药就是用更优秀的AI来治愈有风险的AI。

自动同步自湛庐有声书管线 · HedgeDoc 原页