07 · 03不远的未来科技大突破故障法律武器和就业

🔊 全文章节朗读
  
    
  
03不远的未来科技大突破故障法律武器和就业
第三章，不远的未来：科技大突破、故障、法律、武器和就业。泰格马克从DeepMind玩打砖块游戏的AI讲起，那个AI自己发现了在砖墙边缘钻通道让小球自动弹跳的最优策略，展示了深度强化学习的创造力。他列举了AI故障的教训，比如阿丽亚娜5号火箭因软件复用偏差自毁、特斯拉自动驾驶致死事故，强调验证和确认的重要性。在法律方面，他讨论了隐私与信息自由的张力、机器人法官的透明化潜力。在武器方面，他呼吁国际条约禁止致命自动化武器，避免失控的暗杀机器军备竞赛。在就业方面，他指出AI取代人类工作不一定是坏事，前提是社会将AI创造的财富重新分配；给孩子的建议是进入机器不擅长的领域：与人打交道、不可预见性、创造力。
自动同步自湛庐有声书管线 · HedgeDoc 原页