# 07 · 03不远的未来科技大突破故障法律武器和就业

<div style="background:#f5f0e8;border-radius:8px;padding:12px 16px;margin:16px 0;display:flex;align-items:center;gap:12px;">
  <span style="font-size:14px;color:#666;">🔊 全文章节朗读</span>
  <audio controls preload="none" style="flex:1;height:36px;">
    <source src="https://s3.gksj.cc/ab-0815832b19604c58/life30/07.mp3" type="audio/mpeg">
  </audio>
</div>

# 03不远的未来科技大突破故障法律武器和就业

第三章，不远的未来：科技大突破、故障、法律、武器和就业。泰格马克从DeepMind玩打砖块游戏的AI讲起，那个AI自己发现了在砖墙边缘钻通道让小球自动弹跳的最优策略，展示了深度强化学习的创造力。他列举了AI故障的教训，比如阿丽亚娜5号火箭因软件复用偏差自毁、特斯拉自动驾驶致死事故，强调验证和确认的重要性。在法律方面，他讨论了隐私与信息自由的张力、机器人法官的透明化潜力。在武器方面，他呼吁国际条约禁止致命自动化武器，避免失控的暗杀机器军备竞赛。在就业方面，他指出AI取代人类工作不一定是坏事，前提是社会将AI创造的财富重新分配；给孩子的建议是进入机器不擅长的领域：与人打交道、不可预见性、创造力。

---

*自动同步自湛庐有声书管线 · [HedgeDoc 原页](https://doc.gksj.cc/)*