10 · 07确保价值观一致构建值得信赖有道德的人工智能

AI3.007确保价值观一致构建值得信赖有道德的人工智能

第七章，确保价值观一致，构建值得信赖、有道德的人工智能。本章讨论人工智能的伦理困境与监管问题。作者先肯定人工智能已带来许多好处，从垃圾邮件过滤到帮助视障者阅读，吴恩达甚至说人工智能是新电能，但关键在于大权衡：是拥抱它的能力，还是警惕它难以预见的错误、偏见和易受攻击。作者深入剖析了人脸识别的案例：美国公民自由联盟测试亚马逊的系统，把535名国会议员中的28人错误匹配成罪犯，非洲裔议员的错误率高达百分之二十一。监管方面，欧盟颁布了解释权法规，微软、谷歌则呼吁政府规范人脸识别。谈到机器道德，作者回顾了阿西莫夫机器人三定律必然失败的教训，还有电车难题的调查：七成多人赞成自动驾驶汽车应牺牲乘客救行人，但自己却不愿买这种车。章末结论是，可信的道德理性的前提是通用常识，而这正是当今最好的人工智能系统也缺失的东西。

---

自动同步自湛庐有声书管线 · HedgeDoc 原页