03 · 如何创造可信的AI

如何创造可信的AI

第二章，当下AI的九个风险。本章逐一盘点当下AI不值得信任的九类问题。开篇讲微软聊天机器人Tay上线不到一天就学会歧视言论被紧急下线，扫地机器人路过狗屎会把全家地板涂满。作者先说明不必担心机器人造反，因为AI没有欲望，真正的麻烦是机器会犯荒谬的错误。九个风险包括：让人轻信它有智慧、缺乏鲁棒性、换个数据集就失灵、固化社会偏见，比如识别不出黑人女性的性别、回音室效应、被公众可操纵的数据愚弄、加剧司法偏见、落进错误目标陷阱，比如奶牛发情预测系统靠永远猜不发情骗到九成五的准确率，最后还有被恶意利用的风险。章末指出，仅靠大数据打补丁无异于打地鼠大战，我们需要的是从一开始就足够聪明、能规避这类错误的系统。

---

自动同步自湛庐有声书管线 · HedgeDoc 原页