如何创造可信的AI
盖瑞·马库斯（Gary Marcus）& 欧内斯特·戴维斯 著 ｜ 深度学习不是全部：结合符号与神经的混合架构，才能造出有常识、可信任的AI。
- 01 · 推荐序可信的AI
- 02 · 第1章AI该往何处走
- 03 · 第2章当下AI的9个风险
- 04 · 第3章深度学习的好与坏
- 05 · 第4章计算机若真有那么聪明为什么还不会阅读
- 06 · 第5章哪里有真正的机器人管家
- 07 · 第6章从认知科学中获得的11个启示
- 08 · 第7章常识实现深度理解的关键
- 09 · 第8章创造可信的AI
- 10 · 后记
01 · 推荐序可信的AI
推荐序可信的AI
推荐序，可信的AI。这是陆奇为马库斯这部著作所作的序，主题是介绍作者的学术背景与全书框架。陆奇指出，马库斯师从心理学大师平克教授，横跨计算机、认知科学、语言学等多个领域，敢于挑战主流观点，还两次创业把理念付诸实践，所以书中的观点并非纸上谈兵。序言概括了全书两大板块：前五章系统剖析深度学习的局限，特别是媒体宣传与实际落地能力之间的AI鸿沟，并归纳出轻信坑、虚幻进步坑和鲁棒坑三个大坑；后三章则提出路径，主张从认知科学中提取十一条线索，为机器赋予常识与内在结构。陆奇强调，马库斯并非唱衰AI，他坚信只有正视局限、探索新的技术突破，才能创造出真正可信的AI，这些争议对行业的健康发展也是必要而有益的。
自动同步自湛庐有声书管线 · HedgeDoc 原页
02 · 第1章AI该往何处走
第1章AI该往何处走
第一章，AI该往何处走。本章的主题是AI的宏大承诺与冰冷现实之间的巨大落差。从赫伯特·西蒙预言二十年内机器拥有人类一切能力，到无人驾驶、IBM沃森医疗、Facebook聊天机器人纷纷落空，作者指出业界一贯愿景有余而落地不足，媒体还惯于把小进步夸大成革命，比如微软和阿里的阅读测试成绩只提高了半个百分点，就被说成超越人类。核心论点是：当下的AI是只能在封闭任务里工作的狭义AI，而灵活应对开放世界的广义AI还遥遥无期。作者把这个落差称为AI鸿沟，并拆成三个坑：轻信坑、虚幻进步坑和鲁棒坑，特斯拉致命车祸和贴纸停车标志被认成冰箱都是典型例子。章末结论是，AI需要重启，而线索要到人类心智的内在结构中去寻找。
自动同步自湛庐有声书管线 · HedgeDoc 原页
03 · 第2章当下AI的9个风险
第2章当下AI的9个风险
第二章，当下AI的九个风险。本章逐一盘点当下AI不值得信任的九类问题。开篇讲微软聊天机器人Tay上线不到一天就学会歧视言论被紧急下线，扫地机器人路过狗屎会把全家地板涂满。作者先说明不必担心机器人造反，因为AI没有欲望，真正的麻烦是机器会犯荒谬的错误。九个风险包括：让人轻信它有智慧、缺乏鲁棒性、换个数据集就失灵、固化社会偏见，比如识别不出黑人女性的性别、回音室效应、被公众可操纵的数据愚弄、加剧司法偏见、落进错误目标陷阱，比如奶牛发情预测系统靠永远猜不发情骗到九成五的准确率，最后还有被恶意利用的风险。章末指出，仅靠大数据打补丁无异于打地鼠大战，我们需要的是从一开始就足够聪明、能规避这类错误的系统。
自动同步自湛庐有声书管线 · HedgeDoc 原页
04 · 第3章深度学习的好与坏
第3章深度学习的好与坏
第四章，第三章，深度学习的好与坏。本章讲清了深度学习是什么、强在哪、又弱在哪。从早年罗森布拉特的神经网络，到GPU催生的2012年革命，深度学习把图像识别准确率从七成多推到九成八，还在翻译、语音识别上大放异彩。但作者提出三个核心问题：一是贪婪，需要海量数据，AlphaGo要下三千万盘棋才能超越人类，而我们戴一次3D眼镜就能领会奥妙；二是不透明，神经网络如同黑箱，犯错也查不出原因；三是脆弱，贴了贴纸的停车标志会被认成冰箱，涂了肥皂泡的棒球被认成浓缩咖啡，翻倒的校车被认成雪耙。章末结论是，深度学习是一个美好的悲剧，它只是工具箱里的一件工具，正如那句名言所说，爬上再高的大树，也无法抵达月球。
自动同步自湛庐有声书管线 · HedgeDoc 原页
05 · 第4章计算机若真有那么聪明为什么还不会阅读
第4章计算机若真有那么聪明为什么还不会阅读
第四章，计算机若真有那么聪明，为什么还不会阅读。本章的主题是机器阅读为什么至今未能实现。谷歌Talk to Books被吹成能回答一切问题，实际连哈利波特和赫敏在哪相遇、犹大为什么背叛老师这类问题都答不好，换个问法答案就面目全非。作者用《农庄男孩》里阿曼佐捡到钱包归还汤普森先生的段落做例子：人类能顺着推理链答出汤普森先生为什么拍口袋，而现有AI全都做不到。计算机不会阅读有三大原因：不会建立认知模型、不理解不字的含义、无法应对语言的模糊性。搜索引擎和语音助手做的只是关键词匹配，比如问最近一家不是麦当劳的快餐店，Siri照样列出三家麦当劳。章末结论是，症结在于机器缺乏对世界运转方式的常识性理解。
自动同步自湛庐有声书管线 · HedgeDoc 原页
06 · 第5章哪里有真正的机器人管家
第5章哪里有真正的机器人管家
第五章，哪里有真正的机器人管家。本章回答为什么我们至今买不到动画片里的机器人管家罗茜。目前最畅销的只有扫地机器人Roomba，而波士顿动力能跑酷的阿特拉斯，那段视频是在精心布置的房间里拍了二十一次才成功的。作者提出机器人管家必备四个能力：定位、运动控制、态势感知和在复杂场景中采取行动。前两项进展不错，SLAM技术和波士顿动力的运动控制都很出色，后两个却几乎没有突破：机器人分不清壁炉里取暖的火和必须扑灭的火，也应对不了派对上掉落的饼干、杯子里的蟑螂，更别提帮盲人购物时路上的无数意外。章末结论是，瓶颈不在硬件而在软件，没有丰富的认知模型和常识，就没有安全可靠的机器人管家。
自动同步自湛庐有声书管线 · HedgeDoc 原页
07 · 第6章从认知科学中获得的11个启示
第6章从认知科学中获得的11个启示
第六章，从认知科学中获得的十一个启示。本章从心理学、语言学和哲学中提炼出指引AI发展的十一条经验。作者先戳穿了因果熵这类用一个公式解释一切智慧的理论，指出行为主义当年就是这样衰败的，深度学习也落入了寻找银弹的陷阱。十一个启示包括：没有银弹、认知依赖内部表征、抽象与概括至关重要、认知系统高度结构化、简单认知也需要多种工具、语言由成分组合而成、理解需要自上而下与自下而上结合、概念嵌于理论之中、因果关系是理解的基础、我们跟踪具体的人和事件、复杂认知生物体并非白板。比如五岁半的孩子稍加点拨就能悟出你的及胸水深就是我的及头水深，机器却做不到。章末呼吁AI向人类心智学习，把先天知识与后天学习结合起来，才能为机器赋予常识。
自动同步自湛庐有声书管线 · HedgeDoc 原页
08 · 第7章常识实现深度理解的关键
第7章常识实现深度理解的关键
第七章，常识，实现深度理解的关键。本章的主题是常识为什么难，以及该怎么办。常识人人都懂，却没人知道如何造出有常识的机器，作者形容这是AI领域最难啃的硬骨头之一。作者检视了建立常识库的三种方法：网络爬取的NELL学到了下北泽站是摩天大楼这样的错乱事实，众包的ConceptNet得出厨师本身可能是一顿饭的荒唐推论，人工编码三十年的CYC项目也未被业界认可。作者主张用形式逻辑清晰地表征知识，并围绕时间、空间和因果关系构建知识框架，比如机器人管家要知道先拔软木塞再倒酒，顺序不能颠倒。章末给出路线图：把知识表征与推理能力和感知、语言相连，再融入像孩子一样如饥似渴的学习，才能最终达到深度理解的境界。
自动同步自湛庐有声书管线 · HedgeDoc 原页
09 · 第8章创造可信的AI
第8章创造可信的AI
第八章，创造可信的AI。本章讲打造可信AI的几个支柱。首先是优秀的工程实践：要留出余量、设置冗余和失效保护，电梯按半吨设计就要造到五吨，无人驾驶不能只靠摄像头，还要经得起类似碰撞测试的压力检验。其次是用深度理解取代深度学习，因为神经网络更像药理实验，只知有效却说不清原理，调试维护都很难，而具备常识的系统根本不会犯咯咯笑、把母亲认成儿子的低级错误。第三是赋予机器道德价值观，阿西莫夫的机器人三定律是起点，而博斯特洛姆担心的回形针灾难，在真正拥有常识和价值观的系统面前根本不会发生。章末结论是：真正的危险不是超级智能，而是被赋予权力的白痴专家，解药就是用更优秀的AI来治愈有风险的AI。
自动同步自湛庐有声书管线 · HedgeDoc 原页
10 · 后记
后记
后记。本篇展望可信AI实现之后的图景。作者认为，若干年后回望历史，真正的转折点不是2012年深度学习的重生，而是机器通过常识和推理上的突破、获得对世界深刻理解的那一刻。到那时，搜索能轻松答出最高法院最年长的法官是谁，数字助理能策划上千人的活动，全息甲板般的虚拟现实和机器人管家将成为现实，机器还能达到专家水平，加快科学发现的速度。但作者也提醒，就业机会可能变得稀缺，收入再分配的争论会更加激烈，这场认知革命会像工业革命一样点燃社会变革的燎原大火。预测千年后的世界无异于夜郎自大，我们能做的是确保AI安全可信，跳出大数据框架，造出预装价值观、常识和深度理解的新一代AI。
自动同步自湛庐有声书管线 · HedgeDoc 原页