14 · 11词语以及与它一同出现的词
🔊 全文章节朗读
11词语以及与它一同出现的词
第十一章，词语，以及与它一同出现的词。本章进入自然语言处理领域。作者用餐厅际遇的小故事开场：男士点了汉堡包却烤煳了，他没付钱就冲出餐厅，人类立刻明白他没吃汉堡，而机器要回答这个问题需要多得难以想象的常识。深度学习在这个领域的第一个重大成就是语音识别，2012年深度网络促成了二十年来最大的单项进步，安静环境下准确率已达人类的九成到九成五，但最后的百分之十可能需要真正的理解。接着讲情感分类，只看黑暗、恐怖这类线索词远远不够，必须结合上下文，于是引出了能处理变长句子的递归神经网络。本章重点是词向量：语言学家费斯说你会通过与一个单词一同出现的词来认识它，谷歌2013年提出的word2vec把七十万个词放进三百维语义空间，国王减去男士加上女士居然能得到女王。但词向量也继承了语言的偏见，问男士之于程序员就像女士之于什么，答案竟是家庭主妇。
自动同步自湛庐有声书管线 · HedgeDoc 原页