《数学之美(第一版)》笔记 —— 第2章

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情

第2章:自然语言处理——从规则到统计

  • 虽然传递信息是动物也能做到的,但是利用语言来传递信息是人类的特质。

  • 基于规则的自然语言处理:
    在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  • 缺点:需要很多的文法规则。

  • 这种基于规则的做法和程序编译很像:自然语言是上下文有关文法;计算机程序语言是上下文无关文法

  • 基于统计的方法:其核心是通信系统+隐含马尔科夫模型

数学~阅读 数学目录 数学 目录 统计语言模型 谈谈中文分词 隐马尔科夫在语言处理中的应用 怎样度量信息 布尔代数和搜索引擎的索引 图论和网络爬虫 信息论在信息处理中的应用 贾里尼克的故事和现代语言处理 如何确定网页和查询的相关性 有限状态机和地址识别 Google的阿卡47制造者阿米特辛格博士 余弦定理和新闻分类 信息指纹及其应用 谈谈数学模型的重要性 繁与简 自然语言处理的几位精英 不要把所有的 阅读详情

相关推荐

数学第一版)》笔记 ——第3

第3:统计语言模型 自 然 语 言 从 它 产 生 开 始 , 逐 渐 演 变 成 一 种上 下 文 相 关 的 信 息 表 达 和 传 递 的 方 式 , 因 此 让 计 算 机 处 理 自 然 语 言 , 一个 基 本 的 问 题 就 是 为 自 然 语 言 这 种 上 下 文 相 关 的 特 性 建 立 数 学 模 型 。 这个 数 学 模 型 就 是 在 自 然 语 言 处 理 中 常 说 的 **统 计 语 言 模 型 ( Statistical Language Model ) **, 它

budding0828 374

​ 每周一书《数学 第二版》分享!

内容简介 几年前,“数学”系列文原刊载于谷歌黑板报,获得上百万次点击,得到读者高度评价。读者说,读了“数学”,才发现大学时学的数学知识,比如马尔可夫链、矩阵计算,甚至余弦函数原来都如此亲切,并且栩栩如生,才发现自然语言和信息处理这么有趣。 在纸本书的创作中,作者吴军博士几乎把所有文都重写了一遍,为的是把高深的数学原理讲得更加通俗易懂,让非专业读者也能领略数学的魅力。读者通过具体的例...

中科院计算所培训中心 713

数学第一版)》笔记整理 —— 目录

序 因为想对互联网的新兴技术有一些更好的了解,不断拓展自己的知识面,所以想到了吴军老师的《数学》,个人非常推荐大家阅读,可以对各种技术有一个入门的了解。吴军老师的讲法也很生动,对部分节的内容有兴趣的,也可以深入去了解。 为了更好地理解书中的内容,我根据自己的思维方式做了一些整理。并且对一些相对难懂的片段,我做了进一步的扩展和深究。将自己的笔记分享出来,希望能够和大家一起学习和探讨。 电子书pdf我已经上传到github仓库中,方便大家下载。 目录 ...

budding0828 1131

吴军《数学》第二版阅读整理

吴军的《数学第一版2012年出版,并获得国家图书馆第八届文津图书奖。我读的是第二版(再版),作者在第一版的基础上又增加了一些内容。 作者大有来头(IT行业),吴军博士,毕业于清华大学和国约翰.霍普金斯大学,02年就职于Google,从事搜索算法相关工作。(百度百科) -------------------------------------------------------...

angelbill3的专栏 2895

数学》读书

也算是给自己立个flag,看自己是什么时候能够吧数学能够读完,同时保证在读的过程当中有记录。 第一版读者赞誉 第二版出版说明 第一版序言 第二版序言 第二版前言 目录 第1 文字和语言 vs 数字和信息 第2 自然语言处理——从规则到统计 第3 统计语言模型 第4 谈谈分词 第5 隐含马尔可夫模型 第6 信息的度量和作用 第7 贾里尼克和现代语言处理 第8 简单之——布尔代数...

weixin_34221073的博客 458

小白如何准备数学建模——以赛为列

小白如何准备数学建模,如何安排学习计划——以赛为列

sunshine_boy1的博客 9827

数学》读书笔记

数学》读书笔记 曾经看过吴军博士的《大学之路》,对书中的教育理念十分喜欢,这次有机会拜读《数学》,读完之后,感觉十分清爽,之前还未曾听说过一本书能将数学,计算机,算法,文化,历史和教育理念结合起来。曾经很多不懂的地方,现在渐渐清晰了很多,读完之后,再看今天的自然语言处理和搜索引擎,大多本是以信息论为基础。 第一 本书——《数学》,力图将复杂的问题,归结为数学...

Yang-wy 1万+

数学读书笔记

目录 简介 数学这本书挺有趣的,我看了有许多感想,我不想用以前那种死板的读书笔记格式,所以本次读书笔记我准备分为两部分第一部分是我在阅读时的随记有灵感或者有触动我的地方就写,第二部分是读完本书的总结包括自己学到了什么,这本书颠覆与构建了我的什么思想。 随记 第一 第二面 第一次知道原来网络通信模型居然是随语言一起诞生的,他居然这么古老了,并且我由此想到我们文明中的多少的技术多少的方法能与我们...

yanaoyong的博客 3554

数学

数学的概念    数学(2)  是人类创造性实践活动的产物,是人类本质力量的感性显现。通常我们所说的以自然、社会以及在此基础上的艺术、科学的形式存在。数学是自然的客观反映,是科学的核心[1]。简言之数学就是数学中奇妙的有规律的让人愉悦

3412

数学》阅读笔记

数学阅读笔记第1 文字和语言 VS 数字和信息 本文主要内容基于《数学》,仅用作个人学习积累之用,不做任和商业用途。 第1 文字和语言 VS 数字和信息 不同的文字系统在记录信息上的能力是等价的。 罗塞塔的故事给作者启发 信息的冗余是信息安全的保障。 语言的数据,我们称之为语料,尤其是双语或者多语的对照语料对翻译至关重要,它是我们从事机器翻译研究的基础。 ...

舒兆国的博客 1254

【图书推荐】《数学

数学》是吴军主编的一本通过生动有趣的语言,将复杂的数学和信息处理技术呈现给大众的科普书籍。书中讲述了数学在信息技术领域,特别是在自然语言处理(NLP)、语音识别和信息搜索中的丽应用。吴军博士结合自己在Google和腾讯的工作经验,阐述了数学原理如何被应用到现代信息技术中的方方面面,揭示了数学与技术的密切关系,以及如何利用数学知识推动技术的创新。本书内容涵盖了从经典的统计语言模型、隐马尔可夫模型(HMM)到现代的搜索引擎算法、人工神经网络和机器学习等技术的演变

彬彬侠的博客 2082

数学》第2 自然语言处理——从规则到统计 读书笔记

数学》第2 自然语言处理——从规则到统计 读书笔记 1.核心内容:自然语言处理靠 语法规则vs统计的历史 2.精句: “第一,计算机是否能处理自然语言。第二,如果能,那么它处理自然语言的方法是否和人类一样?这两个问题的回答都是肯定的。” “全世界的科学家对计算机处理自然语言的认识都局限在人类学习语言的方式上,也就是说用电脑模拟人脑,这20多年的成果近乎为零。” ”到90年代以后,坚持前一种方法的研究人员越来越少,参会人数也自然越来越少,而后者却越来越多,这样自然语言处理从规则到统计的过渡就完成了。“

m0_60402335的博客 564

数学第一版)》笔记 —— 第6

第6 信息的度量和作用 信息熵(Entropy) 背景: 信息量等于不确定性的多少 可以用bit这个概念来衡量信息量(所以加上了log函数) 信息熵公式: 其中P(x)P(x)P(x)是x发生的可能性。变量的不确定性越大,熵也就越大。 信息熵的取值范围是:[0,log2(n)][0, log_2(n)][0,log2(n)] ,其中n代表分类的数目。其推导过程可以参考:https://blog.csdn.net/sinat_26811377/article/details/10199235

budding0828 418

数学》——第一 个人笔记

                                            数学最近在读《数学》这本书,做一下个人笔记。看的是PDF,看完后会买一本的哦!版权意识还是有的。ps:图片文字都是这本书中的内容,侵权立删。会有点自己的理解。第一    文字和语言 vs 数字和信息1 信息通信的原理就是这三个步骤,本质上是一致的,只不过今天的实现形态发生了变化。更技术,更高大上了。2...

qq_41010142的博客 1692

数学》第1 读书笔记

文字和语言vs数字和信息

m0_60402335的博客 353

数学第一版)》笔记 —— 第5

第5 隐含马尔科夫模型 通信模型 通信的六要素:发送者,信道,接受者,信息,上下文,编码。 问题:如何从接收端的观测信号o1,o2,o3...o_1,o_2,o_3...o1​,o2​,o3​...来推测信号源发送的信息s1,s2,s3...s_1,s_2,s_3...s1​,s2​,s3​...? 解:找最可能产生观测信号的源信息。 由于o1,o2,o3...o_1,o_2,o_3...o1​,o2​,o3​...一旦产生就不会改变,所以此时P(o1,o2,o3,...)P(o_1,o_2,o

budding0828 386

数学 第二版 pdf

数学 第二版 pdf

qq_43679402的博客 3519
上一篇: 《数学之美(第一版)》笔记 —— 第1章
下一篇: 《数学之美(第一版)》笔记 ——第3章
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值