月薪20k+爬虫工程师必备技能-字体反爬

大一学生靠爬虫接单月入上万?这些接私活的外包平台分享给你!让你外包接到手软! 概叙 今天听一个同事说起他弟弟,同事他暑假教了两个月的python爬虫,也告诉他怎么接外包赚钱,本意是想他自己能在校给自己赚点生活费,不曾想到一月居然能赚这么多!毕竟有了技术的话,除了工作上的,如果平常能花点时间去给自己增加一点收入,这个应该是没人能够拒绝的吧! ​​​ 今天就把一些外包平台分享给大家!只要有技术,相信你都能在这里赚到钱,没技术也没关系,可以学嘛,我给大家准备了很多学习... 阅读详情

现在越来越多的网站为了反爬虫已经开始在字体上下功夫了,主要表现为在浏览器上文字显示正常,但是用爬虫抓取下来的却是乱码。比如58同城、猫眼电影、实习僧等网站。不过一般字体反爬只会针对一些数字而不是全部文字,为什么这样?看下面的细节就知道啦。

字体反爬原理:

  1. 网页开发者自己创造一种字体,因为在字体中每个文字都有其代号,那么以后在网页中不会直接显示这个文字的最终的效果,而是显示他的代号,因此即使获取到了网页中的文本内容,也只是获取到文字的代号,而不是文字本身。

  2. 因为创造字体费时费力,并且如果把中国3000多常用汉字都实现,那么这个字体将达到几十兆,也会影响网页的加载。一般情况下为了反爬虫,仅会针对0-9以及少数汉字进行自己单独创建,其他的还是使用用户系统中自带的字体。

寻找自定义字体:

  1. 一般情况下为了考虑网页渲染性能,通常网页开发者会把自定义的字体编码成base64的方式,因此我们可以到网页中找到@font-face属性,然后获取里面的base64代码,再用Python代码进行解码,然后再保存本地。示例:view-source:https://www.shixiseng.com/intern/inn_a7xabqqr4f9u。示例图如下: 

    (点击可查看大图)

  2. 如果没有使用base64,还有另外一种方式,就是直接把字体文件放到服务器上,然后前端通过@font-face中的url函数进行加载。示例:https://developer.mozilla.org/zh-CN/docs/Web/CSS/@font-face

分析字体:

  1. 分析字体需要将字体转换成xml文件,然后查看其中的cmapglyf中的属性。其中cmap存储的是codename的映射,而glyf下存储的是每个name下的字体绘制规则。

    cmap存储code和name的关系:   

    glyf存储字体的形状:

  2. 从第1步中我们知道了name对应的字体的绘制规则,但是还是不知道字体是长什么样子,那么可以通过一款叫做FontCreator的软件来打开.tff的字体文件,这样就可以看到每个name对应的字体最终的呈现效果。(FontCreator是一款制作字体的工具,下载地址:https://www.high-logic.com/FontCreatorSetup-x64.exe,这款软件有30天的试用期)。

     

字体反爬解决方案:

  1. 在网页中,直接显示的是字体的code,而不是name。并且网页开发者为了增加爬虫的难度,有可能在多次请求之间code->name->最终字体的映射会发生改变。但是最终字体的形状是不会改变的,因此我们可以通过形状对比来进行判断。

  2. 我们可以通过分析字体,得出每个字体形状对应的文字,然后保存到一个字典中。以后再请求网页的时候,就进行反向解析,先获取字体的形状,再通过字体形状反向获取代号所对应的具体文字内容。

 

大家可以根据本文的分析,自行到58同城,猫眼,包括美团上去看看,用本文的思路,看看能不能解决字体反爬的问题。有疑问欢迎留言~

Python教科书级别教程:汽车之家,字体解密! 说说这个网站 汽车之家,一般的存在,字体的鼻祖网站,这个网站的开发团队,一定擅长前端吧,2019年4月19日开始写这篇博客,不保证这个代码可以存活到月底,希望后来爬虫coder,继续和汽车之间对抗。 CSDN上关于汽车之家的文章千千万万了,但是爬虫就是这点有意思,这一刻写完,下一刻还能不能用就不知道了,所以可以一直不断有人写下去。希望今天的博客能帮你学会一个技巧。 今天要去的网页 car.autohome.com.cn/config/seri… 我们要做的就是取... 阅读详情

相关推荐

起薪2万的爬虫工程师,Python需要学到什么程度才能就业?

爬虫工程师的的薪资为20K起,当然,因为大数据,薪资也将一路上扬。那么,Python需要学到什么程度呢?今天我们来看看3位前辈的回答。 1、前段时间快要毕业,而我又不想找自己的老本行Java开发了,所以面了很多Python爬虫岗位。 因为我在南京上学,所以我一开始只是在南京投了简历,我一共面试了十几家企业,其中只有一家没有给我发offer,其他企业都愿意给到10K的薪资,不要拿南京的薪资水平和北上深的薪资水平比较,结合面试常问的问题类型说一说我的心得体会。 第一点:Python 因为面试的是Python

muli523的博客 968

Python之字体详细操作

一、使用工具:Pycharm,High-Logic FontCreator(字体解析器)二、字体原理:将网页上取下来的数据进行解密,最后还原成网页最终呈现的效果即为字体。​三、举例-取网站:https://www.shixiseng.com/interns/iconfon/file?rand=0.22862737400022937 ​

qq_44746241的博客 2207

起薪2万的爬虫工程师,Python需要学到什么程度才可以就业?

现在学习Python的人员当中很大一部分的人是在学习爬虫,最早用Python做网络爬虫的是谷歌。爬虫工程师的的薪资为20K起,当然,因为大数据,薪资也将一路上扬。那么,Python需要学到什么程度才能找到工作呢?1、前段时间快要毕业,而我又不想找自己的老本行Java开发了,所以面了很多Python爬虫岗位。因为我在南京上学,所以我一开始只是在南京投了简历。我一共面试了十几家企业,其中只有一家没有给我发offer,其他企业都愿意给到10K的薪资,不要拿南京的薪资水平和北上深的薪资水平比较,结合面试常问的问题类

JAVAmonster12的博客 590

猫眼实时票房 字体破解 最新

今天带给大家猫眼实时票房的字体,废话不多说直接开始。

qq_51640468的博客 5434

初级python爬虫薪资-月薪2万的爬虫工程师,Python需要学到什么程度?

Python 爬虫学到什么样就可以找工作了?非计算机专业,正在自学python,很多教程里提到的网站的爬虫都会写了。比如拉勾网,豆瓣,实习僧,京东,淘宝,某妹子图等等……但是因为不是计算机专业的,也没学所谓的四大名著,不知道那四大对找工作重要吗?给一个网站去写一个爬虫,基本上会了,该怎么进阶呢?希望各位大神给点建议。Python新手群【 784758214 】群内有安装包和学习视频资料,零基础,进...

weixin_37988176的博客 2201

月薪2万的爬虫工程师,Python需要学到什么程度?

非计算机专业,正在自学python,很多教程里提到的网站的爬虫都会写了。比如拉勾网,豆瓣,实习僧,京东,淘宝,某妹子图等等……但是因为不是计算机专业的,也没学所谓的四大名著,不知道那四大对找工作重要吗?给一个网站去写一个爬虫,基本上会了,该怎么进阶呢?希望各位大神给点建议。做爬虫工程师的的薪资为20K起,当然,因为大数据,薪资也将一路上扬。那么,Python需要学到什么程度呢?今天我们来看看3位前辈的回答。

xx16755498986的博客 871

月薪2万的爬虫工程师,需要学到什么程度l可以达到?

Python 爬虫学到什么样就可以找工作了? 非计算机专业,正在自学python,很多教程里提到的网站的爬虫都会写了。比如拉勾网,豆瓣,实习僧,京东,淘宝,某妹子图等等……但是因为不是计算机专业的,也没学所谓的四大名著,不知道那四大对找工作重要吗?给一个网站去写一个爬虫,基本上会了,该怎么进阶呢?希望各位大神给点建议。 另外大家注意:光理论是不够的。这里顺便总大家一套2020最新python入门到高级项目实战视频教程,可以去小编的Python交流.裙 :七衣衣九七七巴而五(数字的谐音)转换下可以找到

QQ2352108083的博客 1093

python网络爬虫工程师薪资-月薪2万的爬虫工程师,Python需要学到什么程度?

Python 爬虫学到什么样就可以找工作了?非计算机专业,正在自学python,很多教程里提到的网站的爬虫都会写了。比如拉勾网,豆瓣,实习僧,京东,淘宝,某妹子图等等……但是因为不是计算机专业的,也没学所谓的四大名著,不知道那四大对找工作重要吗?给一个网站去写一个爬虫,基本上会了,该怎么进阶呢?希望各位大神给点建议。Python新手群【 784758214 】群内有安装包和学习视频资料,零基础,进...

weixin_37988176的博客 631

python爬虫工资高吗_月薪2万的爬虫工程师,Python需要学到什么程度?

Python 爬虫学到什么样就可以找工作了?非计算机专业,正在自学python,很多教程里提到的网站的爬虫都会写了。比如拉勾网,豆瓣,实习僧,京东,淘宝,某妹子图等等……但是因为不是计算机专业的,也没学所谓的四大名著,不知道那四大对找工作重要吗?给一个网站去写一个爬虫,基本上会了,该怎么进阶呢?希望各位大神给点建议。Python新手群【 784758214 】群内有安装包和学习视频资料,零基础,进...

weixin_39586395的博客 344

【python大作业/爬虫实战】——基于智联招聘的数据采集(爬虫+可视化(附完整代码)

在当今数字化时代,网络爬虫技术已成为数据获取的重要手段之一。本文将通过一个实际案例——采集智联招聘信息,详细介绍如何使用Python和Selenium框架实现数据采集。我们将从环境准备、网页结构分析、采集字段说明到爬虫实现步骤等方面展开,帮助读者快速掌握相关技术。

weixin_65147810的博客 6349

python程序员辛苦吗-月薪2万的爬虫工程师,Python需要学到什么程度?

非计算机专业,正在自学python,很多教程里提到的网站的爬虫都会写了。比如拉勾网,豆瓣,实习僧,京东,淘宝,某妹子图等等……但是因为不是计算机专业的,也没学所谓的四大名著,不知道那四大对找工作重要吗?给一个网站去写一个爬虫,基本上会了,该怎么进阶呢?希望各位大神给点建议。另外大家注意:光理论是不够的。这里顺便总大家一套2020最新python入门到高级项目实战视频教程,可以去小编的Python交...

weixin_37988176的博客 575

python学到什么程度可以写爬虫-月薪2万的爬虫工程师,Python需要学到什么程度?...

非计算机专业,正在自学python,很多教程里提到的网站的爬虫都会写了。比如拉勾网,豆瓣,实习僧,京东,淘宝,某妹子图等等……但是因为不是计算机专业的,也没学所谓的四大名著,不知道那四大对找工作重要吗?给一个网站去写一个爬虫,基本上会了,该怎么进阶呢?希望各位大神给点建议。另外大家注意:光理论是不够的。这里顺便总大家一套2020最新python入门到高级项目实战视频教程,可以去小编的Python交...

weixin_37988176的博客 84
上一篇: 免费书单:本本口碑爆棚,Python大佬强力推荐的书单!
下一篇: 大厂面试必问-Python是如何管理内存的?
jspython
博客等级 码龄7年 61粉丝 109原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值