相关动态
Node: Puppeteer + 图像识别 实现百度指数爬虫
2024-11-17 15:51

之前看过一篇脑洞大开的文章,介绍了各个大厂的前端反爬虫技巧,但也正如此文所说,没有100%的反爬虫方法,本文介绍一种简单的方法,来绕过所有这些前端反爬虫手段。

Node: Puppeteer + 图像识别 实现百度指数爬虫

下面的代码以百度指数为例,代码已经封装成一个百度指数爬虫node库: https://github.com/Coffcer/baidu-index-spider

note: 请勿滥用爬虫给他人添麻烦

观察百度指数的界面,指数数据是一个趋势图,当鼠标悬浮在某一天的时候,会触发两个请求,将结果显示在悬浮框里面

按照常规思路,我们先看下这个请求的内容

请求 1

请求 2

可以发现,百度指数实际上在前端做了一定的反爬虫策略。当鼠标移动到图表上时,会触发两个请求,一个请求返回一段html,一个请求返回一张生成的图片。html中并不包含实际数值,而是通过设置width和margin-left,来显示图片上的对应字符。并且请求参数上带有res、res1这种我们不知如何模拟的参数,所以用常规的模拟请求或者html爬取的方式,都很难爬到百度指数的数据。

怎么突破百度这种反爬虫方法呢,其实也很简单,就是完全不去管他是如何反爬虫的。我们只需模拟用户操作,将需要的数值截图下来,做图像识别就行。步骤大概是

  1. 模拟登录
  2. 打开指数页面
  3. 鼠标移动到指定日期
  4. 等待请求结束,截取数值部分的图片
  5. 图像识别得到值
  6. 循环第3~5步,就得到每一个日期对应的值

这种方法理论上能爬任何网站的内容,接下来我们来一步步实现爬虫,下面会用到的库

  • puppeteer 模拟浏览器操作
  • node-tesseract tesseract的封装,用来做图像识别
  • jimp 图片裁剪

Puppeteer是Google Chrome团队出品的Chrome自动化工具,用来控制Chrome执行命令。可以模拟用户操作,做自动化测试、爬虫等。用法非常简单,网上有不少入门教程,顺着本文看完也大概可以知道如何使用。

API文档: https://github.com/GoogleChrome/puppeteer/blob/master/docs/api.md

安装

 
 

Puppeteer在安装时会自动下载Chromium,以确保可以正常运行。但是国内网络不一定能成功下载Chromium,如果下载失败,可以使用cnpm来安装,或者将下载地址改成淘宝的镜像,然后再安装

 
 

你也可以在安装时跳过Chromium下载,通过代码指定本机Chrome路径来运行

 
  
 

为版面整洁,下面只列出了主要部分,代码涉及到selector的部分都用了...代替,完整代码参看文章顶部的github仓库。

这里做的就是模拟用户操作,一步步点击和输入。没有处理登录验证码的情况,处理验证码又是另一个话题了,如果你在本机登录过百度,一般不需要验证码。

 
  
 

需要将页面滚动到趋势图的区域,然后移动鼠标到某个日期上,等待请求结束,tooltip显示数值,再截图保存图片。

 
  
 

计算数值的坐标,截图并用jimp对裁剪图片。

 
  
 

这里我们用Tesseract来做图像识别,Tesseracts是Google开源的一款OCR工具,用来识别图片中的文字,并且可以通过训练提高准确率。github上已经有一个简单的node封装: node-tesseract,需要你先安装Tesseract并设置到环境变量。

 
 

实际上未经训练的Tesseracts识别起来会有少数几个错误,比如把9开头的数字识别成`3,这里需要通过训练去提升Tesseracts的准确率,如果识别过程出现的问题都是一样的,也可以简单通过正则去修复这些问题。

实现了以上几点后,只需组合起来就可以封装成一个百度指数爬虫node库。当然还有许多优化的方法,比如批量爬取,指定天数爬取等,只要在这个基础上实现都不难了。

    以上就是本篇文章【Node: Puppeteer + 图像识别 实现百度指数爬虫】的全部内容了,欢迎阅览 ! 文章地址:http://fswenzheng.xhstdz.com/news/7132.html 
     栏目首页      相关文章      动态      同类文章      热门文章      网站地图      返回首页 物流园资讯移动站 http://fswenzheng.xhstdz.com/mobile/ , 查看更多   
最新文章
文案自动提取器,高效筛选优质文案的神器!你还在为海量信息筛选而烦恼吗?
你是否曾经遇到过这样的困扰?在大量的信息中,想要找到一段有价值、有吸引力的文案,却需要花费大量的时间和精力去筛选、去阅读
OpenAI“宫斗”背后:人工智能路线之争或浮出水面
4天过去了,OpenAI的“宫斗”大戏并没有随着微软CEO萨蒂亚·纳德拉(Satya Nadella)宣布山姆·奥特曼(Sam Altman)和格雷格·
为天蓝地绿水清贡献力量——2024年交通运输绿色低碳转型看点
  2024年全国交通运输工作会议提出“加大科技创新力度,推进交通运输智慧绿色发展”的目标。近期,各省陆续召开交通运输工作会
微信支付盈利模式深度剖析
一、微信支付的发展历程与现状 微信支付依托微信这一拥有超过12亿月活跃用户的社交平台,自诞生之初就具备了庞大的用户基
杠上百度?今日头条也做起搜索来了 | 畅言
作者 | 小谦 责编 | 郭芮 四大项目,挑战Python全栈工程师?https://edu.csdn.net/topic/python115?utm_source=
荔知:引领人工智能时代的免费ChatGPT体验
荔知AI助手——与聊天机器人ChatGPT来一场智能对话:在这个信息爆炸的时代,人工智能技术的飞速发展正在颠覆传统的工作与沟通方
哪些排名SEO软件可以帮助快速提升网站排名
SEMrush是一款功能强大的全方位SEO工具,可以帮助用户分析竞争对手的关键词排名,发现潜在的关键词机会,优化网站结构和内容,监测链
苹果cms教程 centos 7
苹果CMS是一套成熟稳定的资源管理系统,可以用来搭建自己的影视网站。现在网络上大量的在线观看电影的网站,有很大一部分都是采
竞价托管
  随着互联网和电商的高速发展,越来越多的品牌企业正将电商渠道视为开拓和增长市场的重要手段。然而,对于许多企业而言,电商
相关文章