热线电话:13121318867

登录
2021-01-28 阅读量: 352
反爬如何伪装成随机浏览器?

之前我们都是通过User-Agent将爬虫伪装成固定浏览器,但是对于警觉性高的网站,会侦测到这一反常现象,即持续访问网站的是同一种浏览器。因此,每次请求时,可以随机伪装成不同类型的浏览器。Scrapy中的中间件UserAgentMiddleware就是专门用于设置User-Agent的。


0.0000
0
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子