三八猪资源交易网

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

华为移动搜索AspiegelBot爬虫被发现高频爬取

2020-5-23 15:35| 发布者: 三八猪| 查看: 128| 评论: 0

摘要: 继上次头条搜索暴力爬取网站信息后,华为移动搜索AspiegelBot爬虫近日也被站长发现开始高频抓爬网站信息,就和站长头条差不多。了解到,这个AspiegelBot爬虫主要模拟安卓机进行抓爬 , UA标识符里也没有标注爬虫所属 ...

华为移动搜索AspiegelBot爬虫被发现高频爬取 华为 搜索引擎 微新闻 第1张

继上次头条搜索暴力爬取网站信息后,华为移动搜索AspiegelBot爬虫近日也被站长发现开始高频抓爬网站信息,就和站长头条差不多。

华为移动搜索AspiegelBot爬虫被发现高频爬取 华为 搜索引擎 微新闻 第2张

了解到,这个AspiegelBot爬虫主要模拟安卓机进行抓爬 , UA标识符里也没有标注爬虫所属公司信息,显然不想让人发现,后面有站长深挖才发现这个爬虫属华为搜索旗下的AspiegelBot公司,并且AspiegelBot的爬虫超高频抓取甚至堪比上次的头条爬虫的暴力抓取,很多被爬的一些小网站很多直接瘫痪,开始屏蔽华为搜索AspiegelBot爬虫的访问。

有站长表示: 这次华为移动搜索AspiegelBot爬虫高频爬取跟就和站长头条差不多,也是大量抓取网站信息,一般搜索引擎只有开始大量建立索引库才会这么玩,跟刚上线时的头条搜索一个套路,看来华为搜索也是要准备进场了!


鲜花

握手

雷人

路过

鸡蛋
关闭

站长推荐上一条 /1 下一条


QQ|小黑屋|Archiver|手机版|三八猪资源交易网

GMT+8, 2020-7-13 15:01

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

返回顶部
鐭ラ亾鍒涘畤浜戝畨鍏