肆合互動,團隊始于2008,為您提供可信任的一站式網(wǎng)站制作和網(wǎng)絡推廣優(yōu)化服務!
028-85756675
網(wǎng)站地圖

新聞資訊

為您提供網(wǎng)站建設資訊、網(wǎng)站優(yōu)化知識、主機域名郵箱、
關鍵詞排名、網(wǎng)站開發(fā)常見問題等。

如何判斷網(wǎng)頁是否被百度蜘蛛抓爬?

發(fā)表日期:2020/06/07 來源:肆合互動 咨詢電話:028-85756675

  對百度seo優(yōu)化而言,蜘蛛的抓爬很重要,如何看是否是百度蜘蛛進行的抓爬呢?成都seo人員為您帶來如下干貨:

  一、查看UA信息

  如果UA信息不對,可以直接判斷為非百度搜索的蜘蛛。目前UA分為移動、PC、和小程序三個應用場景,這三個渠道UA分別如下:

  移動UA:

  Mozilla/5.0(Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko)Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)

  或

  Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;+http://www.baidu.com/search/spider.html)

  PC UA:

  Mozilla/5.0(compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  或

  Mozilla/5.0(compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

  小程序UA:

  Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;Smartapp; +http://www.baidu.com/search/spider.html)

  二、雙向DNS解析認證

  第一步:DNS反查IP

  開發(fā)者通過對日志中訪問服務器的IP地址運行反向DNS查找,判斷某只spider是否來自百度搜索引擎,Baiduspider的hostname以*.baidu.com或*.baidu.jp 的格式命名,非*.baidu.com或*.baidu.jp即為冒充。

  根據(jù)平臺不同驗證方法不同,如linux/windows/os三種平臺下的驗證方法分別如下:

  1).在linux平臺下,您可以使用host ip命令反解ip來判斷是否來自Baiduspider的抓取。

  2).在windows平臺或者IBM OS/2平臺下,您可以使用nslookup ip命令反解ip來 判斷是否來自Baiduspider的抓取。打開命令處理器 輸入nslookup xxx.xxx.xxx.xxx(IP地址)就能解析ip,來判斷是否來自Baiduspider的抓取。

  3).在macos平臺下,您可以使用dig命令反解ip來判斷是否來自Baiduspider的抓取。打開命令處理器輸入dig -x xxx.xxx.xxx.xxx(IP地址)就能解析ip,來判斷是否來自Baiduspider的抓取。

  第二步:對域名運行正向DNS查找

  對第一步中通過命令檢索到的域名運行正向DNS查找,驗證該域名與您日志中訪問服務器的原始IP地址是否一致,IP地址一致可確認spider來自百度搜索引擎,IP地址不一致即為冒充。


相關案例
更多案例>
ARE YOU
INTERESTED
IN?
感興趣嗎?

網(wǎng)站建設及推廣咨詢電話

028-85756675
15308030114

成都市天府新區(qū)華府大道1號藍潤置地廣場T3公寓806室

7x24 小時專業(yè)服務
專業(yè)備案全程跟進
承諾做不到退款
快速建站SEO友好

填寫網(wǎng)站建設及SEO優(yōu)化排名需求

*請認真填寫需求信息,24小時內與您取得聯(lián)系。
在線咨詢
電話咨詢

立即咨詢

028-85756675
微信咨詢
微信二維碼
QQ咨詢
返回頂部