无卡无码无免费久久毛片_九九综合亚洲色_国产精品自在在线午夜精华在线_国内网友露脸自拍

歡迎光臨武榮網(wǎng)絡(luò),我們是一家專注中小型企業(yè)網(wǎng)站建設(shè)、網(wǎng)絡(luò)營銷服務(wù)的互聯(lián)網(wǎng)公司!
咨詢熱線:17689498972
微信號
新聞中心News

輕松兩步,教你快速識別百度蜘蛛(User-Agent)

作者:武榮網(wǎng)絡(luò) | 點擊:76 | 來源:武榮網(wǎng)絡(luò) | 發(fā)布時間:2024-10-04 16:21:14
0410
2024
經(jīng)常聽到開發(fā)者問,百度蜘蛛是什么?最近百度蜘蛛來的太頻繁服務(wù)器抓爆了!最近百度蜘蛛都不來了怎么辦?還有很多站點想得到百度蜘蛛的IP段,想把IP加入白名單,但IP地址范圍動態(tài)變化不固定,我們無法對外公布。那么如何才能識別正確的百度蜘蛛呢?武榮網(wǎng)絡(luò)帶你輕松兩步正確識別百度蜘蛛:一、查看UA信息如...

image.png

  經(jīng)常聽到開發(fā)者問,百度蜘蛛是什么?最近百度蜘蛛來的太頻繁服務(wù)器抓爆了!最近百度蜘蛛都不來了怎么辦?還有很多站點想得到百度蜘蛛的IP段,想把IP加入白名單,但IP地址范圍動態(tài)變化不固定,我們無法對外公布。


  那么如何才能識別正確的百度蜘蛛呢?武榮網(wǎng)絡(luò)帶你輕松兩步正確識別百度蜘蛛:


  一、查看UA信息


  如果UA信息不對,可以直接判斷為非百度搜索的蜘蛛。目前UA分為移動、PC、和小程序三個應(yīng)用場景,這三個渠道UA分別如下:


  移動UA:


  Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko)Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www.baidu.com/search/spider.html)


  或


  Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;+http://www.baidu.com/search/spider.html)


  PC UA:


  Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)


  或


  Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)


  小程序UA:


  Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0;Smartapp; +http://www.baidu.com/search/spider.html)


  二、雙向DNS解析認(rèn)證


  第一步:DNS反查IP


  開發(fā)者通過對日志中訪問服務(wù)器的IP地址運行反向DNS查找,判斷某只spider是否來自百度搜索引擎,Baiduspider的hostname以*.baidu.com或*.baidu.jp 的格式命名,非*.baidu.com或*.baidu.jp即為冒充。


  根據(jù)平臺不同驗證方法不同,如linux/windows/os三種平臺下的驗證方法分別如下:


  1)、在linux平臺下,您可以使用host ip命令反解ip來判斷是否來自Baiduspider的抓取。


  2)、在windows平臺或者IBM OS/2平臺下,您可以使用nslookup ip命令反解ip來 判斷是否來自Baiduspider的抓取。打開命令處理器 輸入nslookup xxx.xxx.xxx.xxx(IP地址)就能解析ip,來判斷是否來自Baiduspider的抓取。


  3)、在macos平臺下,您可以使用dig命令反解ip來判斷是否來自Baiduspider的抓取。打開命令處理器輸入dig -x xxx.xxx.xxx.xxx(IP地址)就能解析ip,來判斷是否來自Baiduspider的抓取。


  第二步:對域名運行正向DNS查找


  對第一步中通過命令檢索到的域名運行正向DNS查找,驗證該域名與您日志中訪問服務(wù)器的原始IP地址是否一致,IP地址一致可確認(rèn)spider來自百度搜索引擎,IP地址不一致即為冒充。


  示例1:


  > host 111.206.198.69


  69.198.206.111. in-addr.arpa domain name pointer baiduspider-111-206-198-69.crawl.baidu.com.


  > host baiduspider-111-206-198-69.crawl.baidu.com


  baiduspider-111-206-198-69.crawl.baidu.com has address 111.206.198.69


建站百科推薦
我要咨詢做網(wǎng)站
成功案例
建站流程
  • 網(wǎng)站需
    求分析
  • 網(wǎng)站策
    劃方案
  • 頁面風(fēng)
    格設(shè)計
  • 程序設(shè)
    計研發(fā)
  • 資料錄
    入優(yōu)化
  • 確認(rèn)交
    付使用
  • 后續(xù)跟
    蹤服務(wù)
  • 17689498972
    17689498972
Hi,Are you ready?
準(zhǔn)備好開始了嗎?
那就與我們?nèi)〉寐?lián)系吧

咨詢送禮現(xiàn)在提交,將獲得武榮網(wǎng)絡(luò)策劃專家免費為您制作
價值2880元《全網(wǎng)營銷方案+優(yōu)化建議教程》一份!
下單送禮感恩新成立,新老用戶下單即送創(chuàng)業(yè)型空間+域名等大禮
24小時免費咨詢熱線17689498972
合作意向表
您需要的服務(wù)
您最關(guān)注的地方
預(yù)算

直接咨詢

<dfn id="rbit2"></dfn>
    • <center id="rbit2"></center>