“抓取異常”搜索引擎蜘蛛不能爬行的原因
有些網頁內容優質,用戶也可以正常訪問,單是搜索引擎知足卻無法正常訪問抓取,照成搜索結果覆蓋率缺失,這對網站優化是一種損失。百度把這種情況叫做“抓取異常”對于大欸容無法正常抓取的網站。百度為認為該網站的用戶體驗度左右的不好,會降低對網站的評價,導致在抓取,索引,排序出現負面影響。最終會減少網站的百度流量獲取數。那么常見“抓取異常”都有哪些原因呢?
1.服務器連接異常
1.1站點不穩定 讓百度蜘蛛出現暫時無法鏈接的問題
1.2百度蜘蛛引擎一直無法連接網站的服務器
而以上的問題出現通常是網站服務器過大,超負荷運轉,也喲可能是網站運行不正常 。須檢測web服務器是否安裝且正常云南行。并使用那瀏覽器檢查主要頁面能否正常訪問。此外,網站和主機還可能會阻止百度搜素引擎蜘蛛的訪問,只是需要檢查網站和主機的防火墻。
2.網站運營商問題
需與網絡運營商ianxi,購買雙線服務的空間,或購買CDN服務
3.DNS異常
百度引擎蜘蛛無法解析網站的IP地址會出現DNS異常。可能是網站的IP地址錯誤或者域名服務商封禁的問題。可以用WHOIS或者host查詢結果。如果不正確,需聯系域名注冊商,更新IP地址
4.IP的封禁 需要檢查相關設置,是否添加了百度搜索引擎的IP地址。
5. UA封禁 需要查看User-agent的相關設置中是否有被百度搜索引擎的UA,并及時予以修改
6.死鏈 有協議死鏈和內容死鏈兩種處理方式,其中建議使用協議死鏈。并且通過百度站長平臺-死鏈功能根據體哦啊叫以便百度更快的發現死鏈,并刪除
7.異常跳轉 將網站請求重新指向其他文職即為跳轉。對于長時間跳轉到其他域名的情況,如網站更換域名,百度建議使用201跳轉協議進行設置。
8.其他異常
8.1針對百度refeR的異常
8.2 針對百度Ua的異常
8.3 JS跳轉異常
8.4 壓力過大引起的偶然封禁

