搜索引擎蜘蛛爬行網頁的方式,網絡蜘蛛一般有兩種策略:廣度優先和深度優先。下面啟凡合肥網站建設對搜索引擎蜘蛛爬行網頁的廣度優先和深度優先解析:
搜索引擎蜘蛛爬行網頁的方式一:廣度優先是指網絡蜘蛛會先抓取起始網頁中鏈接的所有網頁,然后再選擇其中的一個鏈接網頁,繼續抓取在此網頁中鏈接的所有網頁。這是最常用的方式,因為這個方法可以讓網絡蜘蛛并行處理,提高其抓取速度。如:很多優化人員在網站地圖上放上網站的所有鏈接。
搜索引擎蜘蛛爬行網頁的方式二:深度優先是指網絡蜘蛛會從起始頁開始,一個鏈接一個鏈接跟蹤下去,處理完這條線路之后再轉入下一個起始頁,繼續跟蹤鏈接。這個方法有個優點是網絡蜘蛛在設計的時候比較容易。
兩種策略的區別,用圖來進行說明。搜索引擎蜘蛛抓取策略由于不可能抓取所有的網頁,有些網絡蜘蛛對一些不太重要的網站,設置了訪問的層數。
?
例如,在上圖中,A為起始網頁,屬于1層,B、C、D屬于第2層,E、F、G屬于第3層,H屬于第4層。如果網絡蜘蛛設置的訪問層數為3的話,網頁H是不會被訪問到的。這也讓有些網站上一部分網頁能夠在搜索引擎上搜索到,另外一部分不能被搜索到。對于網站優化人員來說,扁平化的網站結構設計有助于搜索引擎抓取其更多的網頁。
(編輯:小酷)
掃碼添加客服微信
掃碼關注公眾號
酷網(大連)科技有限公司
致力于為客戶品牌提供完善解決方案
統一服務電話:0411-62888851