如何才能提高蜘蛛的爬行頻率或者說次數呢?為什么別人的網站利于蜘蛛爬行抓取而自己網站不行呢?今天拓野網絡就簡述一下什么樣的網站利于搜索引擎蜘蛛爬行抓取!怎么樣做的站點才是有利網站優化的站點的呢?
百度站長平臺lee發布了一篇名為“建立符合搜索抓取習慣的網站”的文章,本人就結合這篇文章(文章地址:(http://zhanzhang.baidu.com/wiki/213)說一下個人的理解。
①網站結構要層次分明。盡可能短的距離到達最終內容頁或者產品頁!常用結構:樹形結構。扁平式結構更好,直接從首頁就可以到達各個內容頁(適合于內容少的)。
②url要具有唯一性。比如說 maolvge.cn與www.maolvge.cn與www.maolvge.cn/index.asp 是三個一樣的頁面,但是路徑不同,所以我們要確定一個主域名。也就是說我們程序要保證這篇文章就一個路徑,而不是好幾個不同的路徑指向同一篇文章。
③路徑中的參數盡量少。正常的企業站 你會發現含有2個參數的收錄明顯不如含有一個參數的。
④建議有404頁面、robots文件,這樣可以避免蜘蛛爬行一些沒必要收錄的路徑,從而減少了對網站有效內容的爬行頻率。
⑤百度應該能分辨一些拼音,所以說有效的拼音目錄也有利于百度對內容的一個識別。
⑥入口多了,爬行次數也應該會多。這應該就是外鏈的其中一個作用,增加蜘蛛進入網站的入口。
⑦網站地圖這個是促使蜘蛛遍歷網站內容的一個好方法。對于大型網站可以加一個tag標簽頁。
以上的七條,是我看了“建立符合搜索抓取習慣的網站”的文章以后自己的一個簡單理解。希望對您有所幫助。 |