濟南seo教你適時的拒絕蜘蛛
來源:http://www.premium-option.com 發(fā)布時間:2016-06-22
濟南seo做的是使搜索引擎快速索引頁面,從而增加權(quán)重和訪問量。由此站長喜歡蜘蛛將網(wǎng)站爬個遍,吃個透。但是讓蜘蛛肆無忌憚的去爬行真的就有益于網(wǎng)站優(yōu)化嗎?很多站長在robotts.txt文本中可能除了ADMIN、DATA目錄限制蜘蛛爬行,其他目錄任蜘蛛索引。筆者要說,做網(wǎng)站優(yōu)化除了一些安全目錄外再應(yīng)適度屏蔽一些目錄,禁止搜索引擎的索引是有益無害的。
一、圖片目錄的屏蔽
圖片是構(gòu)成網(wǎng)站組成的主要元素,然而主題模板中類似的圖片在搜索引擎中鋪天蓋地,搜索引擎一遍遍的索引下去還會進行收錄嗎?即使收錄了,所帶的效果也是微乎其微的。還浪費了大量的帶寬。一般我們常屏蔽的目錄為“images、images”。
二、緩存目錄的屏蔽
很多程序都具有緩存目錄,拿z-blog這個程序來舉例子,它的緩存目錄為“CACHE”,其中會有著不少已經(jīng)生成HTML的緩存文件。如果蜘蛛繼續(xù)進行索引的話,無疑是造成了重復(fù)內(nèi)容的索引,這對網(wǎng)站是有害無益的。當然,其他程序還有這各自不同的緩存目錄,針對性的進行屏蔽才為適宜。
三、模板目錄的屏蔽
對于程序的模板,大多站長都選擇了直接套用而非獨立模板。模板的高度重復(fù)性也成為了一個搜索引擎中信息的冗余,因此利用Robots.txt來進行模板的屏蔽也是有益無害的。且模板文件常常與生成文件高度相似,同樣易造成雷同內(nèi)容的出現(xiàn)。
四、CSS目錄的屏蔽
CSS目錄,搜索引擎抓取無用,所以我們在設(shè)置Robots.txt文件中將其進行屏蔽,以提高搜索引擎的索引質(zhì)量。為搜索引擎提供一個簡潔明了的索引環(huán)境更易提升網(wǎng)站友好性。
五、部分程序的RSS頁
此條只針對存在RSS頁的程序來講,一般博客中比較常見。此頁面可以說是一個高度重復(fù)的頁面,完全有必要進行屏蔽,以增強網(wǎng)站在搜索引擎中的友好性。
六、屏蔽雙頁面的內(nèi)容
一個可以生成靜態(tài)頁面的網(wǎng)站,一般來說動態(tài)頁面也是可以訪問的,兩者若被搜索引擎完全索引,無疑是訪問到了完全一致的內(nèi)容,對搜索引擎友好性來說是有害無益的。而我們屏蔽的往往都是后者,因為前者頁面為靜態(tài),更易被搜索引擎索引收錄。
七、涉及程序安全頁
在起始位置我們交代了屏蔽ADMIN、DATA目錄,防止安全目錄與數(shù)據(jù)庫泄露。另外數(shù)據(jù)庫目錄、網(wǎng)站日志目錄、備份目錄都是需要進行屏蔽的,都是可以有效減少“泄密”現(xiàn)象的發(fā)生。
八、屏蔽文件形式
一些站長總是喜歡將網(wǎng)站備份后方到網(wǎng)站下載后忘記刪除,或者根本不做下載,直接保留到服務(wù)器。但是大家都知道,網(wǎng)站發(fā)展壯大必定受到一些人的窺視,網(wǎng)站一次次的被嘗試下在數(shù)據(jù)庫、備份文件,稍微有點名次的網(wǎng)站都會受到類似的攻擊。利用robots.txt屏蔽類似“rar、zip”等類似的文件。實質(zhì)上,這樣的屏蔽方式更有益于“第七點”,但是做到的仍然只是局部。
相關(guān)文章
多年
成立于2010年
多年經(jīng)驗不斷發(fā)展
多家客戶
超過多家客戶伴隨我們成長
多家企業(yè)
服務(wù)于多家企業(yè)客戶
助力品宣的提升
幾十項
服務(wù)項目為您服務(wù)
夯實成長的基石