淺談：改進抓取和索引的技巧

一旦網(wǎng)站上線或者是超過某個年齡之后，大部分網(wǎng)站管理都會忽視抓取預(yù)算，通常都是過段時間后，才會去注意網(wǎng)站，而這時你的網(wǎng)站已經(jīng)失去關(guān)鍵的排名，已經(jīng)在一百名之外。為什么會這樣?可能是由于那你網(wǎng)站的技術(shù)結(jié)構(gòu)，精簡內(nèi)容或新算法更改導(dǎo)致的，又或者是由一個非常有問題的抓取錯誤引起的，為了避免這種情況的發(fā)展，作為seo優(yōu)化的站長你需要優(yōu)化抓取預(yù)算以保持競爭力。

1、用Google Search Console跟蹤抓取狀態(tài)

網(wǎng)站抓取狀態(tài)中的錯誤可能是由于您的網(wǎng)站上存在更深層次的問題，所以天津網(wǎng)站建設(shè) 建議您最好每30-60天檢查一次抓取狀態(tài)，這對于識別影響您網(wǎng)站整體營銷效果的潛在錯誤非常重要，這是seo優(yōu)化的第一步，也是最關(guān)鍵的一步，沒有它，所有其他努力都是白費。現(xiàn)在，如果要刪除對某個網(wǎng)頁的訪問權(quán)限，可以直接告訴Search Console，若頁面被臨時重定向或出現(xiàn)404錯誤，這非常有用。

2、創(chuàng)建適合移動設(shè)備的網(wǎng)頁

隨著移動優(yōu)先索引的到來，我們還必須優(yōu)化我們的頁面在移動索引上顯示移動友好副本。好消息是，如果不存在適合移動設(shè)備的副本，桌面副本仍將被編入索引并顯示在移動索引下，壞消息是你的排名可能會受到影響。目前，有許多技術(shù)調(diào)整可以立即使您的網(wǎng)站更加適合移動設(shè)備，包括：實施響應(yīng)式網(wǎng)頁設(shè)計;在內(nèi)容中插入視點元標(biāo)記;縮小頁面上的資源(CSS和JS);使用AMP緩存標(biāo)記頁面;優(yōu)化和壓縮圖像以加快加載速度;減少頁面UI元素的大小。

小提示：務(wù)必在移動平臺上測試您的網(wǎng)站，然后通過Google Pagespeed Insights運行它，因為頁面速度是一個重要的排名因素，很可能會對搜索引擎抓取您網(wǎng)站的速度造成影響。

3、定期更新內(nèi)容

若你定期的給您的網(wǎng)站填充新的高質(zhì)量的原創(chuàng)內(nèi)容，那么搜索引擎就會定期的去抓取您的網(wǎng)站，這對于需要定期發(fā)布和編制索引的新故事的發(fā)布商尤其有用。定期生成內(nèi)容會向搜索引擎發(fā)出信號，表明您的網(wǎng)站不斷改進并發(fā)布新內(nèi)容，因此需要更頻繁地抓取這些內(nèi)容以覆蓋目標(biāo)受眾。

4、將站點地圖提交給每個搜索引擎

截止到目前，索引的最佳提升之一依然是向Google Search Console和Bing網(wǎng)站站長工具提交站點地圖，而您可以使用站點地圖生成器創(chuàng)建XML版本，也可以通過標(biāo)記包含重復(fù)內(nèi)容的每個頁面的規(guī)范版本在Google Search Console中手動創(chuàng)建一個XML版本。

5、與隔離網(wǎng)頁的深層鏈接

若你的站點或子域上的網(wǎng)頁是獨立創(chuàng)建的，或存在阻止對其進行爬網(wǎng)的錯誤，則可以通過獲得外部域上的鏈接來將其編入索引，這是一種非常有用的策略，用于在您的網(wǎng)站上宣傳新內(nèi)容并使其更快地編入索引。但一定要謹(jǐn)防聯(lián)合內(nèi)容以實現(xiàn)此目的，因為搜索引擎可能會忽略聯(lián)合頁面，如果沒有正確規(guī)范化，它可能會產(chǎn)生重復(fù)錯誤。

6、縮小頁面資源并增加加載時間

強制搜索引擎抓取大量未經(jīng)優(yōu)化的圖片不僅會占用您的抓取預(yù)算，并且還會阻止您的網(wǎng)站經(jīng)常被編入索引，更主要的是搜索引擎也難以抓取您網(wǎng)站的某些后端元素。例如，谷歌歷史上一直在努力抓取Javascript，即便像Flash和CSS這樣的某些資源也可能在移動設(shè)備上表現(xiàn)不佳，并且會占用您的抓取預(yù)算。因此從某種意義上說，這是一個雙輸?shù)膱鼍埃渲许撁嫠俣群团佬蓄A(yù)算被犧牲用于突出的頁面元素。

小提示：務(wù)必通過縮小頁面上的資源來優(yōu)化您的網(wǎng)頁，以提高速度，尤其是在移動設(shè)備上，您還可以啟用緩存和壓縮，以幫助蜘蛛更快地抓取您的網(wǎng)站。

7、使用Noindex標(biāo)簽修復(fù)頁面

在網(wǎng)站開發(fā)過程中，在可能重復(fù)或僅針對采取某種操作的用戶的頁面上實現(xiàn)noindex標(biāo)記可能是有意義的。無論如何，您可以使用免費的在線工具識別帶有noindex標(biāo)簽的網(wǎng)頁，這些網(wǎng)頁可以防止它們被抓取。WordPress的Yoast插件允許您輕松地將頁面從索引切換到無索引，您也可以在網(wǎng)站頁面的后端手動執(zhí)行此操作。

8、消除重復(fù)內(nèi)容

一旦網(wǎng)站中存在大量重復(fù)的內(nèi)容，很可能會降低抓取速度并降低抓取預(yù)算，這是作為優(yōu)化站長你可以通過阻止這些頁面被編入索引，或者是在你希望編入索引的頁面上放置規(guī)范標(biāo)記來消除這些問題。同樣，優(yōu)化每個頁面的元標(biāo)記，防止搜索引擎將類似頁面誤認(rèn)為其爬網(wǎng)中的重復(fù)內(nèi)容。

9、阻止您不希望蜘蛛抓取的頁面

在優(yōu)化的過程中你可能希望阻止搜索引擎抓取特定頁面的情況，想實現(xiàn)這個目的，可通過如下方式：放置一個noindex標(biāo)簽，將URL放在robots.txt文件中，完全刪除頁面，這將能幫助您的抓取更有效地運行，而并非時強制搜索引擎傾注重復(fù)的內(nèi)容。

結(jié)論 ：若在優(yōu)化的過程中，你已經(jīng)遵循了seo最佳實踐，這樣的話或許您無需擔(dān)心爬行狀態(tài)。但是，在Google Search Console中檢查您的抓取狀態(tài)并進行定期內(nèi)部鏈接審核這也并非時一件容易的事情，雖然不容易，但是作為seo優(yōu)化的站長也必須要迎難而上。

原文地址：http://www.wenshuai.cn/home/article/detail/id/1296.html