淺談：改進(jìn)抓取和索引的技巧

一旦網(wǎng)站上線或者是超過某個(gè)年齡之后，大部分網(wǎng)站管理都會(huì)忽視抓取預(yù)算，通常都是過段時(shí)間后，才會(huì)去注意網(wǎng)站，而這時(shí)你的網(wǎng)站已經(jīng)失去關(guān)鍵的排名，已經(jīng)在一百名之外。為什么會(huì)這樣?可能是由于那你網(wǎng)站的技術(shù)結(jié)構(gòu)，精簡內(nèi)容或新算法更改導(dǎo)致的，又或者是由一個(gè)非常有問題的抓取錯(cuò)誤引起的，為了避免這種情況的發(fā)展，作為seo優(yōu)化的站長你需要優(yōu)化抓取預(yù)算以保持競爭力。

1、用Google Search Console跟蹤抓取狀態(tài)

網(wǎng)站抓取狀態(tài)中的錯(cuò)誤可能是由于您的網(wǎng)站上存在更深層次的問題，所以天津網(wǎng)站建設(shè) 建議您最好每30-60天檢查一次抓取狀態(tài)，這對(duì)于識(shí)別影響您網(wǎng)站整體營銷效果的潛在錯(cuò)誤非常重要，這是seo優(yōu)化的第一步，也是最關(guān)鍵的一步，沒有它，所有其他努力都是白費(fèi)。現(xiàn)在，如果要?jiǎng)h除對(duì)某個(gè)網(wǎng)頁的訪問權(quán)限，可以直接告訴Search Console，若頁面被臨時(shí)重定向或出現(xiàn)404錯(cuò)誤，這非常有用。

2、創(chuàng)建適合移動(dòng)設(shè)備的網(wǎng)頁

隨著移動(dòng)優(yōu)先索引的到來，我們還必須優(yōu)化我們的頁面在移動(dòng)索引上顯示移動(dòng)友好副本。好消息是，如果不存在適合移動(dòng)設(shè)備的副本，桌面副本仍將被編入索引并顯示在移動(dòng)索引下，壞消息是你的排名可能會(huì)受到影響。目前，有許多技術(shù)調(diào)整可以立即使您的網(wǎng)站更加適合移動(dòng)設(shè)備，包括：實(shí)施響應(yīng)式網(wǎng)頁設(shè)計(jì);在內(nèi)容中插入視點(diǎn)元標(biāo)記;縮小頁面上的資源(CSS和JS);使用AMP緩存標(biāo)記頁面;優(yōu)化和壓縮圖像以加快加載速度;減少頁面UI元素的大小。

小提示：務(wù)必在移動(dòng)平臺(tái)上測(cè)試您的網(wǎng)站，然后通過Google Pagespeed Insights運(yùn)行它，因?yàn)轫撁嫠俣仁且粋€(gè)重要的排名因素，很可能會(huì)對(duì)搜索引擎抓取您網(wǎng)站的速度造成影響。

3、定期更新內(nèi)容

若你定期的給您的網(wǎng)站填充新的高質(zhì)量的原創(chuàng)內(nèi)容，那么搜索引擎就會(huì)定期的去抓取您的網(wǎng)站，這對(duì)于需要定期發(fā)布和編制索引的新故事的發(fā)布商尤其有用。定期生成內(nèi)容會(huì)向搜索引擎發(fā)出信號(hào)，表明您的網(wǎng)站不斷改進(jìn)并發(fā)布新內(nèi)容，因此需要更頻繁地抓取這些內(nèi)容以覆蓋目標(biāo)受眾。

4、將站點(diǎn)地圖提交給每個(gè)搜索引擎

截止到目前，索引的最佳提升之一依然是向Google Search Console和Bing網(wǎng)站站長工具提交站點(diǎn)地圖，而您可以使用站點(diǎn)地圖生成器創(chuàng)建XML版本，也可以通過標(biāo)記包含重復(fù)內(nèi)容的每個(gè)頁面的規(guī)范版本在Google Search Console中手動(dòng)創(chuàng)建一個(gè)XML版本。

5、與隔離網(wǎng)頁的深層鏈接

若你的站點(diǎn)或子域上的網(wǎng)頁是獨(dú)立創(chuàng)建的，或存在阻止對(duì)其進(jìn)行爬網(wǎng)的錯(cuò)誤，則可以通過獲得外部域上的鏈接來將其編入索引，這是一種非常有用的策略，用于在您的網(wǎng)站上宣傳新內(nèi)容并使其更快地編入索引。但一定要謹(jǐn)防聯(lián)合內(nèi)容以實(shí)現(xiàn)此目的，因?yàn)樗阉饕婵赡軙?huì)忽略聯(lián)合頁面，如果沒有正確規(guī)范化，它可能會(huì)產(chǎn)生重復(fù)錯(cuò)誤。

6、縮小頁面資源并增加加載時(shí)間

強(qiáng)制搜索引擎抓取大量未經(jīng)優(yōu)化的圖片不僅會(huì)占用您的抓取預(yù)算，并且還會(huì)阻止您的網(wǎng)站經(jīng)常被編入索引，更主要的是搜索引擎也難以抓取您網(wǎng)站的某些后端元素。例如，谷歌歷史上一直在努力抓取Javascript，即便像Flash和CSS這樣的某些資源也可能在移動(dòng)設(shè)備上表現(xiàn)不佳，并且會(huì)占用您的抓取預(yù)算。因此從某種意義上說，這是一個(gè)雙輸?shù)膱?chǎng)景，其中頁面速度和爬行預(yù)算被犧牲用于突出的頁面元素。

小提示：務(wù)必通過縮小頁面上的資源來優(yōu)化您的網(wǎng)頁，以提高速度，尤其是在移動(dòng)設(shè)備上，您還可以啟用緩存和壓縮，以幫助蜘蛛更快地抓取您的網(wǎng)站。

7、使用Noindex標(biāo)簽修復(fù)頁面

在網(wǎng)站開發(fā)過程中，在可能重復(fù)或僅針對(duì)采取某種操作的用戶的頁面上實(shí)現(xiàn)noindex標(biāo)記可能是有意義的。無論如何，您可以使用免費(fèi)的在線工具識(shí)別帶有noindex標(biāo)簽的網(wǎng)頁，這些網(wǎng)頁可以防止它們被抓取。WordPress的Yoast插件允許您輕松地將頁面從索引切換到無索引，您也可以在網(wǎng)站頁面的后端手動(dòng)執(zhí)行此操作。

8、消除重復(fù)內(nèi)容

一旦網(wǎng)站中存在大量重復(fù)的內(nèi)容，很可能會(huì)降低抓取速度并降低抓取預(yù)算，這是作為優(yōu)化站長你可以通過阻止這些頁面被編入索引，或者是在你希望編入索引的頁面上放置規(guī)范標(biāo)記來消除這些問題。同樣，優(yōu)化每個(gè)頁面的元標(biāo)記，防止搜索引擎將類似頁面誤認(rèn)為其爬網(wǎng)中的重復(fù)內(nèi)容。

9、阻止您不希望蜘蛛抓取的頁面

在優(yōu)化的過程中你可能希望阻止搜索引擎抓取特定頁面的情況，想實(shí)現(xiàn)這個(gè)目的，可通過如下方式：放置一個(gè)noindex標(biāo)簽，將URL放在robots.txt文件中，完全刪除頁面，這將能幫助您的抓取更有效地運(yùn)行，而并非時(shí)強(qiáng)制搜索引擎傾注重復(fù)的內(nèi)容。

結(jié)論 ：若在優(yōu)化的過程中，你已經(jīng)遵循了seo最佳實(shí)踐，這樣的話或許您無需擔(dān)心爬行狀態(tài)。但是，在Google Search Console中檢查您的抓取狀態(tài)并進(jìn)行定期內(nèi)部鏈接審核這也并非時(shí)一件容易的事情，雖然不容易，但是作為seo優(yōu)化的站長也必須要迎難而上。

原文地址：http://www.wenshuai.cn/home/article/detail/id/1296.html