<strike id="3tkic"><sup id="3tkic"></sup></strike>

  1. <ul id="3tkic"></ul>
      <b id="3tkic"><legend id="3tkic"></legend></b>
      <b id="3tkic"><meter id="3tkic"></meter></b>

    • <strike id="3tkic"></strike>

      <blockquote id="3tkic"></blockquote>

    • 亚洲AV无码国产在丝袜线观看_亚洲第一页A∨在线_亚洲国产人成在线观看69网站_无码日韩人妻AV一区免费l

      蜘蛛抓取失敗的原因有那些,服務(wù)器導(dǎo)致蜘蛛抓取失敗的原因

      2012/3/15 15:14:09   閱讀:2818    發(fā)布者:2818

        服務(wù)器是網(wǎng)站生存的基礎(chǔ),不論是什么原因造成的服務(wù)器封禁,都直接影響蜘蛛的抓取,影響網(wǎng)站的用戶體驗,不利于seo工作的展開。我其將以自己的親身經(jīng)歷,結(jié)合網(wǎng)絡(luò)上一些朋友對這類問題的分析,總結(jié)出造成服務(wù)器封禁的三點主要原因:

       

      1、人為操作失誤

      對搜索引擎蜘蛛認識不夠,對一些冒充搜索引擎spider的IP無法正確判斷,繼而誤封搜索引擎IP。這樣會導(dǎo)致搜索引擎不能成功抓取網(wǎng)站,無法成功抓取新網(wǎng)頁,以及將之前已經(jīng)成功抓取并收錄的頁面判定為無效鏈接,然后搜索引擎將會對這些死鏈接進行清除,繼而網(wǎng)站頁面收錄減少,最終導(dǎo)致網(wǎng)站在搜索引擎的排名下降。

      解決方法:正確認識各搜索引擎蜘蛛,而搜索引擎使用的 IP 地址會隨時發(fā)生變化,為確保能夠正確識別各搜索引擎IP,您可以使用DNS反查方式來確定抓取來源的IP是否屬于正規(guī)搜索引擎,防止誤封。

      2、服務(wù)器不穩(wěn)定

      現(xiàn)在的服務(wù)器多如牛毛,價格也各不相同,質(zhì)量方面也是相差甚遠,站長們往往在選擇的時候都是“只認價不認質(zhì)”, 有的空間商為了節(jié)省資源,故意屏蔽掉spider(蜘蛛)的IP,導(dǎo)致spider抓取失敗,網(wǎng)站頁面就無法被搜索引擎收錄。

      解決方法:選擇有實力的正規(guī)空間商,盡可能保證您的網(wǎng)站穩(wěn)定。服務(wù)器和空間的穩(wěn)定性需要一定的技術(shù)實力來保障,一些沒有實力的空間商,可能無力提供良好的服務(wù),服務(wù)的穩(wěn)定性無法保證。我們可以很形像的打個比喻:如果將“人”比喻為網(wǎng)站內(nèi)容,那么服務(wù)器就是我們的“家”,它為我們擋風避雨,為我們的生存提供了一個優(yōu)良的環(huán)境,而服務(wù)器的好壞將影響我們所能承受的風險。我想,誰都不愿意住在沒有安全保障的屋子里,拿自己的生命開玩笑,同理,網(wǎng)站也是如此!如果您現(xiàn)在的服務(wù)器不理想,有必要另選時,請暫時讓舊服務(wù)器能夠使用一段時間,并且做301跳轉(zhuǎn),盡量減少更換服務(wù)器帶來的一系列損失。

      3、保護性的偶然封禁

      1、如果網(wǎng)站的訪問量過大,超過自身負荷,服務(wù)器會根據(jù)自身負荷進行保護性的偶然封禁。這種封禁是短暫性的,只要訪問量下降到服務(wù)器的承受范圍之內(nèi),那么服務(wù)器就會正常工作。

      2、還有一種情況是spider造成的,搜索引擎為了達到對目標資源較好的檢索效果,蜘蛛需要對您的網(wǎng)站保持一定量的抓取。搜索引擎會根據(jù)服務(wù)器承受能力,網(wǎng)站質(zhì)量,網(wǎng)站更新等綜合因素來進行調(diào)整, 建立一個合理的站點抓取壓力。但是會有一些例外,在壓力控制不好的情況下,服務(wù)器會根據(jù)自身負荷進行保護性的偶然封禁。

      解決方法:1、如果是訪問量造成的壓力,那么恭喜你,說明你的網(wǎng)站已經(jīng)擁有可觀的訪問人數(shù),我們就應(yīng)該升級服務(wù)器,來滿足不段增長的訪問量。2、如果是spider造成的,我們可以采用如下方式來減輕spider對服務(wù)器產(chǎn)生的壓力:A、利用robots文件,屏蔽掉不想被spider抓取的頁面。B、采用nofollow標簽,屏蔽不想被spider爬行的鏈接。C、頁面中較長的CSS、JS代碼移到外部文件。D、刪減多余代碼。應(yīng)當注意的是,以上兩種情況在返回的代碼中盡量不要使用404,建議返回503(其含義是“Service Unavailable”)。這樣spider會過段時間再來嘗試抓取這個鏈接,如果那個時間站點空閑,那它就會被成功抓取了。

      亚洲AV无码国产在丝袜线观看_亚洲第一页A∨在线_亚洲国产人成在线观看69网站_无码日韩人妻AV一区免费l
      <strike id="3tkic"><sup id="3tkic"></sup></strike>

      1. <ul id="3tkic"></ul>
          <b id="3tkic"><legend id="3tkic"></legend></b>
          <b id="3tkic"><meter id="3tkic"></meter></b>

        • <strike id="3tkic"></strike>

          <blockquote id="3tkic"></blockquote>

        • 沙田区| 浮梁县| 广宁县| 田林县| 永城市| 瑞安市| 依安县| 抚顺市| 黄陵县| 公主岭市| 金溪县| 丰镇市| 凤台县| 驻马店市| 榆社县| 大化| 磐安县| 砀山县| 西畴县| 吉林市| 东乡族自治县| 河池市| 林口县| 城口县| 林周县| 巴里| 富源县| 班戈县| 邵武市| 长治市| 沁水县| 马尔康县| 洪江市| 上饶县| 榆中县| 扬中市| 额济纳旗| 化隆| 新津县| 静海县| 盐亭县|