爬取預算是指搜尋引擎蜘蛛(如 Googlebot)在特定時間內,願意在你的網站上抓取的網頁總量。搜尋引擎的資源並非無限,因此它會根據網站的權威度、更新頻率以及伺服器的承受能力,來決定要花多少精力在你的網站上。如果你的網站規模極大(如擁有數萬個頁面的電商),但爬取預算不足,可能會導致新內容遲遲無法出現在搜尋結果中。
要優化爬取預算,首先應確保伺服器反應迅速,並修復過多的錯誤連結(如 404 頁面)或無效的重定向(如 301 鏈條)。此外,利用 robots.txt 檔案屏蔽掉不重要、重複或不具搜尋價值的頁面(如會員登入頁、後台管理頁),能讓爬蟲將寶貴的資源集中在真正能帶來流量的核心內容上。