seo優(yōu)化中的robots是啥?關(guān)于robots文件涉及的符合介紹

seo優(yōu)化
中的
robots
是啥?robots會(huì)影響
seo
優(yōu)化效果嗎?我們?cè)撊绾卫胷obots最大化地優(yōu)化網(wǎng)站呢?今天，小編就從robots的定義出發(fā)，跟大家聊聊robots與seo優(yōu)化的聯(lián)系程度。


1、seo優(yōu)化所說(shuō)的robots是什么?

其實(shí)，robots是一個(gè)根目錄文件，是網(wǎng)站跟搜索引擎爬蟲(chóng)程序之間的一個(gè)協(xié)議。主要功能是告訴搜索引擎，網(wǎng)站中哪些內(nèi)容可以抓取，哪些內(nèi)容不能抓取。

因此，搜索引擎在抓取頁(yè)面前，首先會(huì)檢測(cè)該網(wǎng)站有無(wú)robots文件，如果有蜘蛛就會(huì)根據(jù)該協(xié)議去抓取網(wǎng)頁(yè);但若是沒(méi)有robots文件，就表示蜘蛛可以隨意抓取網(wǎng)站的任意頁(yè)面。

2、robots文件涉及的符號(hào)含義

①通配符*：代表所有搜索引擎蜘蛛的名稱

②User-agent：用于描述搜索引擎robot的名字

在"robots.txt"文件中，如果有多條User-agent記錄說(shuō)明有多個(gè)robot會(huì)受到該協(xié)議的限制，對(duì)該文件來(lái)說(shuō)，至少要有一條User-agent記錄。

③Disallow：用于描述不希望被訪問(wèn)到的一個(gè)URL

這個(gè)URL可以是一條完整的路徑，也可以是部分的，任何以Disallow開(kāi)頭的URL均不會(huì)被robot訪問(wèn)到。

④Allow： 用于描述希望被訪問(wèn)的一組URL

與Disallow項(xiàng)相似，可以是一條完整的路徑，也可以是路徑的前綴，以Allow項(xiàng)的值開(kāi)頭的URL是允許robot訪問(wèn)的。