我们可以借用郭小四的名言来形容现今的搜索引擎时代――这是一个最好的时代，也是最坏的时代。搜索引擎技术飞速发展，对网站的解析越来越充分，而各家网站也面临着强劲的对手竞品，如何让自己的网站对搜索引擎对百度更加友好，是站长要充分考虑的问题。

　　本篇的主旨就告诉站长：怎样建设对搜索引擎友好的站点。

目前分为五个章节：；；；；。

　　第一节-

　　如何正确识别Baiduspider移动ua

　　新版移动ua:

　　Mozilla/5.0(Linux;u;Android4.2.2;zh-cn;)AppleWebKit/534.46(KHTML,likeGecko)Version/5.1MobileSafari/10600.6.3(compatible;Baiduspider/2.0;+)

　　PCua:

　　Mozilla/5.0(compatible;Baiduspider/2.0;+）

　　之前通过“+”进行识别的网站请注意！您需要修改识别方式，新的正确的识别Baiduspider移动ua的方法如下：

　　1.通过关键词“Android”或者“Mobile”来进行识别，判断为移动访问或者抓取。

　　2.通过关键词“Baiduspider/2.0”,判断为百度爬虫。

　　另外需要强调的是，对于robots封禁，如果封禁的agent是Baiduspider，会对PC和移动同时生效。即，无论是PC还是移动Baiduspider，都不会对封禁对象进行抓取。之所以要强调这一点，是发现有些代码适配站点（同一个url，PCua打开的时候是PC页，移动ua打开的时候是移动页），想通过设置robots的agent封禁达到只让移动Baiduspider抓取的目的，但由于PC和移动Baiduspider的agent都是Baiduspider,这种方法是非常不可取的。

　　如何识别百度蜘蛛

　　百度蜘蛛对于站长来说可谓上宾，可是我们曾经遇到站长这样提问：我们如何判断疯狂抓我们网站内容的蜘蛛是不是百度的？其实站长可以通过DNS反查IP的方式判断某只spider是否来自百度搜索引擎。根据平台不同验证方法不同，如linux/windows/os三种平台下的验证方法分别如下：

　　1、在linux平台下，您可以使用hostip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以*.baidu.com或*.baidu.jp的格式命名，非*.baidu.com或*.baidu.jp即为冒充。

　　2、在windows平台或者IBMOS/2平台下，您可以使用nslookupip命令反解ip来判断是否来自Baiduspider的抓取。打开命令处理器输入nslookupxxx.xxx.xxx.xxx（IP地址）就能解析ip，来判断是否来自Baiduspider的抓取，Baiduspider的hostname以*.baidu.com或*.baidu.jp的格式命名，非*.baidu.com或*.baidu.jp即为冒充。

　　3、在macos平台下，您可以使用dig命令反解ip来判断是否来自Baiduspider的抓取。打开命令处理器输入digxxx.xxx.xxx.xxx（IP地址）就能解析ip，来判断是否来自Baiduspider的抓取，Baiduspider的hostname以*.baidu.com或*.baidu.jp的格式命名，非*.baidu.com或*.baidu.jp即为冒充。

　　BaiduspiderIP是多少

　　即便很多站长知道了如何判断百度蜘蛛，仍然会不断地问“百度蜘蛛IP是多少”。我们理解站长的意思，是想将百度蜘蛛所在IP加入白名单，只准白名单下IP对网站进行抓取，避免被采集等行为。

　　但我们不建议站长这样做。虽然百度蜘蛛的确有一个IP池，真实IP在这个IP池内切换，但是我们无法保证这个IP池整体不会发生变化。所以，我们建议站长勤看日志，发现恶意蜘蛛后放入黑名单，以保证百度的正常抓取。

　　同时，我们再次强调，通过IP来分辨百度蜘蛛的属性是非常可笑的事情，所谓的“沙盒蜘蛛”“降权蜘蛛”等等是从来都不存在的。

　　robots写法

　　robots是站点与spider沟通的重要渠道，站点通过robots文件声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。请注意，仅当您的网站包含不希望被搜索引擎收录的内容时，才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容，请勿建立robots.txt文件。

　　robots文件往往放置于根目录下，包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL,orNL作为结束符），每一条记录的格式如下所示：

　　"<field>:<optionalspace><value><optionalspace>"

　　在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow和Allow行,详细情况如下：