其他教程

其他教程

Products

当前位置:首页 > 其他教程 >

robots里这样写,就能避免蜘蛛爬这个“index.htm”这个首页?

GG网络技术分享 2025-03-18 16:18 1


我robots这样写是不是就能避免蜘蛛爬这个“index.htm”这个首页?

User-agent:*

Disallow:/index.htm


11-30.


我的index.htm是现在默认的首页,想屏蔽蜘蛛抓取。


让蜘蛛爬另一个文档,主要是规避备案巡查我的网站和我备案的不一样,服务器那边要求改,我就整了个htm文档来规避下。写法没有问题。


但正常的不建议屏蔽首页地址,,“index.htm”这个后缀地址是需要处理掉的。当然,如果只是应付备案短暂需求,,就只能这样处理。后续备案处理后,尽快处理后缀“index.htm”。同时robots修改回去。

标签: 蜘蛛 首页

提交需求或反馈

Demand feedback