Robots.txt在线测试验证工具由wetools提供,支持网站 Robots.txt 文件检测及页面是否允许访问验证。通过本工具,可以在线检测在网站 Robots.txt 设定的规则下,网站特定页面是否允许(或禁止)网络爬虫访问该URL。
另外,支持指定搜索引擎去模拟访问,支持百度蜘蛛、谷歌bot、必应bot、360bot等等,大家可以在线测试下自己的robots规则对某些url地址是否真的生效。
如需生成robots请使用:
如需检测robots请使用:
使用步骤
1)输入需要测试的网址地址;
2)选择搜索引擎,默认All;
3)点击检测;
稍等片刻,就返回测试结果,如果禁止访问,怎返回禁止访问状态,允许访问就会返回正常访问状态。
相关工具
暂无评论...