Robots生成器
基础配置
部分蜘蛛支持此指令,用于减轻服务器压力
蜘蛛 (爬虫) 专属配置
你可以单独拒绝某些爬虫访问你的所有内容
预览 robots.txt
使用提示:
将生成的 robots.txt 文件上传到网站的 根目录 下即可生效。例如:https://www.yourdomain.com/robots.txt
工具说明
在线Robots.txt生成器支持可视化配置百度、谷歌等各大搜索引擎爬虫的访问权限,一键生成符合SEO规范的robots文件