Robots.TXT 不允许语法
Robots.TXT Disallow Syntax
我有动态创建的页面,可以有任何名称。
www.example.com/pages/
www.example.com/pages/dynamicpage1/
www.example.com/pages/dynamicpage2/
我希望抓取第一个 url 页面,而不是任何动态页面
User-agent: *
Disallow: /pages/*
以上将阻止列出的所有三个页面。我如何只阻止所有动态页面,而不是第一个 url.
我想通了..
User-agent: *
Disallow: /pages/*/
经常发生,解决问题后 post。
我有动态创建的页面,可以有任何名称。
www.example.com/pages/
www.example.com/pages/dynamicpage1/
www.example.com/pages/dynamicpage2/
我希望抓取第一个 url 页面,而不是任何动态页面
User-agent: *
Disallow: /pages/*
以上将阻止列出的所有三个页面。我如何只阻止所有动态页面,而不是第一个 url.
我想通了..
User-agent: *
Disallow: /pages/*/
经常发生,解决问题后 post。