PrestaShop robots.txt 和 /module/ 路径索引

PrestaShop robots.txt and /module/ path indexing

朋友。我对 PrestaShop 现成的 robots.txt 文件有疑问。

允许搜索引擎索引 PrestaShop */module/* 路由是正常做法吗?

可以请人评论:
A)它是否按预期工作? [*/module/*索引对于良好的 SEO 是必要的]
, 或
B) 这是一个问题 - 安全漏洞,因为搜索引擎正在索引 PrestaShop 内部技术结构并将其暴露给世界其他地方?

谢谢。

一些模块的首页使用“/module/”路径所以在robots.txt文件

上允许这个是个好主意

但我不建议允许“/modules/”路由,因为这会给您带来安全问题

对于 SEO,您需要仅向抓取工具显示您认为对用户有用并且希望用户找到这些内容的页面。

这意味着如果在 /module/ 下你有页面包含你希望用户从搜索引擎看到的内容 - 你可以在机器人中打开它并确保没有页面 HTML 中没有索引标签。

另请注意,如果您将 /module/ 设置为不允许,但您有指向 /module/ 中页面的入站外部链接,那些尽管您在机器人中关闭了这些页面,但页面仍可能被爬虫索引。