问题描述
我有动态网址,例如/what?flagtopic=123123
。
我可以在标签中添加noindex
属性吗?该页面位于另一个域的iFrame中,因此该域的robots.txt不适用于iFrame吗?
我使用disallow: /what\?flagtopic\=*
吗?
解决方法
如果您为动态网址页面使用布局,则可以在其中使用<meta name="robots" content="noindex">
(more info)。
,如果您在页面中显示不需要抓取的链接,而无需编辑robots.txt,则可以将rel="nofollow"
与链接(more info)一起使用。
最好使用Search Console在您的网站上找到有关此错误和其他潜在爬网错误的更多信息。found this in google请查看iframe如何影响SEO。
阻止访问所有带问号(?)的URL。例如,示例代码将阻止以您的域名开头,后跟任意字符串,后接问号,并以任何字符串结尾的URL:
User-agent: Googlebot
Disallow: /*?