浏览量:415次
你可以使用特定的标签去告知搜寻引擎机器人,不要去检索特定的网页内容。
如果你想要知道,如何去阻挡网页蜘蛛检索你全部的网站,可以阅读这篇文章(如何使用robots.txt阻止搜寻引擎爬(抓取)你的网站?)
你也可以使用相同的标签,来命令搜寻机器人不要去扫描网页以及追踪网页连结。
这是一个很好用的标签,即使你只想尝试去限制整个网站的一个网页。
在HTML程序码中,'no follow, no index'是基本的:
若要复制使用请将<>改为半形。
<html>
<head>
<title>...</title>
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
</head>
</html>
当使用标签时,有三个重点部分是需要牢记的。
1.如果他们愿意,网络机器人可以忽略标签,会忽略标签大多是不良的网络机器人,他们会扫描网络安全漏洞并利用它,或者是使用电子邮件收割机,让滥发邮件者抓取E-mail。
2.NOFOLLOW 指令只是用于网页上的连结,如果搜寻机器人找到其它网页的连结,并且没有使用NOFOLLOW,搜寻机器人会直接到达这个网页。
3.在这里的NOFOLLOW标签,是不同于rel=”nofollow”属性,你可以设定在<a href> 标签里。
像其它标签一样使用在HTML,他们应该被放置在HTML程序码的部分,就如同范例上。
<META NAME="ROBOTS" CONTENT="NOINDEX, FOLLOW">
让我们依照上面的例子再接再厉。
逗号分开参数是允许的,但是只有某些组合是有意义的,如果没有使用标签,对搜寻机器人的预设而言,是使用INDEX,FOLLOW的,所以你不需要去指定,还是可以被抓取到。
<META NAME="ROBOTS" CONTENT="NOINDEX, FOLLOW">
<META NAME="ROBOTS" CONTENT="INDEX, NOFOLLOW">
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
如果你需要进一步的了解,如何阻挡搜寻机器人检索你的网站,你可以观看这篇文章(如何使用robots.txt阻止搜寻引擎爬(抓取)你的网站?)
[声明]本网转载网络媒体稿件是为了传播更多的信息,此类稿件不代表本网观点,本网不承担此类稿件侵权行为的连带责任。故此,如果您发现本网站的内容侵犯了您的版权,请您的相关内容发至此邮箱【2488296573@qq.com】,我们在确认后,会立即删除,保证您的版权。