过期罐头电脑论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 708|回复: 0
收起左侧

[网站建设] 什么是Robots?Robots有什么作用

[复制链接]
发表于 2013-10-20 08:04:00 | 显示全部楼层 |阅读模式
发贴请勿包含网站外链(直接下载地址和网盘除外),屡犯者将封禁ID、网址永久屏蔽,www.gqgtpc.com感谢支持!

一、Robots是什么意思?
Robots是一个英文单词,对英语比较懂的朋友相信都知道,Robots的中文意思是机器人。而我们通常提到的主要是Robots协议,这也是搜索引擎的国际默认公约。
二、Robots协议是什么?
Robots协议通常被称为是爬虫协议、机器人协议,主要是在搜素引擎中会见到,其本质是网站和搜索引擎爬虫的沟通方式,用来指导搜索引擎更好地抓取网站内容,而不是作为搜索引擎之间互相限制和不正当竞争的工具。
百度为什么称360违反Robots协议呢?主要是因为百度认为360搜素对自身产生了竞争,百度不希望自己旗下的贴吧,文库,知道,百科等网站产品,被360搜素收录,并且在Robots协议中标注屏蔽360搜素,而360直接绕过了robots协议继续采集百度旗下产品网站的信息,因此被百度起诉。
简单的说,任何网站只要在其robots协议中加入禁止某搜索引擎访问,那么该搜索引擎就无权收录该网站的内容。而robots的重要性在于,一个网站有权利可以存在于互联网中,但又不被指定的搜索引擎索引放到搜索结果中,因为搜索引擎在互联网上就像国王,网站就是每个人的小家,而robots协议则是对抗国王的最后利器,正所谓“风能进雨能进国王不能进”。
在网站中,Robots协议是一个记事本文件,我们只要将Robots.txt文件放置在网站跟目录,里边可以标注,哪些网站目录不希望被搜索引擎抓取即可,其格式如下图所示:
1_131019090011_1.jpg
Robots.txt协议文件示例


楼主热帖
[Windows10] IE成绝唱Win10启用全新浏览器Spartan斯巴达
[Windows7] Win7系统防火墙服务被禁用导致无法开启和关闭
[系统应用经验技巧] Windows 中怎么设置默认打印机?
[Windows7] Windows 7怎么更改计算机的系统名
[系统应用经验技巧] 隐藏分区启动让WinPE运行更安全
[系统应用经验技巧] Windows系统使用注册表强迫 隐藏文件
[Windows10] 微软发布 ARM版Windows称号 与Win8互不兼容
[系统应用经验技巧] 宏碁笔记本多媒体控制按键失效的修复
[Windows7] windows 7 如何合并磁盘分区
[Windows10] 如何卸载WIN8加到WIN7

您需要登录后才可以回帖 登录 | 注册

本版积分规则

win7 64位旗舰版下载|win10系统下载|win7旗舰版|联系我们|网站地图|过期罐头电脑论坛

GMT+8, 2017-3-24 02:24 , Processed in 0.119482 second(s), 27 queries .

官方免责声明:本站内容来自网友和互联网.若侵犯到您的版权.请致信联系,我们将第一时间删除相关内容!

Powered by Discuz!

过期罐头电脑论坛

win7旗舰版_windows10

快速回复 返回顶部 返回列表