你怎样使用robots.txt?
当某个页面不想被其他人看到道的时候可以使用robots.txt将页面屏蔽掉.
举一反三
- robots.txt与meta robots html在使用过程中的区别,以下说法正确的是( ) A: robots.txt文件这个方式下页面会被抓取 B: robots.txt文件这个方式下页面不会被抓取 C: robots.txt文件这个方式下页面会被收录 D: meta robots html页面会被抓取但不会被索引
- 关于网络爬虫协议文件robots.txt,说法错误的是() A: 一个网站可以放多个不同robots文件 B: robots文件不可以用xml格式命名 C: disallow用来描述不希望被访问到的一个URL D: robots文件可以放在任何位置
- “你爱怎样就怎样吧。”应该使用哪种语调
- Which of the following is the main idea of this article? A: Robots B: Uses of Robots C: Development of Robots D: Advantages of Robots
- 中国大学MOOC: “你爱怎样就怎样吧。”应该使用哪种语调
内容
- 0
robots.txt应该放在什么地方( )
- 1
Robots.txt有什么作用?()
- 2
若要将当前盘目录下的文件A.TXT连接在文件B.TXT后面,应使用的命令为( )。 A: COPY TXT>>TXT B: MOVE TXT>>TXT C: PATH TXT>>TXT D: TYPE TXT>>TXT
- 3
Which of the following statements is NOT true of robots A: It's difficult to prevent robots from contacting people. B: The behavior of robots will be more unforeseeable. C: Robots in the future will be more intelligent than those today. D: Programming robots through a cramped room is the most difficult task
- 4
下列选项中,关于robots.txt文件的说法正确的是() A: robots.txt文件存放于空间根目录下 B: robots.txt是搜索引擎蜘蛛访问网站的时候要查看的第一个文件 C: 如果robots.txt不存在,搜索引擎蜘蛛将能够访问网站上所有未被口令保护的页面 D: robots.txt文件只需要存放在空间任意位置就行