站点爬取

站点爬虫:  从给定域名或者网址中下载所有网页。

开始爬取站点
起始地址 (必须以
http:// https:// ftp:// smb:// file://开头)

空的
网址列表
网站地图地址

载入域名下全部文件
仅载入给定域名子路径中的文件
不超过 文件

提示

  • Crawl Speed 局限性

    一秒钟内从同一主机加载的页面不超过 4 个(每分钟不超过 120 个文档),以限制目标服务器上的负载。
  • 目标平衡器

    A second crawl for a different host increases the throughput to a maximum of 240 文件 per minute since the crawler balances the load over all hosts.
  • 高速爬行

    当目标服务器数量很多时, 不局限于单个服务器(或站点)的'浅爬取'模式 can extend the pages per minute (ppm) rate to unlimited 文件 per minute when the number of target hosts is high. This can be done using the Expert Crawl Start servlet.
  • 调度程序指导

    The scheduler on crawls can be changed or removed using Automation.