Apache Nutch(Java搜索引擎框架) v2.3.1 官方免费版

Apache Nutch(Java搜索引擎框架)是一个开放源代码的Java搜索引擎框架，它提供了运行自己的搜索引擎所需要的全部工具，包括全文搜索和Web爬虫,使用Nutch不仅可以建立自己内部网的搜索引擎，同时也可以针对整个网络建立搜索引擎。除了基本的功能之外，Nutch也还有不少自己的特色，如Map-Reduce、Hadoop、Plugin等。

Nutch目标：

Nutch 致力于让每个人能很容易, 同时花费很少就可以配置世界一流的Web搜索引擎. 为了完成这一宏伟的目标, Nutch必须能够做到:

每个月取几十亿网页

为这些网页维护一个索引

对索引文件进行每秒上千次的搜索

提供高质量的搜索结果

Nutch的运行流程：

1.将起始 URL 集合注入到 Nutch 系统之中。

2.生成片段文件，其中包含了将要抓取的 URL 地址。

3.根据URL地址在互联网上抓取相应的内容。

4.解析所抓取到的网页，并分析其中的文本和数据。

5.根据新抓取的网页中的URL集合来更新起始URL集合，并再次进行抓取。

6.同时，对抓取到的网页内容建立索引，生成索引文件存放在系统之中。