开发自己的搜索引擎——Lucene 2.0+Heritrix（含光盘） (2008 年度畅销榜NO.368 )

本书是一本针对搜索引擎开发的书籍。通过学习本书，读者可以独立构建出一个企业级的搜索引擎网站。本书详细讲解了搜索引擎与信息检索基础，Lucene入门实例，Lucene索引的建立，使用Lucene进行搜索，排序，过滤和分页，Lucene的分析器，对Word、Excel和PDF格式文档的处理，Compass搜索引擎框架，Lucene分布式和Google Search API，爬虫Heritrix，HTMLParser，DWR等内容。最后综合使用所讲述的技术，构建了一个典型的垂直搜索系统，该系统具有很强的商业实用价值。\r\n　　本书是一本介绍如何使用Lucene 2.0和Heritrix来构建搜索引擎的书。通过对相关API和源代码的分析，力求使读者在掌握应用的基础上能够深入其核心，自行扩展和开发相应组件，开发出更有创意的搜索引擎产品。\r\n　　本书适合从事计算机软件开发的人员阅读，同时也可以作为搜索引擎爱好者的入门书籍。阅读本书需要具备Java语言基础。

第一篇　搜索引擎入门\r\n 第1章　搜索引擎与信息检索基础　\r\n 1.1　搜索引擎的历史　\r\n 1.1.1　萌芽：Archie、Gopher　\r\n 1.1.2　起步：Robot(网络机器人)的出现与Spider(网络爬虫)　\r\n 1.1.3　发展：Excite、Galaxy、Yahoo等　\r\n 1.1.4　繁荣：Infoseek、AltaVista、Google和Baidu　\r\n 1.2　信息检索系统的基本知识　\r\n 1.2.1　什么是信息检索系统　\r\n 1.2.2　信息检索的过程　\r\n 1.2.3　传统查找的优点和不足　\r\n 1.2.4　使用索引提高检索速度　\r\n 1.2.5　倒排索引　\r\n 1.2.6　评价信息检索系统的标准　\r\n 1.3　Lucene简介　\r\n 1.4　小结　\r\n第二篇　Lucene开发详解\r\n 第2章　Lucene入门实例　\r\n 2.1　实例介绍　\r\n 2.1.1　实例说明　\r\n 2.1.2　开发过程　\r\n 2.2　准备工作　\r\n 2.2.1　将文档的全角标点转换成半角标点　\r\n 2.2.2　将大文档切分成多个小文档　\r\n 2.2.3　预处理源文件的统一接口　\r\n 2.3　创建Eclipse工程　\r\n 2.3.1　准备工作　\r\n 2.3.2　创建工程并引入Lucene的JAR包　\r\n 2.3.3　运行文档预处理类　\r\n 2.3.4　创建处理文档的索引类：IndexProcessor　\r\n 2.3.5　创建检索索引的搜索类　\r\n 2.4　运行效果　\r\n 2.5　小结　\r\n 第3章　Lucene索引的建立　\r\n 3.1　Document逻辑文件　\r\n 3.1.1　Lucene的Document　\r\n 3.1.2　为Document添加多种Field　\r\n 3.1.3　Document的内部实现　\r\n 3.2　Field的内部实现　\r\n 3.2.1　Field包含的类　\r\n 3.2.2　Field类的构造方法　\r\n 3.3　Lucene的索引工具IndexWriter　\r\n 3.3.1　IndexWriter的初始化　\r\n 3.3.2　向索引添加文档　\r\n 3.3.3　限制每个Field中的词条的数量　\r\n 3.4　Lucene索引过程详解　\r\n 3.4.1　Lucene索引建立过程概述　 \r\n 3.4.2　使用addDocument方法向索引添加文档　\r\n 3.4.3　DocumentWriter的addDocument方法　 \r\n 3.4.4　文档的倒排　\r\n 3.4.5　对postingTable进行排序　\r\n 3.4.6　将Posting信息写入索引　\r\n 3.5　索引文件格式　\r\n 3.5.1　索引的segment　\r\n 3.5.2　.fnm格式　\r\n 3.5.3　.fdx与.fdt格式　\r\n 3.5.4　.tii与.tis格式　\r\n 3.5.5　deletable格式　 \r\n 3.5.6　复合索引格式.cfs　 \r\n 3.6　索引过程的优化　 \r\n 3.6.1　合并因子mergeFactor　 \r\n 3.6.2　maxMergeDocs　 \r\n 3.6.3　minMergeDocs　 \r\n 3.7　索引的合并与索引的优化　\r\n 3.7.1　FSDirectory与RAMDirectory　\r\n 3.7.2　使用IndexWriter来合并索引　 \r\n 3.7.3　索引的优化　\r\n 3.8　从索引中删除文档　 3.8.1　索引的读取工具IndexReader　 \r\n 3.8.2　使用文档ID号来删除特定文档　\r\n 3.8.3　使用Field信息来删除批量文档　\r\n 3.9　Lucene的同步问题　\r\n 3.9.1　为什么要进行同步以及Lucene的同步法则　\r\n 3.9.2　commit.lock与write.lock　 \r\n 3.10　Lucene 2.0的新类：IndexModifier类　\r\n 3.11　小结　\r\n 第4章　Lucene的搜索　\r\n 4.1　使用IndexSearcher进行搜索　\r\n 4.1.1　初始化IndexSearcher　\r\n 4.1.2　IndexSearcher最简单的使用　\r\n 4.1.3　IndexSearcher的多种search方法　\r\n 4.2　Hits类详解　\r\n 4.2.1　Hits类的公有接口　\r\n 4.2.2　效率分析　\r\n 4.2.3　Hits内部的缓存　\r\n 4.2.4　Hits类的工作原理　\r\n 4.3　对搜索结果的评分　\r\n 4.3.1　文档与词条的向量空间　\r\n 4.3.2　Lucene的文档得分算法　\r\n 4.4　构建各种Lucene内建的Query对象　\r\n 4.4.1　toString查看原子查询　\r\n 4.4.2　查询重写与权重　\r\n 4.4.3　TermQuery词条搜索　\r\n 4.4.4　BooleanQuery布尔搜索　\r\n 4.4.5　RangeQuery范围搜索　\r\n 4.4.6　PrefixQuery前缀搜索　\r\n 4.4.7　PhraseQuery短语搜索　\r\n 4.4.8　MultiPhraseQuery多短语搜索　\r\n 4.4.9　FuzzyQuery模糊搜索　\r\n 4.4.10　WildcardQuery通配符搜索　\r\n 4.4.11　SpanQuery跨度搜索　 \r\n 4.5　第三方提供的Query对象：RegexQuery　 \r\n 4.6　通过QueryParser转换用户关键字　 4.6.1　词条的定义　\r\n 4.6.2　QueryParser初始化　\r\n 4.6.3　改变QueryParser默认的布尔逻辑　 \r\n 4.6.4　短语和QueryParser　\r\n 4.6.5　FuzzyQuery和QueryParser　\r\n 4.6.6　通配符与QueryParser　 \r\n 4.6.7　查找指定的Field　\r\n 4.6.8　RangeQuery与QueryParser　\r\n 4.6.9　QueryParser和SpanQuery　\r\n 4.7　多Field搜索与多索引搜索　\r\n 4.7.1　多域搜索MultiFieldQueryParser　 \r\n 4.7.2　MultiSearcher在多个索引上搜索　 \r\n 4.7.3　ParalellMultiSearcher：多线程搜索　 \r\n 4.7.4　Searchable和RMI　 \r\n 4.8　小结　\r\n 第5章　排序、过滤和分页　\r\n 5.1　相关度排序　\r\n 5.1.1　使用Score进行自然排序　\r\n 5.1.2　Searcher的explain方法　\r\n 5.1.3　通过改变boost值来改变文档的得分　\r\n 5.2　使用Sort来排序　\r\n 5.2.1　Sort简介　\r\n 5.2.2　SortField　\r\n 5.2.3　按文档得分进行排序　\r\n 5.2.4　按文档的内部ID号来排序　\r\n 5.2.5　按一个或多个Field来排序　\r\n 5.2.6　改变SortField中的Locale信息　\r\n 5.3　搜索的过滤器　\r\n 5.3.1　过滤器的基本结构　 \r\n 5.3.2　一个简单的Filter：建立索引　\r\n 5.3.3　一个简单的Filter：打印索引文档信息　 \r\n 5.3.4　一个简单的Filter：安全级别与过滤器代码　\r\n 5.3.5　一个简单的Filter：在搜索时应用过滤器　 \r\n 5.3.6　一个简单的Filter：总结　\r\n 5.3.7　按范围过滤RangeFilter　\r\n 5.3.8　在结果中查询QueryFilter　\r\n 5.3.9　缓存结果：CachingWrapperFilter　\r\n 5.4　翻页问题　\r\n 5.4.1　依赖于session的翻页　 \r\n 5.4.2　多次查询　\r\n 5.4.3　缓存+多次查询　 \r\n 5.4.4　缓存+多次查询+数据库　\r\n 5.5　小结　\r\n 第6章　Lucene的分析器　 \r\n 6.1　分析　\r\n 6.1.1　分词　 \r\n 6.1.2　Lucene的分析器的结构　\r\n 6.1.3　Lucene的分析器的实现　 \r\n 6.2　Lucene与JavaCC　\r\n 6.2.1　JavaCC简介　 \r\n 6.2.2　JavaCC为Lucene提供的分析器脚本　\r\n 6.2.3　Lucene的标准分析器　\r\n 6.2.4　标准过滤器：StandardFilter　\r\n 6.2.5　大小写转换器：LowerCaseFilter　 \r\n 6.2.6　忽略词过滤器：StopFilter　\r\n 6.3　分析器的进阶　\r\n 6.3.1　再看StandardAnalyzer中的管道过滤器结构　\r\n 6.3.2　长度过滤器：LengthFilter　\r\n 6.3.3　PerFieldAnalyzerWrapper　\r\n 6.3.4　其他　\r\n 6.4　对中文的分析　\r\n 6.4.1　现有的中文分词方式简介　\r\n 6.4.2　中科院的分词软件和JE分词　\r\n 6.5　小结　\r\n第三篇　Lucene相关话题\r\n 第7章　对Word、Excel 和PDF的处理　\r\n 7.1　使用PDFBox处理PDF文档　\r\n 7.1.1　PDFBox的下载　\r\n 7.1.2　在Eclipse中配置　\r\n 7.1.3　使用PDFBox解析PDF内容　\r\n 7.1.4　运行效果　\r\n 7.1.5　与Lucene的集成　\r\n 7.2　使用xpdf来处理中文PDF文档　\r\n 7.2.1　xpdf的下载　\r\n 7.2.2　配置　\r\n 7.2.3　提取中文　\r\n 7.2.4　运行效果　\r\n 7.3　使用POI来处理Excel和Word文件格式　\r\n 7.3.1　对Excel的处理类　\r\n 7.3.2　ExcelReader的运行效果　\r\n 7.3.3　POI中Excel文件Cell的类型　\r\n 7.3.4　对Word的处理类　\r\n 7.4　使用Jacob来处理Word文档　\r\n 7.4.1　Jacob的下载　\r\n 7.4.2　在Eclipse中配置　 \r\n 7.5　小结　\r\n 第8章　Compass：封装了Lucene的框架　\r\n 8.1　Compass简介　\r\n 8.1.1　Compass的下载　\r\n 8.1.2　Compass的代码片断　\r\n 8.2　Compass的初始配置　\r\n 8.2.1　Compass的配置文件　\r\n 8.2.2　将索引存放于内存中　\r\n 8.2.3　使用JDBC来存储索引　 \r\n 8.2.4　使用连接池来存储索引　\r\n 8.2.5　加载compass.cfg.xml文件　\r\n 8.3　域模型的配置　\r\n 8.3.1　实体代码　\r\n 8.3.2　实体关系　 \r\n 8.3.3　实体Book的配置文件　\r\n 8.3.4　通用元数据定义文件(.cmd.xml)　\r\n 8.3.5　Author和Article的配置文件　\r\n 8.4　使用Compass来建立索引　 \r\n 8.4.1　索引代码　\r\n 8.4.2　对象关系图和运行结果　\r\n 8.5　使用Compass来搜索　\r\n 8.5.1　使用find()方法搜索　\r\n 8.5.2　CompassHits类型　 \r\n 8.5.3　CompassHit类型　\r\n 8.5.4　使用Lucene语法来查找　\r\n 8.6　配置Analyzer和Optimizer　\r\n 8.7　小结　\r\n 第9章　Lucene分布式和Google Search API　\r\n 9.1　Lucene与分布式　\r\n 9.1.1　什么是GFS　\r\n 9.1.2　为Lucene提供分布式的几点设想　\r\n 9.2　Google的Search API　\r\n 9.2.1　搭建环境　\r\n 9.2.2　构建搜索类　\r\n 9.2.3　设置查询时的参数和查询语法　\r\n 9.2.4　运行测试　\r\n 9.3　小结　\r\n第四篇　网络爬虫Heritrix\r\n 第10章　无比强大的网络爬虫Heritrix　\r\n 10.1　Heritrix使用入门　\r\n 10.1.1　下载和运行Heritrix　\r\n 10.1.2　在Eclipse里配置Heritrix的开发环境　\r\n 10.1.3　创建一个新的抓取任务　\r\n 10.1.4　设置抓取时的处理链　\r\n 10.1.5　设置运行时的参数　 \r\n 10.1.6　运行抓取任务　\r\n 10.1.7　Heritrix的镜像存储结构　\r\n 10.1.8　终止抓取或终止Heritrix的运行　\r\n 10.2　Heritrix的架构　\r\n 10.2.1　抓取任务CrawlOrder　\r\n 10.2.2　中央控制器CrawlController　\r\n 10.2.3　Frontier链接制造工厂　\r\n 10.2.4　用Berkeley DB实现的BdbFrontier　\r\n 10.2.5　Heritrix的多线程ToeThread和ToePool　\r\n 10.2.6　处理链和Processor　\r\n 10.3　扩展和定制Heritrix　\r\n 10.3.1　向Heritrix中添加自己的Extractor　\r\n 10.3.2　定制Queue-assignment-policy的两个问题　\r\n 10.3.3　定制Queue-assignment-policy继承QueueAssignmentPolicy类　\r\n 10.3.4　扩展FrontierScheduler来抓取特定的内容　\r\n 10.3.5　在Prefetcher中取消robots.txt的限制　\r\n 10.4　小结　\r\n第五篇　构建垂直搜索引擎\r\n 第11章　搜索引擎综合实例：准备篇　\r\n 11.1　实例简介以及实现途径　\r\n 11.1.1　选择网站　\r\n 11.1.2　太平洋电脑网和网易手机频道　\r\n 11.1.3　分析网站内容并准备抓取清单　\r\n 11.1.4　从下拉列表获得手机品牌首页　\r\n 11.1.5　解析手机品牌页面　\r\n 11.2　在Heritrix中为pconline开发抓取所需的定制类　\r\n 11.2.1　保存所有产品的页面和图片　\r\n 11.2.2　不保存其他无关页面　\r\n 11.2.3　开始抓取　\r\n 11.3　在Heritrix中为网易手机频道开发抓取所需的定制类　\r\n 11.3.1　分析网易手机频道　\r\n 11.3.2　设计抓取代码　\r\n 11.4　在Eclipse中创建工程结构　\r\n 11.4.1　下载插件　\r\n 11.4.2　在Eclipse中配置插件　\r\n 11.4.3　创建工程　\r\n 11.4.4　设置工程的Context　\r\n 11.4.5　设定源代码存放和输出路径　\r\n 11.4.6　添加Java代码　\r\n 11.4.7　添加Jar包　\r\n 11.4.8　创建JSP文件　\r\n 11.4.9　工程整体结构一览　\r\n 11.5　设定配置文件及其相关类　\r\n 11.5.1　系统属性配置文件　\r\n 11.5.2　封装配置文件　\r\n 11.6　产品详细信息文件格式　\r\n 11.7　解析网页信息的基类Extractor　\r\n 11.8　太平洋电脑网手机产品页面Extractor　\r\n 11.9　pconline产品信息运行效果测试　\r\n 11.9.1　编写测试函数　\r\n 11.9.2　执行测试　\r\n 11.10　网易手机频道的产品信息运行效果　\r\n 11.11　构建产品信息词库　\r\n 11.12　数据库与索引结构　\r\n 11.12.1　定义Product类　\r\n 11.12.2　确定数据库与索引的结构　\r\n 11.13　数据库处理和索引处理　\r\n 11.13.1　对数据库进行操作　\r\n 11.13.2　对索引进行操作　\r\n 11.14　调用数据库处理类和索引处理类　\r\n 11.15　运行　\r\n 11.16　小结　\r\n 第12章　使用正则表达式与HTMLParser提取网页内容　\r\n 12.1　HTML的基本知识　\r\n 12.2　JDK中的正则表达式提取网页内容　\r\n 12.2.1　java.util.regex包　\r\n 12.2.2　正则表达式提取网页内容实例　\r\n 12.3　HTMLParser提取网页内容　\r\n 12.3.1　HTMLParser的下载　\r\n 12.3.2　HTMLParser概述　\r\n 12.3.3　Lexer的功能及实现　\r\n 12.3.4　HTMLParser的功能及实现　\r\n 12.3.5　HTMLParser实例　\r\n 12.4　小结　\r\n 第13章　搜索引擎综合实例：DWR　\r\n 13.1　DWR的下载　\r\n 13.2　DWR入门与实例演示　\r\n 13.2.1　创建工程结构　\r\n 13.2.2　在web.xml中配置DWR　\r\n 13.2.3　配置dwr.xml　\r\n 13.2.4　页面代码　\r\n 13.2.5　运行效果　\r\n 13.2.6　DWR与直接使用XMLHttpRequest对象的比较　\r\n 13.2.7　在DWR中操纵自定义的对象　\r\n 13.2.8　查看DWR的输出日志　\r\n 13.3　dwr.xml的配置　\r\n 13.3.1　dwr.xml的标准结构　\r\n 13.3.2　标签与DWR自带的converter和creator　\r\n 13.3.3　标签　\r\n 13.3.4　标签　\r\n 13.3.5　另一个例子　\r\n 13.4　util.js　\r\n 13.4.1　调用util.js　\r\n 13.4.2　使用useLoadingMessage方法显示提示图标　\r\n 13.4.3　DWRUtil.setValue和DWRUtil.getValue　\r\n 13.4.4　DWRUtil.getValues和DWRUtil.setValues　\r\n 13.4.5　DWRUtil.addOptions和DWRUtil.removeAllOptions　\r\n 13.4.6　DWRUtil.addRows和DWRUtil.removeAllRows　\r\n 13.4.7　DWRUtil.toDescriptiveString方法　\r\n 13.5　小结　\r\n 第14章　搜索引擎综合实例：Web篇　\r\n 14.1　配置文件　\r\n 14.1.1　Spring配置文件　\r\n 14.1.2　DWR配置文件　\r\n 14.1.3　web.xml　 \r\n 14.2　各种Bean类　 \r\n 14.2.1　SearchResult　\r\n 14.2.2　SearchResults　\r\n 14.2.3　SearchRequest　\r\n 14.3　SearchService的实现　\r\n 14.4　SearchResultDao　\r\n 14.5　前台部分　\r\n 14.5.1　搜索主页面main.jsp　\r\n 14.5.2　图片的显示　\r\n 14.5.3　详细信息页面detail.jsp　\r\n 14.6　问题　\r\n 14.7　小结

邱哲，北京理工大学硕士，现为某公司技术经理，主要从事欧美软件外包开发。在J2EE方面有4年的开发经验，在搜索引擎与“爬虫”方面有3年的开发经验，著有《征服Ajax+Lucene构建搜索引擎》一书。

无封面