我现在的需求是需要建个内网的搜索引擎,包括网页的抓取,搜索等,就是没有现有的数据。请问能够用Heritrix爬虫抓取网页保存到mysql,然后用xunsearch进行搜索吗?如果可以的话,这个系统要怎么设计呢?希望各位大神赐教。...
...以的。但是实现代码要你自己去写。例如你可以用CURL去抓取网页并分析网页中的链接,再去抓取,存到你的搜索项目中即可搜索。代码可参照sphider,数据存储的字段也可以参照sphider。 xunsearch只是提供了一个快速搜索的解决方...
是事方便加我QQ勾通或发测试代码给我 16139558 此外您的代码是直接抓取URL然后转换成DOC入库吗?
...用方法不正确还是SCWS目前只能做成这样? 目前我企图将抓取后的内容剔除全部不可分词要素之后在交给SCWS。但是,发现似乎总是会漏掉一些,或者有一些东西是未知的不可分词要素干扰,导致无法正确分词。 请教Hightman究...
...字提取等场合运用。 切词效率测试(UTF-8编码,随机从天涯抓取了一个连载页面测试结果, 45Kb左右的文本切词时间是0.026秒, 换算完毕大概是 1.5MB文本/秒) 测试过程中开启了散字自动二元聚合, 长词自动补切为短词, 开启了人名地名...