ContentExtractor 网页正文抽取算法

程序名称:ContentExtractor

授权协议: GPLv2

操作系统: 跨平台

开发语言: Java

ContentExtractor 介绍

简介

ContentExtractor 是一个开源的网页正文抽取工具,用JAVA实现,具有非常高的抽取精度。

算法

ContentExtractor的网页正文抽取算法使用的是CEPR,适用于几乎所有的包含正文的网页。
算法简介:http://dl.acm.org/citation.cfm?id=2505558

项目地址转移

项目已和WebCollector合并,当前项目为老版本ContentExtractor,请前往WebCollector项目查看ContentExtractor的最新版本源码和API。

[](https://github.com/hfut-

dmic/ContentExtractor#%E6%95%99%E7%A8%8B)教程(只适用于老版本,新版本请前往WebCollector)

ContentExtractor的接口非常简单,用户可以根据网页的url,或者网页的html,来进行网页正文抽取:

根据url,抽取网页的正文:

public static void main(String[] args) throws Exception {
        String content=ContentExtractor.getContentByURL("http://news.
            xinhuanet.com/world/2014-11/02/c_127166728.htm");
        System.out.println(content);
}

根据html,抽取网页的正文:

public static void main(String[] args) throws Exception {
        String html="获取到的html源码";
        String content=ContentExtractor.getContentByHtml(html);
        System.out.println(content);
}

[](https://github.com/hfut-

dmic/ContentExtractor#%E5%AF%BC%E5%85%A5%E9%A1%B9%E7%9B%AE)导入项目(只适用于老版本,新版本请前往WebCollector)

从ContentExtractor的github主页https://github.com/hfut-
dmic/ContentExtractor上下载ContentExtractor-{版本号}-bin.zip,将解压后得到的jar包全部放到工程的build
path即可。


ContentExtractor由合肥工业大学dmic团队开发

Git@OSC:
http://git.oschina.net/webcollector/ContentExtractor

ContentExtractor 官网

https://github.com/hfut-dmic/ContentExtractor

相关编程语言

BlazeDS 是一个基于服务器的Java 远程控制(remoting...
OVal 是一个可扩展的Java对象数据验证框架,验证的规...
Volta 是一套开发工具,专为开发分布式、实时系统应...
OpenDDS 是一个开源的 C++ 实现的 对象管理组织 OMG...
JADE (Java Agent DEvelopment Framework) 是一个完...
FastMM ,在D2006和2007中已代替了原来的内存管理器。