Java HtmlUnit - 获取 Twitter 结果

问题描述

我正在尝试使用 HtmlUnit 加载 Twitter 页面,但它似乎没有正确处理 javascript 代码。 Java代码

String url_web= "https://twitter.com/search?q=from:BillGates";
java.util.logging.Logger.getLogger("com.gargoylesoftware.htmlunit").setLevel(java.util.logging.Level.OFF);
java.util.logging.Logger.getLogger("org.apache.http").setLevel(java.util.logging.Level.OFF);

try (final WebClient webClient = new WebClient()) {
    webClient.getoptions().setThrowExceptionOnScriptError(false);
    webClient.getoptions().setCssEnabled(false);
    webClient.getoptions().setUseInsecureSSL(true);
    webClient.getoptions().setJavaScriptEnabled(true);
    HtmlPage page = webClient.getPage(url_web);
    webClient.waitForBackgroundJavaScript(10000);
    System.out.println(page.asXml());
}

代码返回 html 内容,但与浏览器上显示内容不同,不包括推文本身。我使用的是最新的 HtmlUnit 版本 2.47.1。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)