使用rvest抓取时返回字符0

问题描述

我正在尝试使用 rvest 进行一些网络抓取。我是 R 的新手，所以我有一点知识障碍。我想抓取以下网址：

https://www.spa.gov.sa/search.php?lang=ar&search=%D8%AD%D9%83%D9%85

这会指向一个阿拉伯语网站，但我认为您不需要能够阅读阿拉伯语来为我提供建议。基本上，这是该网站（不是搜索引擎）上特定搜索词的第一个结果页面。我想要做的是使用 rvest 抓取此页面以返回搜索返回的超链接的标题列表。使用 selectorgadget，我确定包含这些标题的节点称为“.h2Newstitle”。但是，当我尝试使用下面的代码抓取该节点时，我得到的只是“字符（0）”：

@H_404_6@

library(tidyverse)
library(rvest)
read_html("https://www.spa.gov.sa/search.PHP?lang=ar&search=%D8%AD%D9%83%D9%85") %>%
    html_nodes(".h2NewsTitle") %>%
    html_text()

我认为这里的问题与阿拉伯文本本身无关。我很确定一切都在 UTF-8 中，我可以在同一页面上抓取其他节点并毫无问题地返回阿拉伯文本。例如，下面的代码返回阿拉伯文本“بحث أسبوعي”，它对应于页面本身该节点中的阿拉伯文本：

@H_404_6@

read_html("https://www.spa.gov.sa/search.PHP?lang=ar&search=%D8%AD%D9%83%D9%85") %>%
    html_nodes("WeeklySearch") %>%
    html_text()

所以我不确定为什么当我尝试抓取“.h2NewsTitle”节点时，我只得到字符（0）作为回报。我想知道它是否与使用 JavaScript 或其他方式呈现的某些元素有关。这有点超出我的专业知识，所以任何关于如何进行的建议将不胜感激。我想继续使用 R，但我愿意切换到 Python/Beautiful Soup 或其他更适合的东西。

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）

arabic beautifulsoup html rvest web-scraping