05 Python爬虫之信息标记与提取方法

目录

• 一、信息标记的三种形式
  • XML格式数据
  • JSON格式数据
  • YAML格式数据
• 二、信息标记形式的比较
  • XML
  • JSON
  • YAML
• 三、信息提取的一般方法
  • 方法一：
  • 方法二：
  • 融合方法：
• 四、基于bs4库的HTML内容查找方法
  • 扩展方法
• 总结：

一、信息标记的三种形式

XML格式数据

JSON格式数据

YAML格式数据

二、信息标记形式的比较

XML

• 最早的通用信息标记语言，可扩展性好，但繁琐。
• Internet上的信息交互与传递

JSON

• 信息有类型，适合程序处理(js)，较XML简洁
• 移动应用云端和节点的信息通信，无注释、

YAML

• 信息无类型，文本信息比例最高，可读性好
• 各类系统的配置文件，有注释易读

三、信息提取的一般方法

方法一：

• 完整解析信息的标记形式，再提取关键信息

• XML JSON YAML

  需要标记解析器，例如：bs4库的标签树遍历

• 优点：信息解析准确

• 缺点：提取过程繁琐，速度慢

方法二：

• 无视标记形式，直接搜索关键信息

• 搜索

  对信息的文本查找函数即可

• 优点：提取过程简洁，速度较快

• 缺点：提取结果准确性与信息内容相关

融合方法：

• 融合方法：结合形式解析与搜索方法，提取关键信息

• XML JSON YAML 搜索

  需要标记解析器及文本查找函数

实例：

提取HTML中所有URL链接

思路：

1. 搜索到所有<a>标签
2. 解析<a>标签格式，提取href后的链接内容

import requests
r = requests.get("http://www.baidu.com")    # 得到response响应数据
r.encoding = r.apparent_encoding            # 指定字符编码
demo = r.text

import bs4
# 制作soup
soup = bs4.BeautifulSoup(demo,"html.parser")    # 要解析的内容，html解析器
# 提取链接内容
for link in soup.find_all("a"): # 查找所有a标签，并遍历
    print(link.get("href"))     # 标签类型，搜索href标签后的链接内容

四、基于bs4库的HTML内容查找方法

<>.find_all(name,attrs,recursive, string, **kwargs) 方法：

返回一个列表类型，存储查找的结果

• name : 对标签名称的检索字符串
• attrs: 对标签属性值的检索字符串，可标注属性检索
• recursive: 是否对子孙全部检索，默认True
• string: <>…</>中字符串区域的检索字符串

扩展方法

方法	说明
<>.find()	搜索且只返回一个结果，同.find_all()参数
<>.find_parents()	在先辈节点中搜索，返回列表类型，同.find_all()参数
<>.find_parent()	在先辈节点中返回一个结果，同.find()参数
<>.find_next_siblings()	在后续平行节点中搜索，返回列表类型，同.find_all()参数
<>.find_next_sibling()	在后续平行节点中返回一个结果，同.find()参数
<>.find_prevIoUs_siblings()	在前序平行节点中搜索，返回列表类型，同.find_all()参数
<>.find_prevIoUs_sibling()	在前序平行节点中返回一个结果，同.find()参数

总结：