05 Python爬虫之信息标记与提取方法

淩亂°似流年 2021-10-18 17:38 430阅读 0赞

*  一、信息标记的三种形式
    
     *  XML格式数据
     *  JSON格式数据
     *  YAML格式数据
 *  二、信息标记形式的比较
    
     *  XML
     *  JSON
     *  YAML
 *  三、信息提取的一般方法
    
     *  方法一：
     *  方法二：
     *  融合方法：
 *  四、基于bs4库的HTML内容查找方法
    
     *  扩展方法
 *  总结：

# 一、信息标记的三种形式 #

## XML格式数据 ##

![XML格式数据][XML]

## JSON格式数据 ##

![JSON格式数据][JSON]

## YAML格式数据 ##

![YAML格式数据][YAML]

# 二、信息标记形式的比较 #

## XML ##

*  最早的通用信息标记语言，可扩展性好，但繁琐。
 *  Internet上的信息交互与传递

## JSON ##

*  信息有类型，适合程序处理(js)，较XML简洁
 *  移动应用云端和节点的信息通信，无注释、

## YAML ##

*  信息无类型，文本信息比例最高，可读性好
 *  各类系统的配置文件，有注释易读

# 三、信息提取的一般方法 #

## 方法一： ##

*  完整**解析信息**的标记形式，再提取**关键信息**
 *  **XML JSON YAML**
    
    需要标记解析器，例如：bs4库的标签树遍历
 *  **优点：**信息解析准确
 *  **缺点：**提取过程繁琐，速度慢

## 方法二： ##

*  无视标记形式，**直接搜索关键信息**
 *  **搜索**
    
    对信息的文本查找函数即可
 *  **优点：**提取过程简洁，速度较快
 *  **缺点：**提取结果准确性与信息内容相关

## 融合方法： ##

*  融合方法：结合**形式解析**与**搜索**方法，提取关键信息
 *  **XML JSON YAML 搜索**
    
    需要标记解析器及文本查找函数

实例：

**提取HTML中所有URL链接**

思路：

1.  **搜索到所有`<a>`标签**
2.  **解析`<a>`标签格式，提取href后的链接内容**

import requests r = requests.get("http://www.baidu.com") # 得到response响应数据 r.encoding = r.apparent_encoding # 指定字符编码 demo = r.text import bs4 # 制作soup soup = bs4.BeautifulSoup(demo,"html.parser") # 要解析的内容，html解析器 # 提取链接内容 for link in soup.find_all("a"): # 查找所有a标签，并遍历 print(link.get("href")) # 标签类型，搜索href标签后的链接内容

# 四、基于bs4库的HTML内容查找方法 #

`<>.find_all(name,attrs,recursive, string, **kwargs)` **方法**：

返回一个列表类型，存储查找的结果

*  name : 对标签名称的检索字符串
 *  attrs: 对标签属性值的检索字符串，可标注属性检索
 *  recursive: 是否对子孙全部检索，默认True
 *  string: <>…</>中字符串区域的检索字符串

## 扩展方法 ##

<table> 
 <thead> 
  <tr> 
   <th style="text-align:center;">方法</th> 
   <th style="text-align:center;">说明</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td style="text-align:center;">&lt;&gt;.find()</td> 
   <td style="text-align:center;">搜索且只返回一个结果，同.find_all()参数</td> 
  </tr> 
  <tr> 
   <td style="text-align:center;">&lt;&gt;.find_parents()</td> 
   <td style="text-align:center;">在先辈节点中搜索，返回列表类型，同.find_all()参数</td> 
  </tr> 
  <tr> 
   <td style="text-align:center;">&lt;&gt;.find_parent()</td> 
   <td style="text-align:center;">在先辈节点中返回一个结果，同.find()参数</td> 
  </tr> 
  <tr> 
   <td style="text-align:center;">&lt;&gt;.find_next_siblings()</td> 
   <td style="text-align:center;">在后续平行节点中搜索，返回列表类型，同.find_all()参数</td> 
  </tr> 
  <tr> 
   <td style="text-align:center;">&lt;&gt;.find_next_sibling()</td> 
   <td style="text-align:center;">在后续平行节点中返回一个结果，同.find()参数</td> 
  </tr> 
  <tr> 
   <td style="text-align:center;">&lt;&gt;.find_previous_siblings()</td> 
   <td style="text-align:center;">在前序平行节点中搜索，返回列表类型，同.find_all()参数</td> 
  </tr> 
  <tr> 
   <td style="text-align:center;">&lt;&gt;.find_previous_sibling()</td> 
   <td style="text-align:center;">在前序平行节点中返回一个结果，同.find()参数</td> 
  </tr> 
 </tbody> 
</table>

# 总结： #

![信息标记与提取方法 总结][1549538-20190812215340117-1318779588.png]

转载于:https://www.cnblogs.com/XuChengNotes/p/11342861.html

[XML]: /images/20211018/0310667227ec45568cc49f98dbba35f6.png
[JSON]: /images/20211018/56aef380432b4035866f8d5a9f5b0c9c.png
[YAML]: /images/20211018/edbac231b407436884e45d764bbf56bb.png
[1549538-20190812215340117-1318779588.png]: /images/20211018/4211631f1ed44b6184f3f14bfc34c16a.png