Python爬虫3-parse编码与利用

2023-01-30 23:01:16 python 爬虫
GitHub代码练习地址:①利用parse模拟post请求:https://github.com/Neo-ML/pythonPractice/blob/master/SpiderPrac04_parse-post.py
          
           ②parse功能简单应用:Https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac03_parse.py

           ③利用parse模拟post请求(通过request类实现):https://github.com/Neo-ML/PythonPractice/blob/master/SpiderPrac05_parse-post(request).py

一、(代码spiderprac03)

利用参数给服务器传递信息时,直接写人类可读的参数是不可以的,参数格式要为dict字典结构,然后必须用parse功能来编码。

二、项目(代码spiderprac04):

利用parse模块模拟post请求
分析百度词典
①分析步骤:
1. 打开F12
2. 尝试输入单词girl,发现每敲一个字母后都有请求
3. 请求地址是 http://fanyi.baidu.com/sug
4. 利用NetWork-All-Hearders,查看,发现FORMData的值是 kw:girl
5. 检查返回内容格式,发现返回的是JSON格式内容==>需要用到json包

②大致流程:
1. 利用data构造内容,然后urlopen打开
2. 返回一个json格式的结果
3. 结果就应该是girl的释义

三、(代码spiderprac05)
为了更多的设置请求信息,单纯的通过urlopen函数已经不太好用了
此时需要利用request.Request 类

相关文章