工欲善其事,必先利其器。
爬取网页数据,一般都是采用页面Xpath和请求接口取得数据。两种方式都有弊端,Xpath 需要不停的定位和寻找数据的位置,接口不仅需要查找接口,而且需要加密解密。

目标网站
demo用获取抖音的推荐接口,这个接口是加密的。接口地址是:/aweme/v1/web/aweme/post/(开发者工具中的网络标签可以找到接口)
之前分享过一次用代码片段(code snippet)的方式,有些人可能尝试过。对js的熟悉程度很高,门槛不低。但是不妨碍学习,因为你发现只需要变更url地址就可以获取到数据。

代码片段
我们用代码片段的目的是要拿到加密后的请求地址。今天我们分享python的方式,用更简单的方式来处理数据。

copy代码片段到编辑器
依然是RPC的方式(在本地执行远程js方法,解决扣js补环境的问题),browser 是 selenium,定义一个类,代码稍微的规范一下。signatureurlget 方法里面是上面图的内容。init只是初始化了一个webdriver.ChromeOptions()。

规范一下代码
运行一下,获取到加密的地址。请求加密的地址,获取到结果

这样就能直接使用返回的json做点自己想做的事情了,亲自试过了头条,抖音,巨量引擎,京东等网站。
以上就是抖音上查一个人的评论的全部内容,希望可以帮助到大家!
数字华容道中文版
休闲益智81.3M
下载
米家小镇度假之旅游戏破解版
休闲益智47.4M
下载
火柴人战争遗产无限钻石更新版
动作格斗62.8M
下载
赛尔号超级英雄破解版
角色扮演206.69M
下载
我的世界更多幸运方块
休闲益智225M
下载
老爹蛋糕店安卓手机版
模拟经营23.36M
下载
我的勇士内购破解版
冒险解谜281.1M
下载
过山车之星手机版
模拟经营42.0M
下载
米奇小顽皮破解版
休闲益智41.5M
下载
迈阿密街头手机游戏
休闲益智74.78MB
下载