工欲善其事,必先利其器。
爬取网页数据,一般都是采用页面Xpath和请求接口取得数据。两种方式都有弊端,Xpath 需要不停的定位和寻找数据的位置,接口不仅需要查找接口,而且需要加密解密。
目标网站
demo用获取抖音的推荐接口,这个接口是加密的。接口地址是:/aweme/v1/web/aweme/post/(开发者工具中的网络标签可以找到接口)
之前分享过一次用代码片段(code snippet)的方式,有些人可能尝试过。对js的熟悉程度很高,门槛不低。但是不妨碍学习,因为你发现只需要变更url地址就可以获取到数据。
代码片段
我们用代码片段的目的是要拿到加密后的请求地址。今天我们分享python的方式,用更简单的方式来处理数据。
copy代码片段到编辑器
依然是RPC的方式(在本地执行远程js方法,解决扣js补环境的问题),browser 是 selenium,定义一个类,代码稍微的规范一下。signatureurlget 方法里面是上面图的内容。init只是初始化了一个webdriver.ChromeOptions()。
规范一下代码
运行一下,获取到加密的地址。请求加密的地址,获取到结果
这样就能直接使用返回的json做点自己想做的事情了,亲自试过了头条,抖音,巨量引擎,京东等网站。
以上就是抖音上查一个人的评论的全部内容,希望可以帮助到大家!
迷你交通赛车手手机游戏
休闲益智40.7M
下载土耳其滑块手机游戏
休闲益智18.0MB
下载节奏快打最新版
动作格斗162.4M
下载大都督三国塔防
卡牌桌游25MB
下载登山赛车朝天历险记破解版中文版
赛车竞速42.2M
下载魔镜仙踪神庙逃亡
动作格斗67.8M
下载宇宙灭霸模拟器游戏
动作格斗0KB
下载超级粘液模拟器2020苹果版
模拟经营55.6M
下载远古驯兽师游戏
角色扮演39.2MB
下载冒险逃脱闹鬼狩猎手机游戏
冒险解谜98.8M
下载