使用 anyproxy 二次开发的微信公众号抓取工具,可以抓阅读数,点赞数,赞赏数和回复数
在 Laravel China 的同学们可能听我说过,我确实因为还算比较熟悉 Node.js,在工作中多次受益,因为 Node.js 里面的工具和轮子特别多,今天的工具中我使用 anyproxy 就是阿里开源的一个代理工具。
我本来是写了更复杂的工具,使用 Node.js 的 anyproxy 加上 php 的 Laravel 框架,完成这些功能,但是某天洗澡的时候终于想通了,我其实把一个工具复杂化了,这个工具本来是很简单的,我给一位媒体朋友指导了一下,他也很快就用起来了。
首先,先看我之前写的文章,介绍现在微信公众账号一般抓取的方法:
一般有两种抓取的方法:
- 抓取搜狗微信。
- 利用“中间人攻击”思路使用代理抓取。
清明节花了一天时间写了这个工具,思路是利用“中间人攻击”,想可以试试。
安装:
$ npm install wechat_spider -g
具体安装和使用请查看 https://github.com/lijinma/wechat_spider 求 Star
抓取完存储在 sqlite 中,可以导出 csv ,如图:
抓取思路:
- 因为微信的链接是 https,所以需要使用中间人攻击的方式,安装根证书(anyproxy 工具的功能)。
- 为了保证自动抓取分页,在每一页的后面添加:
<script>setTimeout(function(){window.location.href="下一个 url";},2000);</script>
,动态修改下一个 url ,这样就可以保证一直抓下去。
这是一个完整的工具
我尽可能的在 README 中尽可能的把每一步都写得非常清楚,希望真的可以对你有用,尤其是媒体工作者,因为我这个工具就是为我一个做媒体的朋友写的,有任何问题,请提 Issue 。
本作品采用《CC 协议》,转载必须注明作者和本文链接
推荐文章: