IP_POOL. 免费的IP代理池
683AiSpider. 爬虫轻型框架
232wx_code. 公众号文章代码
62transfrom_zhihu_answer_to_md. 将知乎答案转换为md格式,并保存到本地
32weibo_spider. Python
20fuck-login. 模拟登录一些知名的网站,为了方便爬取需要登录的网站
4-Api. :book:「一个」、「Time 时光」、「开眼」、「一席」、「梨视频」、「微软必应词典」、「金山词典」、「豆瓣电影」、「中央天气」、「魅族天气」、「每日一文」、「12306」、「途牛」、「快递100」、「快递」应用 Api。仅供学习,禁止商业使用,侵权请联系删除。
4awesome-spider. 爬虫集合
3proxy_pool. 简易爬虫代理池
2arachne. A flask API for running your scrapy spiders
1renren. 人人网信息抓取与数据挖掘。social network analysis
1ML-and-DM-in-action. Share my code during learning machine learning and data mining
1Auto-Lianliankan. 基于python图像识别实现的连连看外挂,可实现QQ连连看秒破
1baidu-music-spider. 百度mp3全站爬虫
1Nyspider. 各种爬虫---大众点评,安居客,58,人人贷,拍拍贷, IT桔子,拉勾网,豆瓣,搜房网,ASO100,气象数据,猫眼电影,链家,PM25.in...
1checkproxy. 一个抓取代理ip的
1get_proxy_ips. 获取代理ip,改自别人
1Anti-Anti-Spider. 越来越多的网站具有反爬虫特性,有的用图片隐藏关键数据,有的使用反人类的验证码,建立反反爬虫的代码仓库,通过与不同特性的网站做斗争(无恶意)提高技术。(欢迎提交难以采集的网站)
1spider_smooc. 爬取慕课网视频
1bilibili-user. 🍥 Bilibili用户爬虫
1BaiduyunSpider. 爱百应,百度云网盘搜索引擎,爬虫+网站
1commentbox. 网易云音乐爬虫-支持对用户歌单数据进行爬取,包括每首歌的所有评论数据[见maruko分支run2]
1wooyun-drops-all-articles-package. wooyun drops all article package
1TBBKAnalysis. 关于淘宝“爆款”数据爬取与分析。具体分析见 —
1anthelion. Anthelion is a plugin for Apache Nutch to crawl semantic annotations within HTML pages
1