[636] Python 分布式爬虫与 JS 逆向进阶实战 – 网盘下载20+ 案例 & 可接单级项目，整体提升爬虫实战能力

网盘链接：

1. 走近 Python 爬虫开发

• 1-1 爬虫能解决什么问题
• 1-2 为什么要学习 python 爬虫开发
• 1-3 课程内容介绍、学习目标
• 1-4 欢迎加入QQ学习交流群
• 1-5 【必看】行有行规，爬虫有虫规

2. 爬虫开发，你准备好了吗？

• 2-1 环境准备：搭建爬虫开发环境
• 2-2 方法准备：好的学习方法，让编程事半功倍
• 2-3 心态准备：克除浮躁，港大学霸带你一路坚持下去

3. 如何及时抓取最新的网页数据？

• 3-1 爬虫请求的基础：HTTP 基础知识
• 3-2 Requests 模块请求网页数据
• 3-3 携带 Headers 请求头，模拟真人请求
• 3-4 设置 Proxy 代理 IP，突破 IP 封锁

4. 如何提取网页数据？

• 4-1 如何提取网页关键数据？
• 4-2 第一种方法：正则表达式解析数据
• 4-3 【补充】正则表达式语法基础（一）
• 4-4 【补充】正则表达式语法基础（二）
• 4-5 【实战】 电影天堂：爬取电影详情页
• 4-6 【实战】 电影天堂：全站分页数据爬取
• 4-7 第二种方法：XPath 解析数据
• 4-8 【补充】XPath 语法基础
• 4-9 【实战】纵横中文网：爬取小说详情页
• 4-10 【实战】纵横中文网：排行榜全部小说爬取

5. 如何存储抓取到的数据？

• 5-1 如何持久化存储数据？主流的数据存储方式？
• 5-2 MongoDB 数据库概述
• 5-3 MongoDB 安装配置（MacOS）
• 5-4 MongoDB 安装配置（Windows）
• 5-5 Python 连接 MongoDB 数据库
• 5-6 【实战】豆瓣网：爬取电影排行榜数据
• 5-7 【实战】豆瓣网：获取下滑加载的翻页数据
• 5-8 【实战】豆瓣网：将数据存入 MongoDB 数据库

6. Scrapy 框架快速爬取海量数据

• 6-1 如何高效爬取海量数据？
• 6-2 第一个 Scrapy 爬虫项目
• 6-3 Scrapy 框架架构梳理
• 6-4 Scrapy + XPath 解析数据
• 6-5 通过 Pipelines 管道实现数据保存
• 6-6 Scrapy + MongoDB 数据持久化存储
• 6-7 Middleware 中间件，处理引擎与下载器之间的请求及响应
• 6-8 Scrapy 伪装爬虫手段一：设置动态 User-Agent
• 6-9 Scrapy 伪装爬虫手段二：设置代理 IP
• 6-10 【实战】豆瓣图书：Scrapy + 伪装爬虫爬取新书速递
• 6-11 【实战】豆瓣图书：新书速递数据解析、存储
• 6-12 CrawlSpider 爬虫，为全站爬取而生的 Scrapy 爬虫子类
• 6-13 【实战】聚美优品：CrawlSpider 爬取并储存商品信息

7. Scrapy-Redis 分布式爬虫，让爬取效率更高

• 7-1 如何让爬取效率更高？
• 7-2 什么是 Scrapy-Redis 分布式爬虫？
• 7-3 Redis 数据库概述
• 7-4 Redis 数据库安装配置（MacOS）
• 7-5 Redis 数据库安装配置（Windows）
• 7-6 Python 操作 Redis 数据库
• 7-7 从零实现一个简单的分布式爬虫
• 7-8 Redis 数据保存至 MongoDB 数据库
• 7-9 【实战】京东商城：分布式爬虫（一）
• 7-10 【实战】京东商城：分布式爬虫（二）

8. Scrapy + Selenium 框架模拟登录

• 8-1 通过 Cookie 和 Session 实现用户登陆的原理
• 8-2 模拟登录方法一：Requests 模块 + Cookie 实现登录
• 8-3 Cookie + Session 实现登录并获取数据
• 8-4 模拟登录方法二：Selenium 实现自动化登录
• 8-5 【补充】Selenium 基础：安装配置
• 8-6 【补充】Selenium 基础：元素定位方法
• 8-7 【补充】Selenium 基础：元素交互
• 8-8 Scrapy + Selenium 实现登录
• 8-9 Scrapy + Selenium 登录后抓取数据

9. OpenCV 图像识别技术搞定验证码识别之前置基础

• 9-1 什么是 OpenCV 图像识别技术？
• 9-2 OpenCV 图像基础操作
• 9-3 修改图像像素与色彩
• 9-4 修改图像 region of interest 指定区域
• 9-5 图像数值运算、二值化处理
• 9-6 图像平滑处理
• 9-7 形态学图像处理
• 9-8 滑块验证码的基础：模版匹配

10. OpenCV 图片验证码识别与滑块验证码识别

• 10-1 百度 OCR 文字识别云服务
• 10-2 【实战】维普网：获取图片验证码
• 10-3 【实战】维普网：OpenCV + OCR 识别验证码
• 10-4 【实战】维普网：Selenium 登录并获取数据
• 10-5 【实战】维普网：处理识别出错的问题
• 10-6 滑块验证码识别逻辑梳理
• 10-7 【实战】猎聘网：获取滑块验证码
• 10-8 【实战】猎聘网：OpenCV 计算滑动距离
• 10-9 【实战】猎聘网：Selenium 模拟滑动轨迹
• 10-10 【实战】猎聘网：处理识别出错的问题

11. EasyDL 机器学习识别验证码与云码平台一站式识别

• 11-1 EasyDL 机器学习基础
• 11-2 【实战】京东商城：批量获取验证码图片
• 11-3 【实战】京东商城：信息标注 & 训练模型
• 11-4 【实战】京东商城：调用 EasyDL API 接口识别验证码
• 11-5 云码平台使用基础
• 11-6 【实战】豆瓣网：获取验证码图片
• 11-7 【实战】豆瓣网：云码平台滑块验证码识别

12. 爬虫与反爬的对抗之文字加密

• 12-1 常见的反爬手段介绍
• 12-2 常见文字加解密方式有哪些？
• 12-3 【补充】文字加解密基础：二进制与十六进制
• 12-4 【补充】文字加解密基础：ASCII & UTF-8 & Unicode 编码
• 12-5 【补充】文字加解密基础：Python 实现 Encode & Decode 编码转换
• 12-6 破解 Unicode 与 HTML 字符实体加密
• 12-7 破解 CSS 偏移文字加密
• 12-8 【实战】ZiRoom：破解 CSS 偏移文字加密
• 12-9 【实战】ZiRoom：获取租房信息数据

13. 爬虫与反爬的对抗之 JS 逆向

• 13-1 常见五种 JS 加密手段揭秘
• 13-2 【注意！注意！注意】爬虫有风险，采集需谨慎
• 13-3 Python Js2Py 库运行 JS 代码
• 13-4 JS 逆向一：Js2py 破解基础 JS 加密
• 13-5 JS 逆向二：Python 重构 JS 加密流程
• 13-6 【实战】巨潮资讯：Js2py 破解 JS 加密获取股票信息
• 13-7 【补充】Base64 编码原理
• 13-8 JS 逆向三：重构 JS Base64 编码问题，破解 JS Base64 加密
• 13-9 【实战】巨潮资讯：破解 JS Base64 加密获取巨潮资讯数据
• 13-10 【补充】Hash 哈希算法原理
• 13-11 JS 逆向四：破解 Md5 和 SHA 哈希加密
• 13-12 【实战】千千音乐：JS 逆向破解音乐mp3参数哈希加密

14. 爬虫与反爬的对抗之 JS 逆向进阶

• 14-1 【补充】AES 对称加密算法原理
• 14-2 JS 逆向进阶一：破解 AES 加密
• 14-3 【实战】发现报告网：破解 AES 加密，逆向解析发现报告登录参数
• 14-4 【补充】RSA 非对称加密算法原理
• 14-5 JS 逆向进阶二：破解 RSA 加密
• 14-6 【实战】36氪：破解 RSA 加密，逆向解析36氪登录参数
• 14-7 JS 逆向进阶 三：解决多个请求使用相同加密算法的情况
• 14-8 【实战】新榜：破解多请求相同算法，获取自媒体数据
• 14-9 JS 逆向进阶四：破解参数混合加密
• 14-10 【实战】网易云音乐：破解混合加密， 下载 mp3 歌曲
• 14-11 JS 逆向进阶五：解决密钥需要额外获取的情况
• 14-12 JS 逆向进阶六：基础 JS 混淆加密破解
• 14-13 【实战】喜马拉雅：破解 JS 混淆加密，下载有声书 mp3

15. 【综合实战】Scrapy-Redis+验证码识别+Selenium爬取海量数据

• 15-1 项目介绍 & 目标站点分析
• 15-2 获取视频播放、点赞、收藏数据（上）
• 15-3 获取视频播放、点赞、收藏数据（下）
• 15-4 项目修改为 Scrapy-Redis 分布式爬虫
• 15-5 MongoDB 数据库储存数据
• 15-6 通过云码平台识别点选验证码
• 15-7 Selenium 点击验证码实现登录
• 15-8 JS 逆向实现视频自动点赞
• 15-9 分析音视频下载接口
• 15-10 Scrapy-Redis 分布式批量视频下载

16. 【拓展】视频网站数据分析

• 16-1 爬取数据之后如何处理数据？
• 16-2 存储 MongoDB 中播放、点赞、收藏等数据至表格中
• 16-3 数据分析进阶学习路线

17. 【加餐】爬虫高频面试题

• 17-1 谈谈爬虫开发的基本流程
• 17-2 为什么 requests 请求需要带上 header？
• 17-3 robots.txt 协议文件有什么作用？
• 17-4 简述 Scrapy 框架的基本结构
• 17-5 常见的反爬措施及应对方法
• 17-6 URL 链接的结构