65.爬虫框架Scrapy简介
爬虫框架Scrapy简介 当你写了很多个爬虫程序之后,你会发现每次写爬虫程序时,都需要将页面获取、页面解析、爬虫调度、异常处理、反爬应对这些代码从头至尾实现一遍,这里面有很多工作其实都是简单乏味的重复劳动。那么,有没有什么办法可以提升我们编写爬虫代码的效率呢?答案是肯定的,那就是利用爬虫框架,...
63.并发编程在爬虫中的应用
并发编程在爬虫中的应用 之前的课程,我们已经为大家介绍了 Python 中的多线程、多进程和异步编程,通过这三种手段,我们可以实现并发或并行编程,这一方面可以加速代码的执行,另一方面也可以带来更好的用户体验。爬虫程序是典型的 I/O 密集型任务,对于 I/O 密集型任务来说,多线程和异步 I/...
64.使用Selenium抓取网页动态内容
使用Selenium抓取网页动态内容 根据权威机构发布的全球互联网可访问性审计报告,全球约有四分之三的网站其内容或部分内容是通过JavaScript动态生成的,这就意味着在浏览器窗口中“查看网页源代码”时无法在HTML代码中找到这些内容,也就是说我们之前用的抓取数据的方式无法正常运转了。解决这...
100.Python面试题实录
Python面试题实录 温馨提示:请访问我的另一个项目“Python面试宝典”。
目录预览
目录 2 第一章 数学基础 1 1.1标量、向量、张量之间的联系 1 1.2张量与矩阵的区别? 1 1.3矩阵和向量相乘结果 1 1.4向量和矩阵的范数归纳 1 1.5如何判断一个矩阵为正定? 2 1.6导数偏导计算 3 1.7导数和偏导数有什么区别? 3 1.8特征值分解与特征向量 3 1....
Measurement of Doppler effect
Measurement of Doppler effect 1.1 Task 如果超声波的观察者(接收器)或源(发射器)相互移动,则测量超声波的频移。 绘制作为源或接收器速度函数的频率依赖性(变化)图。 将测量数据与理论值进行比较。 1.2 Doppler effect 如果声波源或接收器相对...
第九章_图像分割
[TOC] 第九章 图像分割 9.1 图像分割算法分类? 图像分割是预测图像中每一个像素所属的类别或者物体。基于深度学习的图像分割算法主要分为两类: 1.语义分割 为图像中的每个像素分配一个类别,如把画面中的所有物体都指出它们各自的类别。 2.实例分割 与语义分割不同,实例分割只对特定物体进...
第十章_强化学习
[TOC] https://morvanzhou.github.io/tutorials/machine-learning/reinforcement-learning/ 第十章 强化学习 10.1 强化学习的主要特点? 其他许多机器学习算法中学习器都是学得怎样做,而RL是在尝试的过程中学习到...
第八章_目标检测
[TOC] 第八章 目标检测 8.1 基本概念 8.1.1 什么是目标检测? 目标检测(Object Detection)的任务是找出图像中所有感兴趣的目标(物体),确定它们的类别和位置,是计算机视觉领域的核心问题之一。由于各类物体有不同的外观、形状和姿态,加上成像时光照、遮挡等因素的干...
第十三章_优化算法
[TOC] 第一十三章 优化算法 13.1 如何解决训练样本少的问题 目前大部分的深度学习模型仍然需要海量的数据支持。例如 ImageNet 数据就拥有1400多万的图片。而现实生产环境中,数据集通常较小,只有几万甚至几百个样本。这时候,如何在这种情况下应用深度学习呢? (1)利用预训练模型进...