一.MTCNN工作流程图 首先我们看一下MTCNN的工作流程图：  ==注意：训练阶段使用的图片都是去训练P-Net，而在inference的时候，图像大小不受限制。== 图像金字塔的作用：可以进行不同大小的人头的推理，达到尺度不变性。 二.MTCNN的模型结构 MTCNN模型有三个子网络。 分别是P-Net，R-Net，O-Net。  Proposal Network（P-Net）：该网络结构主要获得了人脸区域的候选窗口和边界框的回归向量。并用该边界框做回归，对候选窗口进行校准，然后通过非极大值抑制（NMS）来合并高度重合的候选框。 Refine network（R-Net）：该网络结构还是...

写在前面          在【时光的礼物】本栏目中，我是个讲故事的人，本文将要讲述的是14年代末至21年代初时光里的故事。      着眼于当下，展望向未来，但昨天已永远走过。   so，enjoy：       时光倒回  2021年1月份，高博士送我出校门，车离开城府路口南往学院桥行驶。 我还是下意识的回头看了一眼学校。是的，我看到了洒落满地的阳光和“为中华之崛起”。 2020年初的疫情让最后两个学期支离破碎。长时间的呆在家里远程科研，终于让我在7月的某个晚上，梦见了五道口，我就那样走着走着，时而白天，时而夜晚，最爱的旋律好像就在不远处。  2020年的9月份，我已经研三了，准备回北京的...

写在前面       【R言R语】栏目专注于分享我的一些思考。关于算法行业的思考，将是本栏目的核心，除此之外，对其他有价值事物的思考也会在这个栏目中呈现，欢迎大家一起交流学习       大家好，我是Rocky。   前几天刚完成了晋升答辩，我也借此机会回顾了自己的入职以来所做的工作，沉淀了很多思考，总结了自己需要继续提升的地方，以及后续的规划。       但本文除了分享这些方面的内容，还想和大家聊聊关于算法工程师如何成长的一些思考与观点。（仅代表我一家之言，有浓厚的个人印记）   So，enjoy：   干货篇    ----【目录先行】----   第一章：对算法岗的理解   第二章：算...

0 导读      在Rocky入职算法工程师岗位，并正式工作一年半后，我对校招也有了新的认识，在此想把算法岗面试的一些经验与感悟撰写成文，分享给大家，希望能给大家带来帮助～       下面开始正文部分，So，enjoy：    1 写在前面   首先，以我自己的秋招经历与掌握的相关信息作为支撑，我想将本文受众聚焦在本科大四以及硕士研究生的范畴。   再者，本文只是提供一些切身的思考，并不一定全对，也会存在考虑不全的地方，希望读者能持开放包容的心态进行阅读。   2 劝退先行   这个我拿手，先劝退一波   作为经历过2021年算法岗灰飞烟灭，并从中走来的计算机视觉算法工程师（后统...

拉普拉斯算子的相关概念 拉普拉斯算子是一个二阶算子，比起一阶微分算子，二阶微分算子的边缘定位能力更强，锐化效果更好。 使用二阶微分算子的基本方法是定义一种二阶微分的离散形式，然后根据这个形式生成一个滤波模版，与图像进行卷积。 滤波器分各向同性滤波器和各向异性滤波器。各向同性滤波器与图像进行卷积时，图像旋转后响应不变，说明滤波器模版自身是对称的。如果是各向异性滤波器，当原图旋转90度时，原图某一点能检测出细节（突变）的，但是现在却检测不出来了，这说明滤波器不是对称的。由于拉普拉斯算子是最简单的各向同性微分算子，它具有旋转不变形。 对于二维图像，二阶微分最简单的定义（拉普拉斯算子定义）：  对于任...

梯度算子 想要得到一张图像的梯度，要在图像的每个像素点处计算偏导数。因此一张图像在位置处的和方向上的梯度大小和分别计算为：  上述两个公式对所有的和的计算值可用下面的一维模版对的滤波得到。  用于计算梯度偏导数的滤波器模版，通常称之为梯度算子、边缘算子和边缘检测子等。 经典一阶梯度算子 Roberts算子 Roberts算子又称为交叉微分算法，它是基于交叉差分的梯度算法，通过局部差分计算检测边缘线条。常用来处理具有陡峭的低噪声图像，当图像边缘接近于正45度或负45度时，该算法处理效果更理想。其缺点是对边缘的定位不太准确，提取的边缘线条较粗。 Roberts算子的模板分为水平方向和垂直方向，如下...

写在前面  【三年面试五年模拟】栏目专注于分享CV算法与机器学习相关的经典&&必备&&高价值的面试知识点，并向着更实战，更真实，更从容的方向不断优化迭代。也欢迎大家提出宝贵的意见或优化ideas，一起交流学习💪  大家好，我是Rocky。 本文是“三年面试五年模拟”之独孤九剑秘籍的第八式，之前我们将独孤九剑秘籍前六式进行汇总梳理成汇总篇。由于本系列都是Rocky在工作之余进行整理总结，难免有疏漏与错误之处，欢迎大家对可优化的部分进行指正，我将在后续的优化迭代版本中及时更正。 本系列接下来的每一篇文章都将以独孤九剑秘籍框架的逻辑展开，考虑到易读性与文章篇幅，一篇...

激活函数 一.激活函数的意义 为什么需要激活函数  激活函数对模型学习、理解非常复杂和非线性的函数具有重要作用。 激活函数可以引入非线性因素。如果不使用激活函数，则输出信号仅是一个简单的线性函数。线性函数一个一级多项式，线性方程的复杂度有限，从数据中学习复杂函数映射的能力很小。没有激活函数，神经网络将无法学习和模拟其他复杂类型的数据，例如图像、视频、音频、语音等。 激活函数可以把当前特征空间通过一定的线性映射转换到另一个空间，让数据能够更好的被分类。  为什么需要非线性激活函数  如果网络中全部是线性结构，那么线性的组合还是线性，与单独一个线性分类器无异。这样就做不到拟合逼近任意函数。 使用非...

Spectral Normalization是一种wegiht Normalization技术，和weight-clipping以及gradient penalty一样，也是让模型满足1-Lipschitz条件的方式之一。 Lipschitz（利普希茨）条件限制了函数变化的剧烈程度，即函数的梯度，来确保统计的有界性。因此函数更加平滑，在神经网络的优化过程中，参数变化也会更稳定，不容易出现梯度爆炸。 Lipschitz条件的约束如下所示： 其中代表一个常数，即利普希茨常数。若，则是1-Lipschitz。 在GAN领域，Spectral Normalization有很多应用。在WGAN中，只有满...

----【数据结构&&算法】---- 【一】常用数据结构的相关知识  数组：最基本的数据结构，用连续内存存储数字。创建数组时，我们需要首先指定数组的容量大小，然后根据大小分配内存。即使我们只在数组中存储一个数字，也需要为所有的数据预先分配内存。因此数组的空间效率不是很好，经常会有空闲的区域没有得到充分的利用。(可动态分配内存来解决上述问题)由于数组中的内存是连续的，于是可以根据数组下标O(1)时间读/写任何元素，因此它的时间效率是很高的。 字符串：最基本的数据结构，用连续内存存储字符。C/C++中每个字符串都以字符’\0’作为结尾，这样我们就能很方便地找到字符串的最后尾部。 链...

在目标检测领域，很多检测算法最后使用了全连接层，导致输入尺寸固定。当遇到尺寸不匹配的图像输入时，就需要使用crop或者warp等操作进行图像尺寸和算法输入的匹配。这两种方式可能出现不同的问题：裁剪的区域可能没法包含物体的整体；变形操作造成目标无用的几何失真等。 而SPP的做法是在卷积层后增加一个SPP layer，将features map拉成固定长度的feature vector。然后将feature vector输入到全连接层中。以此来解决上述的尴尬问题。  SPP的优点：  SPP可以忽略输入尺寸并且产生固定长度的输出。 SPP使用多种尺度的滑动核，而不是只用一个尺寸的滑动窗口进行poo...

【一】FPN(Feature Pyramid Network)的相关知识 FPN的创新点  设计特征金字塔的结构 提取多层特征（bottom-up，top-down） 多层特征融合（lateral connection）  设计特征金字塔的结构，用于解决目标检测中的多尺度问题，在基本不增加原有模型计算量的情况下，大幅度提升小物体（small object）的检测性能。 原来很多目标检测算法都是只采用高层特征进行预测，高层的特征语义信息比较丰富，但是分辨率较低，目标位置比较粗略。假设在深层网络中，最后的高层特征图中一个像素可能对应着输出图像的像素区域，那么小于像素的小物体的特征大概率已经丢失。与...

JS散度全称Jensen-Shannon散度，简称JS散度。在概率统计中，JS散度也与KL散度一样具备了测量两个概率分布相似程度的能力，它的计算方法基于KL散度，继承了KL散度的非负性等，但有一点重要的不同，JS散度具备了对称性。 JS散度的公式如下所示，我们设定两个概率分布为和，另外我们还设定，KL为KL散度公式。 如果我们把KL散度公式写入展开的话，结果如下所示： 深度学习中使用KL散度和JS散度进行度量的时候存在一个问题： 如果两个分布，离得很远，完全没有重叠的时候，那么KL散度值是没有意义的，而JS散度值是一个常数。这对以梯度下降为基础的深度学习算法有很大影响，这意味梯度为0，即梯度消...

KL散度（Kullback-Leibler divergence），可以以称作相对熵（relative entropy）或信息散度（information divergence）。KL散度的理论意义在于度量两个概率分布之间的差异程度，当KL散度越大的时候，说明两者的差异程度越大；而当KL散度小的时候，则说明两者的差异程度小。如果两者相同的话，则该KL散度应该为0。 接下来我们举一个具体的🌰： 我们设定两个概率分布分别为和，在设定为连续随机变量的前提下，他们对应的概率密度函数分别为和。如果我们用去近似，则KL散度可以表示为： 从上面的公式可以看出，当且仅当时，。此外我们可以知道KL散度具备非负...