【每日一网】Day4:OverFeat流程简单理解

【论文精读】【Overfeat】Integrated Recognition, Localization and Detection using Convolutional Networks 我们提出了一个使用卷积网络进行分类、定位和检测的集成框架。我们展示了如何在ConvNet中有效地实现多尺度和滑动窗口方法。我们还引入了一种新的深度学习方法,通过学习预测目标边界来进行定位。然后累积而不是抑制边界框,以增加检测置信度。我们表明,不同的任务可以同时学习使用一个单一的共享网络。该集成框架赢得了2013年ImageNet大规模视觉识别挑战赛(ILSVRC2013)的定位任务,并在检测和分类任务中获得了极具竞争力的结果。在赛后工作中,我们为检测任务建立了一个新的艺术状态。 阅读详情

OverFeat

算法背景

overfeat是2013年imagenet定位任务的冠军,同时在分类和检测任务也取得了不错的成果,分类,定位,检测。
overfeat使用单个共享网络,完成了分类,定位,检测任务,并且提出了一个多尺度的测试方法。
overfeat的主要创新点是multiscale 、sliding window、offset pooling。

分类器

overfeat的网络结构类似于alexnet,作者提出两种模型,分别为fast模型和accurate模型,这两种模型在结构上稍有区别

fast模型

在这里插入图片描述
Input(231,231,3)→96F(11,11,3,s=4)→max-p(2,2,s=2)→256F(5,5,96,1) →max-p(2,2,2) →512F(3,3,512,1) →1024F(3,3,1024,1) →1024F(3,3,1024) →max-p(2,2,2) →3072fc→4096fc→1000softmax
fast模型的改进:
1、不使用LRN;

2、不使用over-pooling使用普通pooling;

3、第3,4,5卷基层特征数变大,从Alex-net的384→384→256;变为512→1024→1024.

4、fc-6层神经元个数减少,从4096变为3072

5、卷积的方式从valid卷积变为维度不变的卷积方式,所以输入变为231*231

accurat模型

在这里插入图片描述
Input(231,231,3)→96F(7,7,3,s=2)→max-p(3,3,3)→256F(7,7,96,1)→max-p(2,2,2) →512F(3,3,512,1) →512F(3,3,512,1) →1024F(3,3,1024,1) →1024F(3,3,1024,1) →max-p(3,3,3) →4096fc→4096fc→1000softmax
accurate的改进:
1,不使用LRN;

2,不使用over-pooling使用普通pooling,更大的pooling间隔S=2或3

3第一个卷基层的间隔从4变为2(accurate 模型),卷积大小从1111变为77;第二个卷基层filter从55升为77

4增加了一个第三层,是的卷积层变为6层;从Alex-net的384→384→256;变为512→512→1024→1024.

FCN

测试阶段OverFeat没有采用AlexNet的multi-crop (10 view)方法,而是直接采用了六种不同尺度的测试图像输入(每个尺度的图像还增加了水平翻转),结合全卷积网络结构,最终输出的维度是不同的,体现了不同尺寸输入图像的实际候选区域数目的不同。(Class种类数目这个维度是一致的,最后一个维度是1000,代表1000种分类预测)
我们知道对于一个各层参数结构都设计好的网络模型来说,输入的图片大小是固定的,比如Alexnet设计完毕后,网络输入图片大小就是227227。这个时候我们如果输入一张500500的图片,会是什么样的结果?我们现在的希望是让我们的网络可以一直前向传导,让一个已经设计完毕的网络,也可以输入任意大小的图片,这就是FCN的精髓。FCN算法灵魂:

1、把卷积层-》全连接层,看成是对一整张图片的卷积层运算。

2、把全连接层-》全连接层,看成是采用1*1大小的卷积核,进行卷积层运算。

下面用一个例子,讲解怎么让一个已经设计好的CNN模型,可以输入任意大小的图片:
在这里插入图片描述
如上图所示,上面图中绿色部分表示:卷积核大小。假设我们设计了一个CNN模型,输入图片大小是1414,通过第一层卷积后我们得到1010大小的图片,然后接着通过池化得到了55大小的图片。OK,关键部分来了,接着要从:55大小的图片-》1*1大小的图片:

(1)传统的CNN:如果从以前的角度进行理解的话,那么这个过程就是全连接层,我们会把这个5*5大小的图片,展平成为一个一维的向量,进行计算(写cnn代码的时候,这个时候经常会在这里加一个flatten函数,就是为了展平成一维向量)。

(2)FCN:FCN并不是把55的图片展平成一维向量,再进行计算,而是直接采用55的卷积核,对一整张图片进行卷积运算。

其实这两个本质上是相同的,只是角度不同,FCN把这个过程当成了对一整张特征图进行卷积,同样,后面的全连接层也是把它当做是以1*1大小的卷积核进行卷积运算。

从上面的例子中,我们看到网络的输入是一张1414大小的图片,这个时候加入我就用上面的网络,输入一张任意大小的图片,比如1616大小的图片,那么会是什么样的结果?具体请看下面的示意图:在这里插入图片描述
这个时候你就会发现,网络最后的输出是一张22大小的图片。这个时候,我们就可以发现采用FCN网络,可以输入任意大小的图片。同时需要注意的是网络最后输出的图片大小不在是一个11大小的图片,而是一个与输入图片大小息息相关的一张图片了。

OK,这个时候我们回来思考一个问题,比如Alexnet网络设计完毕后,我们也用FCN的思想,把全连接层看成是卷积层运算,这个时候你就会发现如果Alexnet输入一张500500图片的话,那么它将得到1000张1010大小的预测分类图,这个时候我们可以简单采用对着每一张10*10大小的图片求取平均值,作为图片属于各个类别的概率值。

其实Alexnet在测试阶段的时候,采用了对输入图片的四个角落进行裁剪,进行预测,分别得到结果,最后的结果就是类似对应于上面22的预测图。这个22的每个像素点,就类似于对应于一个角落裁剪下来的图片预测分类结果。只不过Alexnet把这4个像素点,相加在一起,求取平均值,作为该类别的概率值。

需要注意的是,一会儿overfeat就是把采用FCN的思想把全连接层看成了卷积层,让我们在网络测试阶段可以输入任意大小的图片。

offset max-pooling

在这里插入图片描述
如上图所示,我们在x轴上有20个神经元,如果我们选择池化size=3的非重叠池化,那么根据我们之前所学的方法应该是:对上面的20个,从1位置开始进行分组,每3个连续的神经元为一组,然后计算每组的最大值(最大池化),19、20号神经元将被丢弃,我们也可以在20号神经元后面,人为的添加一个数值为0的神经元编号21,与19、20成为一组,这样可以分成7组:[1,2,3],[4,5,6]……,[16,17,18],[19,20,21],最后计算每组的最大值,这就是我们以前所学CNN中池化层的源码实现方法了。

上面我们说到,如果我们只分6组的话,我们除了以1作为初始位置进行连续组合之外,也可以从位置2或者3开始进行组合。也就是说我们其实有3种池化组合方法
以往的CNN中,一般我们只用了△=0,得到池化结果后,就送入了下一层。于是文献的方法是,把上面的△=0、△=1、△=2的三种组合方式的池化结果,分别送入网络的下一层。这样的话,我们网络在最后输出的时候,就会出现3种预测结果了。
在这里插入图片描述
这里说的只是一维的情况,如果是2维图片,那么(△x,△y)就会有9种取值情况,我们在做图片分类的时候,在网络的某一个池化层加入这种offset pooling,然后把这9种池化结果,分别送入后边的网络层,最后我们的图片分类输出结果就可以得到9个预测结果,然后我们对每个类别的9种概率,取最大值,作为此类别的预测概率。

overfeat图片分类

从layer-5 pre-pool到layer-5 post-pool:这一步的实现是通过池化大小为(3,3)进行池化,然后△x=0、1、2,△y=0、1、2,这样我们可以得到对于每一张特征图,我们都可以得到9幅池化结果图。以上面表格中的sacle1为例,layer-5 pre-pool大小是1717,经过池化后,大小就是55,然后有3*3张结果图(不同offset得到的结果)。

从layer-5 post-pool到classifier map(pre-reshape):我们知道在训练的时候,从卷积层到全连接层,输入的大小是4096*(55),然后进行全连接,得到4096(11)。但是我们现在输入的是各种不同大小的图片,因此接着就采用FCN的招式,让网络继续前向传导。我们从layer-5 post-pool到第六层的时候,如果把全连接看成是卷积,那么其实这个时候卷积核的大小为55,因为训练的时候,layer-5 post-pool得到的结果是55。因此在预测分类的时候,假设layer-5 post-pool 得到的是79(上面表格中的scale 3),经过55的卷积核进行卷积后,那么它将得到(7-5+1)(9-5+1)=3*5的输出。

然后我们就只需要在后面把它们拉成一维向量摆放就ok了,这样在一个尺度上,我们可以得到一个C*N个预测值矩阵,每一列就表示图片属于某一类别的概率值,然后我们求取每一列的最大值,作为本尺度的每个类别的概率值。

最后我们一共用了6种不同尺度(文献好像用了12张,另外6张是水平翻转的图片),做了预测,然后把这六种尺度结果再做一个平均,作为最最后的结果。

OK,至此overfeat图片分类的任务就结束了,从上面过程,我们可以看到整个网络分成两部分:layer 1~ 5这五层我们把它称之为特征提取层;layer 6~output我们把它们称之为分类层。

定位任务

我们在定位的时候,把分类层重新设计一下,将分类问题改为回归问题,然后在不同尺度上训练预测物体的bbox。
我们把图片分类学习的特征提取层的参数固定下来,然后继续训练后边的回归层的参数,网络包含四个输出,对应bbox的左上角和右下角,损失函数采用欧式距离L2损失函数。
回归器的最终输出结果是4个单元,代表bounding box边缘的坐标,每个类都有回归器的预测结果,即尽管多尺度的输入图像尺寸不同,回归器输出结果的最后两维是4*1000;而且与分类器的预测结果可以表征回归器预测的置信度(针对1000种不同识别对象而言)。

训练回归器时,前五层不参与训练;如果样本和真实标签的重叠小于50%,则样本不参与回归器的训练。(由于样本预处理和增强的原因,可能导致样本的范围和真实标签已经重叠较小)。

如何决定最终bounding box的问题,与如何决定分类结果的问题类似;区别是这里的输出扩大了4维。不同于其他研究只取最大置信结果的方法,OverFeat设计了一种融合的方法呢,即选取高置信的一批预测结果,然后merge出最终的bounding box。

从OverFeat定位方法的描述中,已经可以看出其可以做多目标检测;模型是一样的,区别是最后结果生成的方法不同。

下图可以看出定位时回归器的工作过程:
在这里插入图片描述

总结

overfeat主要的亮点在于使用了全卷积神经网络和offset pooling,还有分类任务跟定位任务可以使用同一个网络结构

别再怕非观测区了!手把手教你用移相法搞定PMSM单电阻FOC的电流重构难题 本文详细解析了永磁同步电机(PMSM)单电阻FOC系统中非观测区的电流重构难题,重点介绍了移相法的工程实践。通过STM32平台的具体实现和调试指南,帮助工程师有效解决相电流检测中的采样窗口不足问题,提升系统稳定性和性能。 阅读详情

相关推荐

python 编程 安卓脚本_详解基于Android的Appium+Python自动化脚本编写

1.AppiumAppium是一个开源测试自动化框架,可用于原生,混合和移动Web应用程序测试, 它使用WebDriver协议驱动iOS,Android和Windows应用程序。通过Appium,我们可以模拟点击和屏幕的滑动,可以获取元素的id和classname,还可以根据操作生成相关的脚本代码。下面开始Appium的配置。appPackage和APPActivity的获取任意下载一个app解压...

weixin_39523625的博客 2933

OverFeat 详解

(一)计算机视觉任务(二)分类(三)定位(四)检测

Kula的博客 7262

从mseed到SAC格式转换全攻略:mseed2sac工具安装与批量处理技巧

本文详细介绍了如何将mseed格式的地震数据高效转换为SAC格式,涵盖mseed2sac工具的安装、单文件转换技巧、批量处理自动化实现以及元数据高级处理策略。通过具体命令和脚本示例,帮助地震学研究者快速掌握数据预处理的关键技术,提升波形数据分析效率。

ruby5的博客 929

目标检测——OverFeat算法解读

overfeat算法解读

lishanlu136的博客 2059

红外热成像仪原理及应用

目录什么是红外热成像背景介绍热成像技术原理热成像分类红外热成像和夜视仪之间的区别红外热像仪夜视仪红外照明相机对比红外热像仪都能看透什么如何选择制冷型和非制冷型红外热像仪制冷型红外热像仪非制冷型红外热像仪实例对比成像速度空间分辨率灵敏度光谱滤波同步何如选择合适的红外热像仪像素测温范围和被测物温度分辨率空间分辨率温度稳定性热像仪的距离系数比常见热成像仪关键参数量程视场角 (FOV)红外分辨率热灵敏度(NETD)焦距光谱范围精度内置优化分析NTED(热灵敏度)什么是NETD如何测量NETD?NETD如何影响测量?

zhy295006359的博客 2万+

MATLAB信号处理实战:VMD分解参数调优全指南(附避坑技巧)

本文深入探讨了MATLAB中变分模态分解(VMD)的核心参数调优实战技巧。针对模态数K和惩罚系数α的选择难题,提供了从经验估计、可视化观察到量化指标辅助的渐进式调优框架,并分享了避免过分解与欠分解的实用避坑指南,旨在帮助工程师高效处理非平稳信号,提取清晰的物理特征。

weixin_29079671的博客 146

目标检测算法(二)OverFeat精细分析和讲解并附源码地址

本文从多个方向全面系统地介绍了OverFeat这篇论文,包括论文的背景、创新点、实验结果等方面。通过对论文的分析,我们可以发现,OverFeat提出了一种新的物体检测思路,即将物体检测问题转化为对物体的全局特征的提取和分类,从而实现了物体检测和识别的同时进行。同时,OverFeat还提出了一个基于卷积神经网络的端到端的训练框架,以及一些特殊的卷积核设计和正则化策略,从而进一步提高了检测的准确率和召回率。

Snu77的博客 1731

单端反激电源的RCD钳位电路吸收设计

反激电源尖峰电压和特点: 反激开关电源主要适用于中小功率<100W的电源设计中,特点是电路简单、成本低、可靠性高、宽稳压范围、转换效率PF高。但是由于本身变压器的漏感和其他参数的影响,变压器在高速开关关断瞬间会产生很大的尖峰电压,截止时产生的尖峰电压是由电路中的储能元件释放的电流引起的突变,过高的尖峰电压会影响开关管的正常工作,需要对尖峰电压采取措施抑制尖峰电压。 如上图所示,尖峰电压的钳位抑制方式有很多种。 TVS成本偏高,属于硬件导通,元件的可靠性较差,在低电压工作效果不理想。 RCD回路吸收

qq_31687191的博客 8494

OverFeat 个人总结

论文:《OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks》。可在google学术、百度学术下载。 一、Introduction 卷积网络的优点:end to end,由像素对应到最终的类别 缺点:需要大量已标记的样本 本文主要介绍了利用OverFeat进行分...

LeeWanzhi的博客 4090

Android 12.0 系统开机设置默认横屏显示

在12.0的系统产品开发中,对于产品需求来说,由于是宽屏设备所以产品需要开机默认横屏显示,开机横屏显示这就需要从两部分来实现,一部分是开机动画横屏显示,另一部分是系统显示横屏显示,从这两方面就可以做到开机默认横屏显示了。

安卓兼职framework和app工程师的博客 3745

全面解读AI Infra:架构、生态与未来趋势

文章摘要 大模型时代下,AI基础设施(AI Infra)成为关键技术基建,涵盖从数据准备到模型服务的全栈技术体系。文章系统解构了AI Infra的四层架构(硬件资源层、资源管理调度层、开发框架层、平台工具层),并分析了全球AI Infra生态图谱,包括云计算巨头、芯片厂商等全栈服务商,以及中国特色的多元竞合格局。通过对比Data Infra与AI Infra的核心差异,指出AI Infra更关注智能应用的规模化与自动化。文章还探讨了从传统数据设施向AI基础设施的转型路径,强调自主可控、软硬协同等发展趋势,为

技术引领业务创新 614

深度学习计算机视觉模型衍生与发展——OverFeat详解

本文围绕一代传奇模型overfeat展开论述,探究在2013年,overfeat是怎样横空出世、独占鳌头的,并介绍它的那跨时代的思想和惊为天人的设计。

qq_62530454的博客 1396

详解舵机的基本原理以及控制方法

文章目录什么是舵机?伺服控制硬件连接舵机规格SG90MG90SMG996R总结 什么是舵机? 舵机是伺服电机的一种,伺服电机就是带有反馈环节的电机,我们可以通过伺服电机进行精确的位置控制或者输出较高的扭矩; 舵机也叫也叫 RC 伺服器,通常用于机器人项目,也可以在遥控汽车,飞机等航模中找到它们。 类似舵机这样的伺服系统通常由小型电动机,电位计,嵌入式控制系统和变速箱组成。 电机输出轴的位置由内部电位计不断采样测量,并与微控制器(例如STM32,Arduino)设置的目标位置进行比较; 根据相应的偏差,控制

一名热爱技术的工程师的博客。分享技术干货,记录美好生活。永远相信美好的事情即将发生。 4万+

【youcans动手学模型】目标检测之 OverFeat 模型

本文介绍目标检测之 OverFeat 模型,并给出 PyTorch 实现方法。 OverFeat 是一种基于卷积网络的图像特征提取器和分类器,是ILSVRC2013定位任务的第1名。

youcans的博客 2179

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

Overfeat算法原理介绍

文章定义为一种特征提取器。

yannkaii的博客 1123

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

OverFeat——全卷积首次用于检测问题 (目标检测)(深度学习)(ICLR 2014)

论文名称:《 OverFeat:Integrated Recognition, Localization and Detection using Convolutional Networks 》 论文下载:https://arxiv.org/abs/1312.6229 论文代码:https://cilvr.nyu.edu/doku.php?id=software:overfeat:start ...

星智云图工作室(StarImagine Studio) 7383

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

卷积神经网络之OverFeat(2014)

文章目录OverFeat前言概要模型OverFeat分类多尺度卷积(FCN)多尺度分类(offset池化)定位组合预测检测总结 OverFeat 文档存放更新地址:https://github.com/lartpang/ML_markdown 文章书写匆忙,有些使用了网上其他朋友的文字以及图片,但是没有及时复制对应的链接,在此深表歉意,以及深深的感谢。 如有朋友看到了对应的出处,或者作者发现...

画心 3092

【目标检测】目标检测算法-从OverFeat到YOLO

【目标检测】目标检测算法-从OverFeat到YOLO

星辰不问 2213

系统学习深度学习(十六)--Overfeat

转自:http://blog.csdn.net/whiteinblue/article/details/43374195 本文是纽约大学Yann LeCun团队中Pierre Sermanet ,David Eigen和张翔等在13年撰写的一篇论文,本文改进了Alex-net,并用图像缩放和滑窗方法在test数据集上测试网络;提出了一种图像定位的方法;最后通过一个卷积网络来同时进行分类,定位和检

工作笔记 1万+

(二)目标检测算法之R-CNN

系列博客链接: (一)目标检测概述https://www.cnblogs.com/kongweisi/p/10894415.html 概述: 1、目标检测-Overfeat模型 2、目标检测-R-CNN模型   2.1完整R-CNN结构(R-CNN的完整步骤)   2.2R-CNN训练过程   2.3R-CNN测试过程   2.4 总结(缺点即...

diaoer7075的博客 814

OverFeat论文翻译(已校正)

此篇为目标检测系列论文:OverFeat 论文翻译(OverFeat:Integrated Recognition, Localization and Detection using Convolutional Networks)翻译(已逐句校正,方便大家学习)

m0_57787115的博客 561

【openCV-19】overfeat方法

是一个多任务学习框架,结合了图像分类、物体检测和物体定位,能够有效地处理多个计算机视觉任务。它通过共享卷积特征、滑动窗口方法和多尺度检测来提高检测精度,虽然计算量较大,但在物体检测任务中表现出色。随着计算资源的不断提升,OverFeat 的思想在后续的物体检测算法中也有所发展,成为物体检测领域中的重要参考方法。如果你对 OverFeat 有更多的兴趣或问题,随时告诉我!

m0_69378371的博客 995

[目标检测]——Overfeat模型

Overfeat模型设计主要为了解决多个物体的检测问题 一、滑动窗口 目标见发

weixin_42067873的博客 705

深度学习-目标检测(一)-R-CNN

目标检测的暴力方法是从左到右、从上到下滑动窗口,利用分类识别目标。为了在不同观察距离处检测不同的目标类型,我们使用不同大小和宽高比的窗口。如下图所示: 这样就变成每张子图片输出类别以及位置,变成分类问题。但是滑动窗口需要初始设定一个固定大小的窗口,这就遇到了一个问题,有些物体适应的框不一样,所以需要提前设定K个窗口,每个窗口滑动提取M个,总共K x M 个图片,通常会直接将图像变形转换成固定大小的图像,变形图像块被输入 CNN 分类器中,提取特征后,我们使用一些分类器识别类别和该边界框的另一个线性回归器。这

m0_73426548的博客 3029

【目标检测算法】R-CNN(详解)

目标检测算法之R-CNN学习目标1. 目标检测-Overfeat模型1.1 滑动窗口1.2 Overfeat模型总结2. 目标检测-R-CNN模型2.1 完整R-CNN结构2.2 候选区域(Region of Interest)得出2.3 CNN网络提取特征2.4 特征向量训练分类器SVM2.5 非最大抑制(NMS)2.6 修正候选区域3. 检测的评价指标3.1 IoU交并比3.2 平均精确率(mean average precision)map4. R-CNN总结4.1 流程总结4.2 缺点5. 总结6.

全网粉丝30W+,CSDN、稀土掘金人工智能领域签约作者,人工智能、大模型、Python 爬虫,商务合作,请私信沟通。 1万+

kyanos 常见问题排查指南:运行环境、BTF 加载与 watch 内核耗时可视化解读

本指南基于 kyanos 官方 FAQ([docs/cn/faq.md](https://link.gitcode.com/i/4825e634236696f30c776b31bc650955))编写,系统梳理 eBPF 网络分析工具 kyanos 在真实环境中最常见的运行问题与解法:包括 Windows/Mac、WSL、低版本内核、容器/Pod 等运行环境限制,`--pod-name` 与 BT

gitblog_00674的博客 502
上一篇: 【每日一网】Day3:Faster R-CNN流程简单理解
下一篇: 【DataWhale Obj Dec Task02】anchor和model设计
陈子文好帅
博客等级 码龄7年 37粉丝 36原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值