目标检测算法(三)YOLOv5 SPPF层的前身SPP-NET精细分析和讲解并附源码地址

目标检测网络之SPP-net详解 SPP-net详解: 简要概述:SPP-net网络是基于R-CNN结构改进,如详细理解SPP-net请先阅读目标检测开山之作R-CNN,文章链接:https://blog.csdn.net/a24444054d/article/details/118875058?spm=1001.2014.3001.5502。由于R-CNN速度慢的特征,每张图片分割为2000个大小不等的候选区域,每个候选区域经过CNN进行特征提出,是一个非常耗时的过程。针对R-CNN,SPP-net提出两点改进来减少卷积运算,下面一一介 阅读详情
AI摘要

SPP-NET是一种解决深度卷积神经网络对固定输入尺寸依赖的方案,通过空间金字塔池化层,将不同大小的特征图转换为固定长度的特征向量,适用于图像分类和物体检测任务,提高了网络的泛化能力和效率。在ILSVRC2014和PASCALVOC2012比赛中取得优异成绩,显示了其在处理多尺度输入图像时的有效性。

SPP-NET(Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition)是一篇由Kaiming He、Xiangyu Zhang、Shaoqing Ren和Jian Sun等人于2014年提出的论文,旨在提高深度卷积神经网络在图像分类和目标检测任务中的性能

在传统的卷积神经网络中,通常使用全连接层来将卷积和池化层提取的特征映射到固定长度的向量上,以便进行分类或检测。然而,全连接层需要固定大小的输入(例如640*640(YOLOV5)、32*32(LenNet)、224*224(ImageNet)),这使得网络无法处理尺寸不同的输入图像。因此,该论文提出了一种名为空间金字塔池化(Spatial Pyramid Pooling,SPP)的层,用于解决输入图像尺寸不同的问题,并且可以在不同尺寸的输入图像上实现准确的分类和检测。

那么为什么之前的网络需要固定的输入呢?

在传统的卷积神经网络中,通常使用全连接层来将卷积和池化层提取的特征映射到固定长度的向量上,以便进行分类或检测。全连接层中的每个神经元都与前一层的所有神经元相连,因此需要固定大小的输入。如果输入的图像尺寸不同,那么全连接层的输入大小也会不同,这就导致了网络无法处理尺寸不同的输入图像.下面介绍一个简单的全连接层。

全连接层的输入需要是固定的,是因为全连接层中每个神经元都与前一层的所有神经元相连,因此需要固定大小的输入。如果输入的大小不同,那么全连接层的输入大小也会不同,这就会导致神经元之间的连接权重无法共享,从而增加了网络的参数量,使得网络更加复杂,训练难度也会增加。

数学上,假设前一层的输出是一个大小为 m×n 的矩阵,其中 m 是样本数,n 是特征数。如果使用全连接层将其映射到大小为 m×k 的矩阵,其中 k 是输出类别数,那么全连接层的权重矩阵大小为 n×k,需要训练的参数个数是 n×k。如果输入的特征数 n 不同,那么全连接层的权重矩阵大小也会不同,需要训练的参数个数也会不同。这就会导致网络的参数量随输入的大小而变化,使得网络更加复杂和难以训练。

类似于上图假设输入是X1xX2的矩阵, 其中每一条线赋予一个值(权重我们神经网络要训练的值)并赋予一个偏置b值,其中activate为激活函数。

因此为了解决这一问题作者提出本文的网络结构SPP-NET

那么为什么SPP-NET可以解决这一问题呢?

在SPP-Net出现之前,基于区域的深度神经网络(如R-CNN)通常使用选择性搜索(滑窗)算法来生成候选区域,然后对每个候选区域进行单独的卷积和池化操作,最后将池化后的特征向量输入到分类器中进行分类。

使用选择性搜索的方法存在以下劣势:

  1. 计算量大:选择性搜索算法需要对图像中的每个像素进行分割和合并,生成大量的候选区域。对每个候选区域进行卷积和池化操作需要大量的计算资源,使得这种方法的计算速度较慢。

  2. 存在重叠区域:由于选择性搜索算法是基于区域的,不同的区域之间可能存在重叠的部分。这会导致同一物体的不同部分被重复检测,增加了计算量和误检率。

  3. 不可变性较差:选择性搜索算法可能会生成过多或者过少的候选区域,这会导致同一物体在不同图像中生成不同数量的候选区域,使得模型对物体的不变性较差。

那么本文提出的SPP-NET是如何针对这一问题进行解决的呢?

为了解决这些问题,SPP-Net引入了空间金字塔池化(SPP)模块。在SPP-Net中,输入图像首先通过一个卷积神经网络进行特征提取。然后,在SPP层中进行池化操作,将卷积层的输出特征图(Feature Map)分成不同尺度的网格,对于每个网格,都对其内部进行池化操作,池化输出的结果拼接成一个固定长度的特征向量。这个特征向量可以用于后续的分类任务,下面的图是介绍从一张输入图上提取提特征图然后产生固定长度的特征向量然后输入到全连接层中进行分类的流程图。

 SPP-NET的核心就是上面所述的可以产生固定长度特征向量:SPP-Net通过空间金字塔池化将不同大小的特征图转换为固定长度的特征向量,使得网络输出的特征向量具有固定的维度。这种特征向量的固定长度使得网络的输出可以用于后续的分类任务,

空间金字塔(SPP)是如何将不同大小的特征图转换为固定长度的特征向量?

下面我将通过一个简单的例子来说明SPP-Net是如何解决选择性搜索问题的是如何将不同大小的特征图转换为固定长度的特征向量的。假设我们有一个输入图像大小为300✖300像素,由于我们希望网络能够处理不同大小的输入图像,因此我们先对输入图像进行卷积操作,得到一个特征图大小为15✖ 15✖ 1024其中分别表示一个特征图的宽度、高度和每个位置上的特征向量的维数。具体来说,在这个例子中,15✖ 15表示特征图的宽度和高度,1024表示每个位置上的特征向量的维数。然后,我们使用SPP层对特征图进行池化操作,将其分成1✖1、2✖2和3✖3三个尺度的网格,并对每个网格内部进行池化操作。最后,对于每个尺度,将池化输出的结果拼接成一个固定长度的特征向量。假设我们选择的池化操作是最大池化,每个网格内部的池化操作输出的结果是一个特征向量,我们将这些特征向量拼接起来,得到一个长度为1024✖(1+4+9)=15360的特征向量。这个特征向量可以作为分类器的输入,用于分类任务。

下面这个图诠释了上面的例子,方框内的部分即SPP部分,其分成1✖1、2✖2和4✖4三个尺度的网格进行特征向量的提取然后进行拼接固定长度的特征向量并将其输入到全连接层中用于分类任务,需要注意的是SPP通常在一个网络结构的最后一层,输出结果直接输入给检测头进行检测,或者输入给Neck部分进行特征向量的拼接操作以将不同尺度下的特征向量进行拼接提高检测和分类效率。

SPP-NET在哪里取得了成功? 

在ILSVRC2014比赛中,SPP-Net在物体检测任务上取得了第一名,比第二名提高了6.8%的检测准确率。同时,在图像分类任务上,SPP-Net在top-1准确率方面提高了1.2%。

在PASCAL VOC 2012数据集上,SPP-Net在物体检测任务上取得了第一名,比第二名提高了4.6%的检测准确率。

将SPP用于其它网络结果也取得了成功

OverFeat是一种基于卷积神经网络的物体识别系统如果不了解可以看我前面的文章点此处链接,由Sermanet等人在2013年提出。OverFeat网络结构比较简单,由卷积层和全连接层组成,但是需要对输入图像进行多尺度处理。在原始的OverFeat网络中,对于每个不同的尺度,需要单独训练一个网络,这会导致训练和测试时间的大幅增加。

通过将SPP层加入OverFeat网络中,Kaiming He等人成功地将网络改进为一个通用的多尺度物体识别系统,可以处理不同尺寸的输入图像,同时减少了训练和测试时间。在ILSVRC2013比赛中,SPP-Net在物体检测任务上取得了第二名的好成绩,比之前的最优方法提高了7.9%的检测准确率。

具体来说,Kaiming He等人在OverFeat网络的最后一个卷积层之后加入了SPP层,将特征图分成不同的尺度,对每个尺度内部进行池化操作,将池化结果拼接成一个固定长度的特征向量,作为分类器的输入。这个特征向量可以同时用于不同尺度的输入图像。

下面对SPP-NET和SPP进行一个总结

SPP-Net是一种基于卷积神经网络的图像分类和物体检测方法,其最显著的特点是引入了SPP(Spatial Pyramid Pooling)层,可以对任意大小的输入图像进行处理,从而提高了网络的泛化能力和效率。

SPP层是一种池化层,可以对不同尺寸的特征图进行池化操作,得到固定长度的特征向量。SPP层的输入可以是任意大小的特征图,输出是一个固定长度的特征向量,可以用于分类器的输入。

SPP-Net的优点包括:

  1. 对任意大小的输入图像进行处理,具有较好的泛化能力和适用性;
  2. 可以用于多种计算机视觉任务,包括图像分类、物体检测、场景分类等;
  3. 可以减少网络训练和测试时间,提高网络的效率;
  4. 在多个数据集和比赛中取得了不错的表现,证明了其有效性和通用性。

SPP-Net在OverFeat网络中的应用,更是将其推向了高峰。通过将SPP层加入OverFeat网络中,可以构建一个通用的多尺度物体识别系统,能够处理不同尺寸的输入图像,同时减少了训练和测试时间,取得了优秀的准确率和效率表现。

总之,SPP-Net和SPP层的提出,为卷积神经网络的发展带来了新的思路和方法,是计算机视觉领域的一次重要进展。

源码地址

最后附上Github源码地址

YOLOv8目标检测架构解析与工程实践 目标检测是计算机视觉的核心任务,其核心原理是通过深度学习模型实现物体定位与分类。YOLO系列因其出色的实时性能成为工业界首选,最新YOLOv8通过C2f模块优化梯度传播、SPPF改进多尺度特征融合、EfficientHead实现任务解耦,在保持高帧率的同时提升检测精度。这些技术创新特别适合边缘计算场景,如工业质检中的微小缺陷识别和移动端实时检测。C2f模块的密集短路连接设计可提升18%推理速度,而SPPF的串行池化结构减少60%计算量,两者协同使模型在COCO数据集上mAP提升1.5%的同时参数量减少15% 阅读详情

相关推荐

SPP、ASPP、RFB、PPM:感受野增强模块原理与实战选型

感受野决定了卷积网络能“看到”多大范围,但理论感受野与有效感受野存在高斯分布差异,单纯堆叠卷积层收益极低。为了让网络在不显著增加计算量的前提下同时捕获多尺度上下文,SPP、ASPP、RFB、PPM 等结构通过多分支并行、空洞卷积、池化金字塔等方式扩张并融合不同尺度的特征。这类设计在目标检测、语义分割等任务中能显著改善大目标丢边、小目标漏检和边界发虚问题,尤其适用于城市街景、遥感影像、医学影像等尺度跨度大的场景。掌握 SPP、ASPP、RFB、PPM 的原理、参数配置与插入位置,是提升模型精度的关键。

weixin_34176694的博客 290

记录yolov5目标检测算法学习(主要模块学习之sppf模块)23/10/19

本篇介绍yolov5模型中的sppf模块

这个博主不懒,但Ta什么也没写~(私信互关24小时必回) 1万+

深入浅出之SPPNET网络

在普通的CNN机构中,输入图像的尺寸往往是固定的(比如224*224像素),输出则是一个固定维数的向量。SPP Net在普通的CNN结构中加入了ROI池化层(ROI Pooling),使得网络的输入图像可以是任意尺寸的,输出则不变,同样是一个固定维数的向量。

浩瀚之水的专栏 3972

YOLOv5中的SPP/SPPF结构详解

分析如下图所示:分别对1 * 1分块,2 * 2分块和4 * 4子图里分别取每一个框内的max值(即取蓝框框内的最大值),这一步就是作最大池化,这样最后提取出来的特征值(即取出来的最大值)一共有1 * 1 + 2 * 2 + 4 * 4 = 21个。其中,前后各多加一个CBL,中间的kernel size分别为1 * 1,5 * 5,9 * 9和13 * 13。#将原来的x,一次池化后的y1,两次池化后的y2,3次池化的self.m(y2)先进行拼接,然后再CBL。(x,y1这些是啥请看下面的代码)

weixin_43960370的博客 3555

深入浅出之SPP、SPPF、SPPCSPC与ASPP模块(YOLO)

YOLOv4中的SPP模块是一个重要的组成部分,它通过融合不同尺度大小的特征图来增强网络的特征提取能力。SPP的引入使得YOLOv4能够更好地适应不同大小的输入图像,并提取出更加丰富的特征信息,从而提高目标检测的精度和泛化能力。

浩瀚之水的专栏 2万+

YOLO11改进大全:卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

YOLOv11改进大全:卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总

魔改工程师的博客 4563

YOLOv8 人脸检测与关键点估计实战:yolov8-face 仓库的模型架构、训练与 WIDER FACE 评测全解析

本文以官方 YOLOv8 文档首页(仓库内 [docs/index.md](https://link.gitcode.com/i/6974d8ab4fae65c005090eed54b9180d))为骨架,结合 yolov8-face 仓库的实际源码,系统讲解 YOLOv8 的项目定位、快速上手路径、YOLO 系列演进脉络与架构革新,并重点落地到"人脸检测 + 人脸关键点(landmark)"这一

gitblog_00984的博客 206

手把手带你 YOLO 添加注意力机制

YOLOv5/v7 添加注意力机制教程

Coding... 21万+

基于YOLOv8/v10/v11/v12/26的森林野外火灾火焰烟雾检测系统(Spring Boot+Vue+Flask+DeepSeek+千问大模型)完整实现与模型对比分析

基于YOLOv8/v10/v11/v12/26的森林野外火灾火焰烟雾检测系统(Spring Boot+Vue+Flask+DeepSeek+千问大模型)完整实现与模型对比分析

斌擎科技 484

YOLOv8优化:CVPR2026 UCMNet |FrequencyCM赋能YOLO C2f:从频域增强视角解决感受野与细节瓶颈

屏下摄像头通过将成像传感器置于显示屏下方实现全面屏设计。然而,光线在穿过不同显示层时会发生衍射和散射,导致空间变化且复杂的图像退化,从而显著降低高频细节。当前基于点扩散函数的物理建模技术和频域分离网络在重建低频结构和保持整体色彩一致性方面表现有效,但在处理复杂、空间变化的退化时,恢复精细细节仍面临挑战。为解决这一问题,我们提出了一种轻量级的不确定性感知上下文记忆网络,用于屏下摄像头图像恢复。与先前采用统一恢复的方法不同,UCMNet 执行不确定性感知的自适应处理,以在退化程度不同的区域恢复高频细节。

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 205

RT-DETR升级:CVPR2026 UCMNet |FrequencyCM赋能RepC3:从频域增强视角解决感受野与细节瓶颈

轻量与速度优化:FrequencyCM引入的计算开销极小,RepC3推理时可重参数化为单分支,确保RT-DETR保持实时性,适合边缘部署。

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 126

杂谈1——深度学习简易知识积累

浅浅记录一些知识,一方面做一些分享与自己的思考,另一方面作为笔记记录下来。

qq_45848817的博客 645

Docker 安装 CentOS7

本文主要介绍了docker 下安装centos7。访问 CentOS 镜像库地址:https://hub.docker.com/_/centos?tab=tags&page=1。可以通过 Sort by 查看其他版本的 CentOS 。默认是最新版本 centos:latest 。 使用以下命令来查看是否已安装了 centos7: 启动centos容器,并把docker上centos的22端口映射到本机60001端口(端口号可以自己指定) 3、进入到Centos容器 4.安装ssh服务和网络必须软件

折腾java的博客 1万+

【目标检测】SPP-Net论文理解(超详细版本)

【目标检测】SPP-Net论文理解(超详细版本)

wzk4869的博客 9090

告别代码丢失!用Git+Gitee管理你的Keil5单片机项目(保姆级图文教程)

本文详细介绍了如何利用Git和Gitee高效管理Keil5单片机项目,解决嵌入式开发中的代码丢失问题。通过精准配置.gitignore文件、设计适合团队的协作流程以及搭建安全备份体系,开发者可以轻松实现版本控制,提升工作效率。特别针对Keil工程的特殊文件类型,提供了实用的过滤规则和操作技巧。

weixin_33686714的博客 473

JQ8900语音播报模块在RT-Thread系统下的驱动移植与测试详解

本文详细讲解了如何在RT-Thread嵌入式操作系统中,为JQ8900语音播报模块进行驱动移植与功能测试。内容涵盖从获取驱动代码、配置Kconfig工程、编译烧录到核心代码解析的完整流程,并提供了基于串口通信的上电测试与问题排查方法,帮助开发者快速掌握在RT-Thread系统下集成外部模块的核心技能。

weixin_35677363的博客 595

YOLOv5S网络框架设计-CSC&C3&SPPF模块

CBS: C代表Conv,B代表,S代表SiLu激活函数CBS模块封装了卷积、批归一化和激活函数的组合操作self.conv: 用nn.Conv2d创建了一个二维卷积层self.bn:使用创建了一个二维批归一化层self.act:根据act参数确定是否应用激活函数,默认为nn.SiLU(),如果act既不是True也不是nn.Module类型,则应用恒等函数。运算顺序由前向传播方法中,先对输入x进行卷积操作,然后应用批归一化和激活函数,并返回结果。在融合正向传播方法。

weixin_57379543的博客 7479

保姆级教程:用YOLOv11和CRNN从零搭建一个车牌识别系统(附完整代码)

本文提供了一份详细的YOLOv11和CRNN实战指南,教你从零搭建高精度车牌识别系统。内容包括环境配置、数据集处理、模型训练与优化,以及系统集成与性能优化技巧,附完整代码实现。特别介绍了YOLOv11在车牌检测中的创新应用和CRNN在车牌识别中的关键技术。

weixin_28358083的博客 322

YOLOv5中的SPPF模块的详细解释(合适新人)

YOLOv5中的SPPF模块的详细解释(合适新人)

小二、来壶酒 8502

鸿蒙进阶——HDI及IDL硬件接口IPC框架小结

HDI(Hardware Device Interface):OpenHarmony硬件设备接口,定义系统中跨进程通信的接口,实现服务间的跨进程通信

最美不过,心中有梦,身旁有你! 3914

基于微博API与Scrapy-Redis的城市情绪地图数据爬取实战

本文详细介绍了如何利用Python爬虫技术从微博平台获取用户发布内容,用于构建城市情绪地图的毕业设计项目。文章涵盖了微博API的调用、Scrapy-Redis分布式爬虫架构、数据清洗与存储、反爬虫策略应对以及情绪分析预处理等关键技术,提供了完整的代码实现和实战经验。python复制下载# items.py"""清洗文本数据"""if text:# 移除HTML标签# 移除多余空白字符"""解析微博日期格式"""

2201_76125261的博客 446

YOLOv5-小知识记录(三)

Yolo系列算法-理论部分-YOLOv4-CSDN博客Yolo系列算法-理论部分-YOLOv5-CSDN博客上一篇:YOLOv5-小知识记录(二)-CSDN博客。

Skywalker_air的博客 1926

【MATLAB例程】三维下的IMM(交互式多模型),模型使用CV(匀速)和CA(匀加速),滤波使用EKF。附完整代码

CV模型:状态包含位置、速度和零加速度(9维状态),状态转移矩阵忽略加速度项CA模型:完整包含位置、速度和加速度(9维状态),状态转移矩阵包含二次项过程噪声矩阵Q分别根据两种模型的运动特性推导。

985工科博士毕业,专攻定位、导航和滤波等算法研究。从业10年,主要使用MATLAB 562

SPP和SPPF(in YOLOv5)

SPP是空间金字塔池化,作用是一个实现一个自适应尺寸的输出。(传统的池化层如最大池化、平均池化的输出大小是和输入大小挂钩的,但是我们最后做全连接层实现分类的时候需要指定全连接的输入,所以我们需要一种方法让神经网络在某层得到一个固定维度的输出,而且这种方法最好不是resize(resize会失真),由此SPP应运而生,其最早是何凯明提出,应用于RCNN模型)当今的SPP在faster-rcnn上已经发展为今天的Multi-Scale-ROI-Align,而在Yolo上发展为SPPF。

weixin_53333595的博客 9186

多出来的那一截:Java 堆外内存 OOM 的来源分账、分流排查与治理解析

Java进程的RES常比-Xmx多出一截,堆却平稳。本文把堆外内存拆成直接缓冲区、Unsafe、JNI本地库、线程栈、元空间与文件映射六类,用JDK 8与17的六组实验对照RSS、NMT、BufferPool三本账:clear()不释放内存;MaxDirectMemorySize默认约等于堆上限且只管直接缓冲区;禁用显式GC会让申请线程退避半秒后失败;未关闭的Deflater零GC下让RSS涨1GB;Netty池内泄漏GC救不回。最后给出定性、对账、定位的排查路线与预算、编码、监控三层治理。

曾经“等你生日那天”都遥远得像未来,如今却可欢愉的挥手说“下个十年见” 14万+

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

YOLO系列笔记(十七)—— YOLOv5各层详细介绍(附python代码):Focus,Conv,C3,SPPF,特征金字塔及多尺度训练

在目标检测任务中,模型的结构和各个模块的设计对检测性能有着至关重要的影响。本文将详细介绍YOLOv5中的一些关键模块和技术,包括Focus层、卷积层(Conv)、C3层、SPPF层、特征金字塔(Feature Pyramid)以及多尺度训练(Multi-scale Training)。这些模块和技术共同构成了YOLOv5强大的目标检测能力。!Focus层的核心思想是将输入图像的空间信息(即宽度和高度)重新排列成更多的通道信息。

XISHI_TIANLAN的博客 4091

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

上一篇: 目标检测算法(二)OverFeat精细分析和讲解并附源码地址
下一篇: 超详细教程YoloV8官方推荐免费数据集网站Roboflow一键导出Voc、COCO、Yolo、Csv等格式
Snu77
Snu77 优质创作者: 人工智能技术领域 优质创作者: 人工智能技术领域
博客等级 码龄5年 11万+粉丝 934原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值