Caffe入门:对于抽象概念的图解分析

Caffe总体架构 前面已经将Caffe搭建好,现在来介绍一下Caffe的具体知识。本人也在学习中,如有不精,请指点。 阅读详情

     我看过很多关于Caffe的博客,虽然收益很多,但是很遗憾没有发现一片能大彻大悟融会贯通的那种,打通任督二脉的感觉;

     综合很多说法,总结归纳,写出这篇小文章,尽量做到句句为精,言简意赅:

   Caffe的全称:Convolutional Architecture for Fast Feature Embedding.

  

l Blobs:Caffe 使用 blobs 结构来存储、交换和处理网络中正向和反向迭代时的数据和导数信息,有统一的接口类型

l Layers:Layer 是 Caffe 模型和计算的基本单元

l Nets:Net 是一系列 layers 和其连接的集合

l Forward and Backward:Caffe的两条计算生命线,Forward 产生loss和输出结果;Backward产生反向梯度

l Loss:计算真实值和预测值误差,指导下一步工作,由 loss 定义待学习的任务;

l Solver:solver 协调模型的优化;

l Layer Catalogue:学习Caffe 中构建先进模型所需的各种层的功能;

l Interface:Caffe 的命令行、Python、和 MATLAB 版接口;

  

   有了上述的基础;我们就可以深入了解这些概念之间的抽象的关系了:先给一个总体印象:

   Blob包含在Layer里包含在Net里,Solver是Net的求解。(修改这部分人主要会是研究DL求解方向的) 

一、Blob概念图:


  我们可以看到,图片的核心是Blob,从左往右看,Caffe 基于 blobs 存储和交换数据。为了便于优化,blobs 提供统一的内存接口来存储某种类型的数据,例如批量图像数据、模型参数以及用来进行优化的导数。

  【思考:如何使得提取速度最快呢???】

   Blob 使用了一个 SyncedMem 类来同步 CPU 和 GPU 上的数值,以隐藏同步的细节和最小化传送数据(绿色部分)

   对于批量图像数据来说,blob 常规的维数为图像数量 N *通道数 K *图像高度 H *图像宽度 W。Blob 按行为主(row-major)进行存储,所以一个 4 维 blob 中,坐标为(n, k, h, w)的值的物理位置为:                           ((n * K + k) * H + h) * W + w   

  这也使得最后面/最右边的维度更新最快。对于 blob 中的数据,我们关心的是 values(值)和 gradients(梯度),所以一个 blob单元存储了两块数据——data 和 diff。前者是我们在网络中传送的普通数据,后者是通过网

络计算得到的梯度。(中间白色部分)

   而且,由于data既可存储在 CPU 上,也可存储在 GPU 上,因而有两种数据访问方式:静态方式,不改变数值;动态方式,改变数值。(蓝色部分)


二、Blob服务于层——Layer概念图:


   一个 layer 通过 bottom(底部)连接层接收数据,通过 top(顶部)连接层输出数据。每一个 layer 都定义了 3 种重要的运算:

setup(初始化设置),forward(前向传播),backward(反向传播)。

 Setup: 在模型初始化时重置 layers 及其相互之间的连接 ;

 Forward: 从 bottom 层中接收数据,进行计算后将输出送入到 top 层中;

 Backward: 给定相对于 top 层输出的梯度,计算其相对于输入的梯度,并传递到 bottom层。一个有参数的 layer 需要计算相对于各个参数的梯度值并存储在内部。


   有了上面可以开始定义Net了:Caffe定义了一个函数(各层前向输出)和对应梯度(各层后向输出),函数会结合各个层的输出,来计算损失函数的梯度,从而指导学习。

   eg:一个典型的 Net 开始于 data layer——从磁盘中加载数据,终止于 loss layer——计算如分类和重构这些任务的目标函数。


三、Net概念图:


这里列出三个层:

   图中的label就是ground truth真实值;ip就是预测值,输入到loss里面就可以实现两者的差,进而计算误差值。

前传(forward)过程为给定的待推断的输入计算输出。

在前传过程中,Caffe 组合每一层的计算以得到整个模型的计算“函数”。本过程自底向上进行。数据 x 通过一个内积层得到 g(x ),然后通过 softmax 层得到 h(g(x )),通过 softmax loss 得到 fw(x )。

反传(backward)过程根据损失来计算梯度从而进行学习。在反传过程中,Caffe 通过自动求导并反向组合每一层的梯度来计算整个网络的梯度。这就是反传过程的本质。本过程自顶向下进行。

对应的具体函数:

Net::Forward()和 Net::Backward()方法实现网络的前传和后传,

Layer::Forward()和Layer::Backward()计算每一层的前传后传。

每一层都有 forward_{cpu, gpu}()和 backward_{cpu, gpu}方法来适应不同的计算模式。(CPU 或者 GPU 模式。)

我们可以结合上面的概念图,看看下面的源代码

name: "LogReg"

layer {

name: "mnist"

type: "Data"

top: "data"

top: "label"

data_param {

source: "input_leveldb"

batch_size: 64

}

}

layer {

name: "ip"

type: "InnerProduct"

bottom: "data"

top: "ip"

inner_product_param {

num_output: 2

}

}

layer {

name: "loss"

type: "SoftmaxWithLoss"

bottom: "ip"

bottom: "label"

top: "loss"

}
 四、中段总结:

   Caffe是端到端的机器学习引擎:Caffe 基于自己的模型架构,通过逐层定义(layer-by-layer)的方式定义一个网络(Nets)。网络从数据输入层到损失层自下而上地定义整个模型。Net的开始,就是模型(model)的开始;

  首先caffe中的layers组合成为net,通过两条线来在各个layer之间运作:forward和backward,前传计算获得的是输出和损失,后传得到的是模型的梯度,与更新的权值结合,进入loss层来减少误差。

     Caffe 模型的学习被分为两个部分:由 Net 计算出 loss 和 gradient,由 Solver 进行优化、更新参数。

五、什么是———Solver:

     Solver 用于优化一个模型,首先通过调用前传来获得输出和损失,然后调用反传产生模型的梯度,将梯度与权值更新后相结合来最小化损失。Solver、网络和层之间的分工使得 Caffe可以模块化并且开源。

  

Solver概念图:


从图上看出:流程主线在黑白框,内容分支在彩色框:

1. 用于优化过程的记录、创建训练网络(用于学习)和测试网络(用于评估);

2. 通过 forward 和 backward 过程来迭代地优化和更新参数;【思考:每一次迭代发生什么?】

3. 周期性地用测试网络评估模型性能;

4. 在优化过程中记录模型和 solver 状态的快照(snapshot);

 

每一次迭代过称中:

1. 调用 Net 的前向过程计算出输出和 loss;

2. 调用 Net 的后向过程计算出梯度(loss 对每层的权重 w 和偏置 b 求导);

3. 根据下面所讲的 Solver 方法,利用梯度更新参数;

4. 根据学习率(learning rate),历史数据和求解方法更新 solver 的状态,使权重从初始化状态逐步更新到最终的学习到的状态。solvers 的运行模式有 CPU/GPU 两种模式。

仅仅简单介绍一种方法:随即梯度下降法(SGD):

   

由上图分析开始我们会发现其实并没有这么难:

    随机梯度下降是通过每个样本来迭代更新一次,如果样本量很大的情况(例如几十万),那么可能只用其中几万条或者几千条的样本,就已经将W权重迭代到最优解了,对比上面的批量梯度下降,迭代一次需要用到十几万训练样本,一次迭代不可能最优,如果迭代10次的话就需要遍历训练样本10次。但是,SGD伴随的一个问题是噪音较BGD要多,使得SGD并不是每次迭代都向着整体最优化方向。

六、真实的训练会怎么设置这些参数呢?迷茫设置?——经验设置!

【设定学习率 α 和动量 μ 的经验法则】

     一个比较好的建议是,将学习速率( learning rate α)初始化为α ≈ 0.01 = 102,然后在训练(training)中当 loss 达到稳定时,将 α 除以一个常数(例如 10),将这个过程重复多次。对于动量(momentum μ)一般设置为μ = 0.9,μ 使 weight 的更新更为平缓,使学习过程更为稳定、快速。

     我们可以参照Caffe官方教程上面的代码来设置咯:


七、Caffe是怎么跑起来的??

      这一个步骤相当重要,如果说前面是概念的理解,那么这一层就是内容上的进阶。。

      因为这才是让Caffe跑起来的原理:

      首先介绍一下Interface:也就是接口:Caffe 有命令行、Python 和 MATLAB 三种接口,来实现日常使用、研究代码交互以及实现快速原型。

      Caffe 以 C++库为核心,其在开发中使用模块化接口而不是每次都调用其定义的编译。

      cmdcaffe,pycaffe 与 matcaffe 接口都可供用户使用。

首先你要编译你的Caffe:

                             

 Caffe运作流程图:

      


           

        到这里:Caffe的基本内容就已经介绍完了;接下来我会继续深入研究Caffe源代码,和大家交流更多的心得体会;如有遗漏请多多指出,共同进步!



深入理解VGG16模型与代码实现 VGG16基本架构与了解 阅读详情

相关推荐

深度学习 - VGG16介绍及预训练神经网络的使用

这里写自定义目录标题什么是VGG开头神经网络调用预训练模型(代码)加载预训练网络构建完整的模型模型的初步训练(训练自定义层)对模型进行微调(训练部分VGG16层及自定义层) 官方所有的预训练网络说明:链接???? 在Keras中提供了以下图像分类模型的代码和预训练的权重: 均可以使用keras.applications 模块进行导入:(可以从下边复制) from keras.applications.xception import Xception from keras.applications.vgg1

壮壮不太胖的学习笔记 1万+

Caffe简介

什么是caffe? caffe的特点 caffe架构 caffe的硬件环境 caffe的依赖库 caffe的接口 1、什么是caffe?         caffe是一个清晰而高效的深度学习框架,是纯粹的C++/CUDA架构,支持命令行、python和matlab接口;可以在CPU和GPU之间无缝切换,其作者是贾扬清,目前caffe2已经发布。        caffe的全称是Con...

鄠邑原野的博客 2万+

VGG-16网络结构详解

VGG,又叫VGG-16,顾名思义就是有16层,包括13个卷积层和3个全连接层,是由Simonyan 和Zisserman在文献**《Very Deep Convolutional Networks for Large Scale Image Recognition》**中提出卷积神经网络模型,其名称来源于作者所在的牛津大学视觉几何组(Visual Geometry Group)的缩写。 该模型参加2014年的 ImageNet图像分类与定位挑战赛,取得了优异成绩:在分类任务上排名第二,在定位任务上排名第一

qq_45998041的博客 3万+

Caffe的卷积原理

Caffe的卷积原理

xiaoyezi_1834的博客 1万+

Caffe学习笔记(一):Caffe架构及其模型解析

Caffe学习(一):Caffe架构及其模型解析         写在前面:关于caffe平台如何快速搭建以及如何在caffe上进行训练与预测,请参见前面的文章《caffe平台快速搭建:caffe+window7+vs2013》、《Windows平台上Caffe的训练与学习方法(以数据库CIFAR-10为例)》。         本文主要介绍Caffe的总体框架,并对caffe

成长Bar的博客专栏 1万+

caffe网络模型各层详解(中文版),一份详细说明caffe prototxt的文档

caffe网络模型各层详解(中文版),一份详细说明caffe prototxt的文档

caffe网络模型详解

一.数据层及参数 数据层是每个模型的最底层,是模型是入口,不仅提供数据的输入,也提提供数据从Blobs转化成别的格式进行保存输出。数据的预处理像去均值,放大缩小,裁剪和镜像等操作都是在该层进行。 一般的数据的格式为LeveIDB和LMDB两种。 layer {   name: "data"   type: "Data"   top: "data"   top: "label"   ...

xiaofeilongyu的博客 1466

caffe训练图像分类的资源

分好类的类的资源文件,可以用来做caffe训练样本,有正样本和测试样本。种类是猫,狗,卡通人物,花四类。

caffe源码解析—caffe layer的工作原理理解

caffe是现在运用广泛的深度学习框架,最近也在阅读caffe源码,将layer的原理个人理解跟大家分享一下。 看完需要点耐心,分析的自认为比较清楚了,代码不多。

ranchao11111的博客 3387

别再被坑了!手把手教你从官网下载免费正版Notepad++(附最新网盘链接)

本文详细指导如何从Notepad++官网安全下载正版软件,避免山寨版本带来的安全风险。通过识别官网特征、推荐官方下载渠道、揭露山寨网站骗局及验证正版功能,帮助用户高效获取纯净的Notepad++代码编辑器,并分享实用插件和配置优化技巧。

weixin_42527654的博客 572

从零构建:基于Docker与FRR的OSPF虚拟网络实验室

本文详细介绍了如何利用Docker与FRR构建OSPF虚拟网络实验室,从环境设计到高级网络拓扑配置,再到实验验证与排错。通过容器化技术实现高效资源利用和快速部署,特别适合网络协议教学、企业网络架构验证等场景。

plum99的博客 223

一张图读懂caffe架构

解释两个部分: 一:预处理图像的leveldb构建  输入:一批图像和label (2和3)  输出:leveldb (4)  指令里包含如下信息: conver_imageset (构建leveldb的可运行程序)train/ (此目录放处理的jpg或者其他格式的图像)label.txt (图像文件名及其label信息)输出的leveldb文件夹的名字CPU/GPU (指定是在

ture_dream的博客 6338

【Flink cdc】Data row is smaller than a column index, internal schema representation is probably xxx

翻译一下:当scan.startup.mode=EARLIEST_OFFSET时,如果在最早的offset之后表结构有过变化就无法支持。原因应该是在binlog 的earliest_offset之后,表结构被修改过。我的解决方案:source配置中使用。mysql source配置使用。,以时间戳为消费依据。

integrity 2086

仓颉语言 Media Kit 媒体服务错误码全解析:5400101~5411011 错误原因与处理方案

本文基于开源仓颉语料库中 [Media 错误码参考文档](https://link.gitcode.com/i/4056952b08813ac71edeeceeb035cf94),系统梳理仓颉开发场景下 `ohos.multimedia.media`(媒体服务)模块特有的 18 个业务错误码,涵盖内存分配失败、状态机操作不允许、IO 异常、操作超时、播放服务死亡、音频焦点冲突以及网络链路、SSL

gitblog_00001的博客 615

CANoe实战:手把手教你用J1939.dbc发送超8字节长帧报文(附完整CAPL代码)

本文详细解析了使用CANoe和J1939.dbc实现超8字节长帧报文的分包发送技术,提供完整的CAPL代码实现与优化策略。内容涵盖J1939.dbc配置、分包发送模块设计、接收端处理逻辑,并与ISO 15765-2协议进行深度对比,帮助开发者构建高效可靠的商用车通信解决方案。

weixin_29169899的博客 396

高云FPGA系列教程(2):FPGA点灯工程创建、程序下载和固化

相比于国外FPGA厂商EDA开发环境,几个G到几十个G的大小,高云云源软件安装包也很小巧,界面也很简洁,综合速度非常快,是我没想到的,好像在使用单片机一样,点一下就编译完成了,以本文简单的LED示例工程为例,比特流文件几乎在几秒钟内生成;无论是下载比特流文件到RAM还是Flash中,速度都很快,而且只有一种fs程序文件格式,不用再进行bit/mcs转换;云源软件自带的编辑器也很好用,和Notepad++界面差不多,而且快捷键很方便,具有基本的自动补全功能。

whik1194的博客 5463

caffe框架 结构及其运行流程时序图

目录1.caffe 结构2. 运行流程 1.caffe 结构 2. 运行流程 mainRegisterSolver123trainreadset_modemainRegisterSolver

u014292358的博客 1428

超越防抖:索尼CXD5254GG芯片如何重新定义电子影像稳定

索尼CXD5254GG芯片通过融合6轴IMU与图像传感器数据,重新定义了电子影像稳定技术。其核心突破在于实时地平线校正、抑制果冻效应和镜头畸变校正,并搭载智能画质控制器提升画面细节。该芯片适用于广播制作、体育娱乐、安防监控和机器人视觉导航等专业领域,提供开箱即用的优化参数配置,大幅缩短开发周期。CXD5254GG不仅实现稳定成像,更通过姿态感知与智能优化,为专业影像应用提供了完整的稳定解决方案。

致力于lidar应用开发 118

VGG16

VGG16的出现标志着深度学习领域从简单地追求深度向更注重网络结构和特征提取能力的转变。其均匀且简洁的设计原则对后续深度学习模型的发展产生了深远的影响。通过深刻理解VGG16,我们不仅能够掌握深度学习的基本原理,还能够在实际应用中更好地设计和选择合适的模型结构。VGG16的影响仍然在持续,对深度学习领域产生了积极而深远的影响。

深度学习客 1639

OpenClaw赚钱实录:从“养龙虾“到可持续变现的实践指南——OpenClaw的赚钱底层逻辑与“记忆”革命

AI 的商业价值不在于替代思考,而在于沉淀关系。当 Agent 记住你的偏好、你的历史、你的目标,它就不再是冷冰冰的软件,而是成为数字化的关系资产。这种资产的稀缺性不在于技术复杂度,而在于时间无法被压缩——你无法用更好的算法替代 3 个月的协作记忆。在这场“记忆革命”中,护城河不是模型参数,而是用户与 AI 共同书写的历史。OpenClaw 用一套优雅的文件系统架构,将这种历史转化为可积累、可复用、可变现的数字资产。从“计算即服务”(CaaS)到“记忆即服务”(MaaS)。

冯·诺依曼 1347

MATLAB与ROS联合仿真——订阅ROS消息类功能模块介绍

MATLAB与ROS联合仿真——订阅ROS消息类功能模块介绍 (1)输入参数:无 (2)输出参数:Xr和Yr是小车当前在世界坐标系下的坐标 (3)主要作用:作为ROS与MATLAB的通讯接口,从ROS中订阅小车当前的位置信息,并输出 (4)内部结构: (5)具体实现过程:通过ROS工具箱中的Subscribe模块从ROS中订阅话题/gazebo/link_statesa 通过Bus Selector模块选择ROS总线中的Pose

慕羽★的博客 2699

5天搞定深度学习框架-Caffe入门系列

本课程是在windows环境下的caffe课程,主要使用的是python的接口。 首先带着大家完成一个MNIST手写数字识别的项目,让大家了解caffe训练模型的大致流程。然后会讲到caffe中的一些重要文件和配置,使用python绘图。后的部分会使用GoogleNet实现图像识别。

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

上一篇: 深度学习、图像分类入门,从VGG16卷积神经网络开始
下一篇: Ubuntu: Linux系统下gcc(g++)任意版本切换
Errors_In_Life
博客等级 码龄10年 346粉丝 22原创
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值