Coursera-AndrewNg(吴恩达)机器学习笔记——第二周

一.多变量线性回归问题(linear regression with multiple variables)

  1. 搭建环境Octave
    Windows的安装包可由此链接获取:https://ftp.gnu.org/gnu/octave/windows/,可以选择一个比较新的版本进行安装,本人win10操作系统,安装版本4.2.1,没有任何问题。注意不要安装4.0.0这个版本。当然安装MATLAB也是可以的,我两个软件都安装了,在本课程中只使用Octave就已经足够用了!
  2. 符号标记:n(样本的特征数/属性数目),表示第i个训练样本的第j个特征。样本可能有多个属性值,在房价预测案例中,可能有多种因素如房屋大小、楼层、装修程度等共同决定最终房价。
  3. 预测函数(Hypothesis):hθ(x)=θ0+θ1x1+θ2x2+……+θnxn,记x0=1()

    所以预测函数使用矩阵相乘的形式可写为:hθ(x)=ΘTX.

  4.  代价函数(Cost Function)形式:其中参数θn的数目和特征数n相同。

  5. 梯度下降算法:(注意同时更新所有θ值)
  6. Feature Scaling(特征缩放):确保各个特征的取值近似,否则收敛速度会很慢。建议:将所有特征取值近似缩放到[-1,1]之间,当然也不必特别精准,只是为了梯度下降运算速度更快。
    方法(Mean Normalization):xi=(xi-μi)/si,μi是xi的平均值,si是xi的标准差或者是xi的范围(xmax-xmin)。x0不需要进行特征缩放,因为我们在前面将x0记为1。
  7. 学习速率α:α过大,梯度下降难以收敛,代价函数J(θ)甚至会变大。α过小,梯度下降收敛速度慢。如何判断已经收敛:两次迭代代价函数J(θ)差值是否小于某一个阈值(不好找)。
  8. 正规方程(Normal Equation):求解θ的解析方法,该方法不需要做特征缩放。
    公式如下:θ=(XTX)-1XTY                   Octave代码:pinv(X`*X)*X`*Y,或者使用inv函数
    正规方程和梯度下降方法求解θ特点:不需要选择学习速率α,不需要进行迭代求解。当特征数目n>106很大时,梯度下降可以很好的求解,但是正规方程的求解速度将会很慢。
    当存在冗余的特征,十分的接近的特征或者特征过多(n>m)时,XTX会不可逆,这时使用Octave的pinv函数依旧可以求出结果。

二.Octave的简单使用

  • 变量的赋值

%后内容表示注释  ~=为不等号  &&逻辑与  ||逻辑或  xor( , )逻辑异或  format long/short控制输出格式
PSI('>>'); %简化命令行显示
a=3 %变量赋值
a=3; %末尾;可以抑制打印输出
disp(a); %打印变量值,或者直接输出字母a
disp(sprintf('2 decimals: %0.2f',a)) %类似C语言的形式输出两位小数
A=[1 2;3 4;5 6] %定义一个矩阵
V=1:0.1:2 %定义一个1行11列矩阵
C=2*ones(2,3) %定义一个2行3列的矩阵,所有元素都是2
W=zeros(1,3) %定义一个1行3列的矩阵,所有元素都是0
rand(3,3) %随机赋值3*3矩阵
randn(3,3) %随机赋值3*3矩阵,符合高斯分布,平均值为0,方差为1
w=-6+sqrt(9)*(randn(1,1000)); 变量w赋值,w是一个均值为-6,方差为3的矩阵
hist(w) %画直方图,hist为统计函数,默认统计10个区间中,出现w的个数,纵轴值为个数
eye(4)%设置4阶单位矩阵
  • 数据的处理
pwd命令显示当前路径  cd命令转换路径  ls命令显示文件列表  who命令显示工作空间中的变量  whos命令显示变量的详细信息  
clear features X删除变量X  导入数据命令load featuresX.dat或load('featuresX.dat')  clear命令清空工作空间中所有变量
size(A) %求矩阵的维数,返回的值也是一个矩阵,也可用于求向量的维数

length(v) %求向量的维数,一般不用于矩阵
v=priceY(1:10) %将priceY中前10个数据存入v中
save hello.mat v; %将v的数据存入硬盘中,.mat格式文件按照二进制形式存取,占用空间小
save hello.txt v -ascii %将v中的数据按照字符形式进行存储
A(3,2) %矩阵A3行2列的元素值
A(2,:) %矩阵A2行上所有元素的值
A([1 3],:) %矩阵A中1,3行所有元素的值
A(:,2)=[10;11;12] %对矩阵A第二列所有元素重新赋值
A=[A,[1;2;3]] %矩阵A新增一列
A(:) %将矩阵A中元素按列拼接,输出一个向量
C=[A B] %将矩阵A,B左右拼接
C=[A;B] %将矩阵A,B上下拼接
A.*B %矩阵A,B同阶,对应元素相乘
A.^2 %矩阵A中元素做平方
1./A %矩阵A中元素取到数
log(v) %求自然对数,e为底  exp(v) %求指数  abs(v) %求绝对值  A`为A的转置  pinv(A)为A的逆
val=max(a) %返回向量中的最大值
[val ind]=max(a) %返回向量中的最大值和最大值的索引
a<3 %该操作对向量中的元素逐个进行比较  find(a<3) %显示满足条件的下标
A=magic(3)%生成一个3*3维的magic matrix,每行每列值的和相等
[r,c]=find(A>7) %返回满足条件的行列向量索引
sum(a) %将向量所有元素值相加  prod(a) %求向量所有元素值的乘积  floor(a) %将所有元素指向下取整  ceil(a) %将所有元素值向上取整
max(A,[],1) %求每列最大值  max(A,[],2) %求每行最大值  max(max(A)) %求矩阵A中的最大值,也可写为max(A(:))
sum(A,1) %求矩阵A每列的和  sum(A,2) %求矩阵A每行的和
sum(sum(A.*eye(9))) %计算对角线值的和  sum(sum(A.*flipud(eye(9)))) %计算反向对角线的和
  •  绘制数据

  

      

 

   

  • 语句和函数
v=zeros(10,1)
for i=1:10,    %for语句
    v(i)=2^i;
end;

i=1;
while i<=5,  %while语句
  v(i)=100;
  i=i+1;
end;

i=1;
while true,  %break语句
  v(i)=999;
  i=i+1;
  if i==6,
    break;
  end;
end;

v(1)=2;
if v(1)==1,  %if-elseif-if语句
  disp('the value is one');
elseif v(1)==2,
  disp('the value is two');
else
  disp('the value is not one or two')
end;
  1. 函数:创建文件,以函数名来命名,以.m后缀结尾。
  2. 创建Octave搜索路径:% Octave search path (advanced/optimal)
                                        addpath('c:\Users\ang\Desktop')
    函数文件在该路径下,自动检索。
  3. Octave语法中函数可以返回多个值。
  4. 向量化:建议计算时进行向量计算,不使用循环。

转载于:https://www.cnblogs.com/LoganGo/p/8523545.html

Andrew-NG-Meachine-Learning.zip 通过Github及官方等渠道获取的练习数据中发现普遍存在第七次练习ex_7主成分分析的内容缺失不全数据无法正常解压的问题,特此花费不菲积分换购CSDN资源整理压缩后重新上传,以飨诸公! 立即下载

相关推荐

Coursera《Machine Learning》(机器学习课程,主讲教师为Andrew Ng)配套作业

Coursera《Machine Learning》(机器学习课程,主讲教师为Andrew Ng)的课程是机器学习的入门经典课程之一,其特点是深入浅出,并且由一些难度适宜的作业(Matlab编程作业)以帮助学员理解理论。但是很多朋友不清楚如何获取到这些作业,因此整理并上传资料

Stanford-Andrew Ng《Machine Learning》week1

前言:机器学习是目前最激动人心的技术之一,你也许没有意识到自己每天都会多次用到学习算法,每当你使用Google或百度等搜索引擎时,它总是能给出令人满意的结果,原因就是Google或百度等公司使用的学习算法,学会了如何给网页排序。每次你使用Facebook或苹果的相片分类功能,它能识别出你朋友的照片,这也是机器学习。每当你阅读邮件时,你的垃圾邮件过滤器会帮助你过滤掉大量的垃圾邮件,这也是学习算法。 ......

不期而遇 704

coursera机器学习每周测验(完整版,包括每节课中间暂停的测验)

注意:不是编程练习!不是编程练习!不是编程练习!重要的事情说三遍。本资源是coursera机器学习每周每课时(2--11周)的测验题目,包括每节课都有暂停之后的小练习,都是自己截图下来的,是纯英文版的,部分图片里面我个人用FastStone添加了个人理解解题思路,如有问题可以一起交流。coursera机器学习的题目还是很经典的,切中要害,对于复习巩固学过的知识具有莫大的帮助。

吴恩达机器学习第二周测试及编程练习

测验一:Linear Regression with Multiple Variables 第一题 答案 0.52 分析 使用特征缩放,具体将特征值处以(最大值-最小值)或者范围即可,故5184/(100)^2 = 0.52(保留两位小数) 第二题 答案 C 分析:由于代价函数迅速下降并趋于平稳,说明å选的比较好。 第三题 答案 C 分析:根据题目,n为3(不包括x0),故x应为14 * 4...

SpicyCoder的博客 6621

DeepLearing.ai吴恩达深度学习第一课第二周编程作业资源及答案

包含深度学习课程第一课第二周作业所需数据集、模块和相关代码。相关课程的作业的文档说明请搜索相关博客即可。 课程使用notebook做的,需要先安装juyter notebook。 在编程一开始需要导入python第三方库,包括numpy h5py matplotlib PIL scipy 统一使用pip下载安装,安装方法在命令窗口pip install 库名称 。 资源文件: assignment2.ipynb 是notebook文件可在网页book中打开,做好的作业和代码及运行结果都在里面; images 文件夹中是一些共测试的图片 datasets 文件夹中是本周课程用到的数据集,包括训练集和测试集; assignment2 文件夹是其他人做的作业; lr_utils.py 是课程提供的导入数据的模块,具体代码开始部分使用。

Andrew Ng的Machine Learning课程自己做的笔记

自己学习Andrew Ng的Machine Learning课程时所做的笔记,包括其中提到的BP算法、SVM算法、K-means算法等的详细推导,给后续有意愿踏入人工智能的小伙伴们一个参考

Coursera-吴恩达-机器学习-第二周-测验-Octave/Matlab Tutorial

从上周开始学习Coursera吴恩达机器学习课程。 为了方便,一口气看到了第三周并略过了编程作业,突然发现,很多题目设置的真的很好,对学习和理解有很大的帮助,于是开始补上测验和编程题。 今后开始,会连续更新分享自己对于课程的理解和学习,不足之处,请各位指出。   本片文章内容: Coursera吴恩达机器学习课程,第二周的测验,题目及答案截图。        ...

qq1376725255的专栏 4982

吴恩达机器学习第二周编程作业(包括附加题)

吴恩达机器学习第二周编程作业(包括附加题)

吴恩达机器学习 | (2) 第二周学习笔记

课程视频 第二周PPT 上一篇博客主要介绍了第一周的课程内容,总体来说比较简单,包括机器学习简介、并以引入单变量线性回归来讲解代价函数和模型的表示以及如何利用梯度下降法来求解单变量线性回归(重点);本篇博客将系统的介绍第二周的内容,其实是对第一周内容的扩展和延伸,把使用场景更一般化,从单变量线性回归演变到多变量线性回归,并通过实例来介绍使用梯度下降法求解多变量线性回归的实用技巧,特征缩放(规范...

sdu_hao的博客 1722

pyecharts可视化图表-tree:从入门到精通

本文系统介绍了树图(Tree Chart)的可视化技巧,包含基础实现、方向定制和环形布局等实例。树图能清晰展示层次结构数据,适用于组织架构、文件系统等场景。教程详细解析了pyecharts树图的核心配置项,包括数据准备、方向设置(下上、右左)和样式定制,并提供了完整代码示例。通过本指南,读者可快速掌握专业树图的构建方法,实现复杂层次数据的可视化呈现。

大数据内容个人总结与分享 1972

在已有win10系统下安装Ubuntu,最后出现执行‘grub-install/dev/nvme0n1p5‘失败的致命错误的解决方案

本人电脑型号戴尔灵越,两个SSD512G固态硬盘,c盘为系统盘. Ubuntu版本为20.04LTS,在官网下载https://ubuntu.com/download/desktop/thank-you?version=20.04.3&architecture=amd64 系统盘制作工具为Rufus-3.15http://rufus.ie/zh/ 安装过程网上很多,在这里就不赘述了. 其他安装过程都很顺利,直至安装最后出现这个 本来安装了到最后还以为成了,结果又不行...... 后.

XiaoChen_gugugu的博客 1万+

Coursera-AndrewNg(吴恩达)机器学习笔记——第二周编程作业(线性回归)

一.准备工作 从网站上将编程作业要求下载解压后,在Octave中使用cd命令将搜索目录移动到编程作业所在目录,然后使用ls命令检查是否移动正确。如: 提交作业:提交时候需要使用自己的登录邮箱和提交令牌,如下: 二.单变量线性回归 绘制图形:rx代表图形中标记的点为红色的x,数字10表示标记的大小。 plot(x, y, 'rx', 'Mar...

weixin_30872789的博客 163

DevEco Studio在初始化时出现Installing pnpm@8.13.1...npm ERR! code ETIMEDOUTnpm ERR! syscall connectnpm E

npm的仓库源设置的有问题,下载不了鸿蒙相关组件,所以你的启动依赖都没有,或者以前下载过npm,使用的源改的乱七八糟了。以前安装过前端相关的node.js的话,启动的时候记得使用管理远权限。(DevEco Studio)就出错,npm显示超时。

qq_56392862的博客 2631

吴恩达机器学习笔记_第二周

多元线性回归的情况: 符号表示方法,上标表示第几个样本,下标表示第几个特征。   多元线性回归的梯度下降: 当代价函数有多个参数时(即多个特征时):   使用梯度下降实用技巧:FeatureScaling特征缩放 Make sure features are on a similar scale收敛的快(代价函数图像很扁,收敛路径长) 缩放到-1~1范围,x0为1,

hunterlew的专栏 5520

Linux中断子系统(二)—— 通用框架处理

1、数据结构分析 (1)中断描述符结构structirq_desc: 1)打开CONFIG_SPARSE_IRQ宏(中断编号不连续),中断描述符以radix- tree来组织,用户在初始化时进行动态分配,然后再插入radix-tree中; 2)关闭CONFIG_SPARSE_IRQ宏(中断编号连续),中断描述符以数组的 形式组织,并且已经分配好; 3)不管哪种形式,最终都可以通过linuxirq号来找到对应的中断描述符; (2)stru...

weixin_38428439的博客 4874

海康Visionmaster-通讯管理:使用 Modbus TCP 通讯 协议与流程交互

海康Visionmaster-通讯管理:使用 Modbus TCP 通讯 协议与流程交互

视觉人机器视觉的博客 9189

Coursera-ML-AndrewNg: 吴恩达机器学习课程实战代码库

本项目基于Coursera上吴恩达教授的机器学习课程,由开发者[lukaemon](https://github.com/lukaemon/)维护。它旨在通过Python、NumPy、SciPy以及TensorFlow实现基础的机器学习模型及算法,提供了一个从理论到实践的学习路径。项目覆盖了线性回归、逻辑回归、神经网络、支持向量机(SVM)、K-means聚类、主成分分析(PCA)等多种经典机器学...

gitblog_00032的博客 476

Linux LT8912b调试记录(MIPI转LVDS/HDMI)

本文记录了在RK3588平台上使用LT8912B芯片实现MIPI转LVDS/HDMI的调试过程。主要包含设备树配置、驱动代码实现及常见问题解决。调试重点包括:1)正确配置1280x800分辨率的LVDS屏幕参数;2)确保I2C总线正常通信;3)解决花屏、图像抖动、黑屏等问题,涉及lane-rate计算、同步信号极性调整及MIPI模式选择。文中提供了详细的寄存器配置代码和故障排查方法,特别强调了I2C通信验证和电压匹配的重要性。通过参数优化和多种模式测试,最终实现了稳定的视频输出转换。

qq_45147279的博客 1092

Andrew Ng(吴恩达) Coursera ML课程(一)

写作目的:作为自己学习ML的记录,也希望能为后来者提供一点点参考 文章内容:本篇主要总结、回顾一下机器学习课程前两周的内容 环境准备 我是在chrome浏览器上安装了setup插件,连接到美国后,视频就能正常加载了。 这是安装包,可能版本需要更新;安装前注意打开浏览器的开发者模式。 链接:https://pan.baidu.com/s/1B5O2BC5rPclMaxMr1U0avQ 提取码:gded 安装好后,连接...

REX的博客 1320

YOLO26模型应用过程中的报错处理及疑问解答,涉及环境搭建、模型训练、模块改进、论文写作

本文记录了YOLO26模型的这一系列过程中可能发生的问题,以及大家非常关心的问题,这里统一做了一个记录和解答。

Limiiiing的博客 246

S7-1200中通过MODBUS TCP客户端在一次请求中实现从服务器读写一个或多个保持性寄存器的具体方法

S7-1200中通过MODBUS TCP客户端在一次请求中实现从服务器读写一个或多个保持性寄存器的具体方法

Robot_PLC_HMI_Automation 4226

吴恩达

吴恩达老师机器学习课程中文文字版整理: https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes 吴恩达老师深度学习课程中文文字版整理: https://github.com/fengdu78/deeplearning_ai_books UFLDL https://blog.csdn.net/zwa...

weixin_37829839的博客 1825

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

Coursera-AndrewNg(吴恩达)机器学习第一周笔记

引言Introduction 1 Welcome 2 什么是机器学习What is Machine Learning 3 监督学习Supervised Learning 4 无监督学习Unsupervised Learning 单变量线性回归Linear Regression with One Variable 1 模型表示Model Representation 2 损失函数Cost Functi

scruelt的博客 7277

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

上一篇: (四)、Fiddler打断点
下一篇: RNN实例
weixin_30877181
博客等级 码龄11年 135粉丝 0原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值