深度学习入门01-数学概念介绍

简介:

向量

向量是由n个实数组成的一个n行1列(n1)或一个1行n列(1n)的有序数组;
a=[1,2,3,4]
b=[6,7,8,9]


(x,y)表示二维空间(即面)上面的一个点;
(x,y,z)表示三维空间中的一个点
x 1,x 2,x 3.。。x n 表示n维空间一个具体的点


image.png


image.png


点乘

点乘也叫 点积


对于向量a和向量b:
image.png


image.png
a和b的点积公式为
image.png

余弦定理

sin cos

1、sin 30= 1/2
image.png
c 是斜边
c=a*2  --> a/c=0.5=sin 30


2、sin 45=根号2/2
image.png
a==b --> a/c=根号2/2
3、sin 60= 根号3/2
image.png


image.png




image.png


切线的斜率

斜率就是该点的切线,坐标y/x的值
比如下面的曲线(y=x)的斜率就是1
image.png


image.png
image.png


image.png

导数

image.png
导数 f ′ (x) 代表 f(x) 在点 x 处的斜率。换句话说,它表明如何缩放输入的小变化才能在输出获得相应的变化:f(x + ϵ) ≈ f(x) + ϵf ′ (x)。
说白了,就是衡量 x 变化时,y 变化的方向和快慢(不是速度,而是加速度)


例如 函数 y=f(x)=3x+1
x 增加2,y 增加6,
x 增加3,y 增加9,
x 增加4,y 增加12,
....。。。
那么 y 增加的速度就是恒定的,是3(9-6)
实际上,y=f(x)=3x+1的 导数 f ′ (x) 就是3
此时,随着变量 x的变化,y的变化方向和快慢是固定的,是常量


f(x + ϵ) ≈ f(x) + ϵf ′ (x)
f(x + ϵ) =x3+1+ϵ3,






基本初等函数的导数公式
image.png


log 和 ln

ln x,表示e的多少次方等于x
e是常量,值为:image.png
2.718
image.png
表示 e的2.9957次方等于20
image.png






logx y 表示x的多少次方等于y
image.png


image.png


根号

根号x   表示 什么数的平方等于x
image.png


image.png
image.png


拟合


image.png


目标/损失函数

针对任何模型求解问题,都是最终都是可以得到一组预测值y^ ,对比已有的真实值 y ,数据行数为 n ,可以将损失函数定义如下:

即预测值与真实值之间的平均的平方距离,统计中一般称其为MAE(mean square error)均方误差。把之前的函数式代入损失函数,并且将需要求解的参数w和b看做是函数L的自变量,可得



注意  image.png表示预测值

梯度下降

参考 https://www.yuque.com/whuanghkl/bbxlpq/dfkpin#YwmMs
导数有什么用呢?
通过导数,可以预测f(x)变化的趋势,如果 导数<0,表示f(x) 随着x的变化在变小,
如果 导数>0,表示f(x) 随着x的变化在变大,
因此导数对于最小化一个函数很有用,因为它告诉我们如何更改 x 来略微地改 善 y。例如,我们知道对于足够小的 ϵ 来说,f(x − ϵsign(f ′ (x))) 是比 f(x) 小的。因 此我们可以将 x 往导数的反方向移动一小步来减小 f(x)。这种技术被称为 梯度下降 (gradient descent)(Cauchy, 1847)。图 4.1 展示了一个例子。


image.png


image.png






数学工具,数学软件

image.png


符号说明

https://www.yuque.com/whuanghkl/bbxlpq/untwaa#9GZct


相关文章
|
6月前
|
机器学习/深度学习 PyTorch TensorFlow
[深度学习入门]Numpy基础(上)
[深度学习入门]Numpy基础(上)
|
1月前
|
机器学习/深度学习 存储 人工智能
深度学习500问——Chapter01:数学基础
深度学习500问——Chapter01:数学基础
52 0
深度学习500问——Chapter01:数学基础
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
从零开始学习深度学习:入门指南与实践建议
本文将引导读者进入深度学习领域的大门,从基础概念到实际应用,为初学者提供全面的学习指南和实践建议。通过系统化的学习路径规划和案例实践,帮助读者快速掌握深度学习的核心知识和技能,迈出在人工智能领域的第一步。
|
6月前
|
机器学习/深度学习 自然语言处理 算法
深度学习基础知识:介绍深度学习的发展历程、基本概念和主要应用
深度学习基础知识:介绍深度学习的发展历程、基本概念和主要应用
1838 0
|
2月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
深度学习入门:Python 与神经网络
深度学习是机器学习的一个分支,它涉及使用多层神经网络来处理和学习数据。在 Python 中,有许多流行的深度学习库和框架可以帮助我们轻松地构建和训练神经网络模型。在本文中,我们将介绍深度学习的基本概念,并使用 Python 中的 TensorFlow 和 Keras 库来构建一个简单的神经网络模型。
|
3月前
|
机器学习/深度学习 分布式计算 搜索推荐
深度学习入门:一篇概述深度学习的文章
深度学习入门:一篇概述深度学习的文章
|
4月前
|
机器学习/深度学习 传感器 自动驾驶
【计算机视觉】一、多任务深度学习网络的概念及在自动驾驶中的应用讲解(图文解释 超详细)
【计算机视觉】一、多任务深度学习网络的概念及在自动驾驶中的应用讲解(图文解释 超详细)
46 0
|
5月前
|
机器学习/深度学习
小白入门机器学习深度学习实战教程
小白入门机器学习深度学习实战教程
35 0
|
6月前
|
机器学习/深度学习 人工智能 自然语言处理
深度学习从入门到出门(1)——概念与发展概况
深度学习从入门到出门(1)——概念与发展概况
|
6月前
|
机器学习/深度学习 人工智能 TensorFlow
【人工智能】深度学习框架值TF入门-模型保存与加载
保存完整的模型有很多应用场景,比如在浏览器中使用TensorFlow.js加载运行,比如在移动设备上使用TensorFlow Lite加载运行。
38 0