Beyond the Hype

每天一节相互衔接的课程

AI 数学

沿着 180 天的路径，从数学符号学习到回归、PCA、混合模型和支持向量机。每节课都会说明这些数学知识在 AI 中出现在哪里。

课程进度

8 / 180节课程已发布

下一课: 第 9, 方程,限制和解决方案集.

8 / 180

课程 1–10

数学基础

  1. 已发布 · 第 1

    变量,值和AI模型

    读取一个符号作为一个命名的数量,并将变量与其当前值分开.

  2. 已发布 · 第 2

    作为可重复使用的数学机器的函数

    评估一个函数并区分其输入,规则和输出.

  3. 已发布 · 第 3

    域名,代码域名和有效模型输入

    函数接受输入的状态以及它承诺的输出类型.

  4. 已发布 · 第 4

    集合,会员和数据集

    阅读组建器和会员符号,并使用组来描述数据.

  5. 已发布 · 第 5

    索引,字符号和子地址

    解释索引样本和坐标,而不混身份和价值.

  6. 已发布 · 第 6

    总和,产品和损失总和

    扩大sigma和产品标记,并将其转化为循环.

  7. 已发布 · 第 7

    权力,根和模型规模化

    操纵指标和根,并识别规模变化.

  8. 已发布 · 第 8

    算法将产品转化为数量

    使用定数作为反向功率,将产品转换为数值.

  9. 即将发布 · 第 9

    方程,限制和解决方案集

    把一个方程视为一个限制,并描述满足它的所有值.

  10. 即将发布 · 第 10

    读取一个线后一线的衍生值

    证明每个代数变化是正确的,并确定一个未被声明的假设.

课程 11–38

线性代数

  1. 即将发布 · 第 11

    一个线性方程作为几何线

    将两变量线性方程转换为线,并测试解决方案.

  2. 即将发布 · 第 12

    方程系统作为交点

    解释一个系统作为同时的限制,并分类其交叉点.

  3. 即将发布 · 第 13

    没有解决方案,一个解决方案,或者许多解决方案

    识别不一致,独特和未确定的系统.

  4. 即将发布 · 第 14

    矢量作为AI数据的表示

    阅读行列和列向量,并将坐标解释为特征.

  5. 即将发布 · 第 15

    矢量添加组合信号

    添加向量按组件,并解释所产生的移动或特征混合.

  6. 即将发布 · 第 16

    尺度乘法控制强度

    测量向量,预测方向和大小的变化.

  7. 即将发布 · 第 17

    线性组合构建了新的向量

    构建和解释权重的向量总数.

  8. 即将发布 · 第 18

    矩阵组织线性规则

    阅读矩阵尺寸,解释行列和列.

  9. 即将发布 · 第 19

    矩阵向量产品作为权重数值

    通过行列和列计算矩阵向量产量.

  10. 即将发布 · 第 20

    矩阵矩阵产品组合变化和批量

    检查相容的形状,并计算一个小矩阵产品.

  11. 即将发布 · 第 21

    转换转向关系

    转换一个矩阵,并解释什么在语义上交换.

  12. 即将发布 · 第 22

    身份和反转变

    识别身份行为,验证一个小矩阵反向.

  13. 即将发布 · 第 23

    加斯的消除保存了溶液集

    运行基本行操作,而不改变解决方案.

  14. 即将发布 · 第 24

    排列表表表显示结构

    找到转点,自由变量和一个一般的解决方案.

  15. 即将发布 · 第 25

    没有明确反向的数值解决

    使用 `numpy.linalg.solve`,并解释为什么通常避免明确逆转.

  16. 即将发布 · 第 26

    为什么代数结构决定有效的操作

    在直观水平上区分闭,反,和分布假设.

  17. 即将发布 · 第 27

    矢量空间定义法律表示

    测试一组是否符合向量空间封闭规则.

  18. 即将发布 · 第 28

    亚空间捕获限制特征家族

    测试子空间条件并解释一个低维区域.

  19. 即将发布 · 第 29

    线性独立性消除了冗余性

    确定向量是否含有冗余的方向.

  20. 即将发布 · 第 30

    跨度描述一个表示可以表达什么

    通过线性组合可达到的向量集合.

  21. 即将发布 · 第 31

    基础提供了紧的坐标系统

    验证一个基础,并以基础坐标表达一个向量.

  22. 即将发布 · 第 32

    尺寸计算独立的方向

    与一个基础的尺寸相结合,而不是单独显示形状.

  23. 即将发布 · 第 33

    排名测量有效线性信息

    计算排列和连接行列和列的视角.

  24. 即将发布 · 第 34

    线性映射保存组合

    测试线性,并描述输入和输出空间.

  25. 即将发布 · 第 35

    矩阵代表线性映射

    从转换的基础向量中导出一个映射矩阵.

  26. 即将发布 · 第 36

    核心和图像解释丢失和可访问的信息

    找到简单的零空间和图像例子,并解释它们.

  27. 即将发布 · 第 37

    简洁空间将对线性结构添加偏移

    区分线性和相似的集合和变化.

  28. 即将发布 · 第 38

    在一个微小的神经网络中的线性代数

    通过二层网络的痕迹形状,映射,偏见,排列和表达性.

课程 39–54

解析几何

  1. 即将发布 · 第 39

    标准测量向量大小

    计算共同向量规范,检查规范属性.

  2. 即将发布 · 第 40

    L1,L2和L-无限的尺寸不同

    解释不同规范如何改变几何和敏感性.

  3. 即将发布 · 第 41

    内部产品测量对齐

    计算一个内部产品,将标志和大小连接到对齐.

  4. 即将发布 · 第 42

    点产品将功能转化为分数

    解释一个点产品作为权重特征分数.

  5. 即将发布 · 第 43

    距离取决于选择的几何

    从一个标准中推出距离,并比较最近的邻居.

  6. 即将发布 · 第 44

    角度和共数相似性

    计算一个角度和一个相似之处,并处理零向量限制.

  7. 即将发布 · 第 45

    纵向性意味着没有线性重叠

    测试直角性,以几何方式解释零的内部产品.

  8. 即将发布 · 第 46

    正规基础简化坐标

    检查正规性和计算内产品的坐标.

  9. 即将发布 · 第 47

    格拉姆·施密特构建直角方向

    在两个或三个向量上执行GramSchmidt并确定不稳定性.

  10. 即将发布 · 第 48

    形补充器捕捉了剩下的东西

    描述一个子空间的直角方向.

  11. 即将发布 · 第 49

    函数也可以具有内部产品

    通过整体或分数来解释函数相似性.

  12. 即将发布 · 第 50

    投影发现了最接近的点

    计算对线的投射,并解释垂直的残留.

  13. 即将发布 · 第 51

    投影矩阵转换整个数据集

    构建和检查一个简单的投影矩阵.

  14. 即将发布 · 第 52

    最小方体是一个投影问题

    没有依赖于明确的逆转而导出正常方程几何.

  15. 即将发布 · 第 53

    旋转保持长度和角度

    建立一个2D旋转矩阵,验证其不变.

  16. 即将发布 · 第 54

    类似性搜索的几何学

    为检索问题选择一个计量,正常化和投影策略.

课程 55–72

矩阵分解

  1. 即将发布 · 第 55

    确定量测量定向量

    计算2D确定因素,解释标志和尺度.

  2. 即将发布 · 第 56

    单一矩阵崩信息

    连接零定数,排名损失和非逆转性.

  3. 即将发布 · 第 57

    痕迹总结了对角的操作

    计算其线性和循环性质,并安全使用.

  4. 即将发布 · 第 58

    固体向量保持其方向

    检查一个自数对,并区分方向与尺度.

  5. 即将发布 · 第 59

    自身价值衡量方向增长

    解释自值符号和大小,包括零和重复案例.

  6. 即将发布 · 第 60

    具有特征的多项函数找到本值

    解决2×2的特征方程并检查结果.

  7. 即将发布 · 第 61

    马科夫的自向量和排序系统

    解释一遍又一遍的线性更新如何接近稳定的方向.

  8. 即将发布 · 第 62

    乔莱斯基因子化利用积极的确定性

    考虑一个小的正确定义矩阵,并识别资格条件.

  9. 即将发布 · 第 63

    诊断分离一个转变

    在本基中表达可对角矩阵.

  10. 即将发布 · 第 64

    对称矩阵具有友好的自制结构

    描述和使用对称矩阵的真实直角自结构.

  11. 即将发布 · 第 65

    单一值分解因子化任何矩阵

    解释SVD为旋转,尺度,旋转和轨道形状.

  12. 即将发布 · 第 66

    单一值按强度排列方向

    连接单个值到排名,条件和捕获的信号.

  13. 即将发布 · 第 67

    伪逆转解决非正方形系统

    使用SVD伪逆,解释丢弃的零方向.

  14. 即将发布 · 第 68

    低级近似保持最强的模式

    构建一个缩小的SVD并量化重建错误.

  15. 即将发布 · 第 69

    模型重量矩阵压缩

    计算参数节约量并确定质量妥协.

  16. 即将发布 · 第 70

    定制预测数值敏感性

    计算一个条件号码并预测错误放大.

  17. 即将发布 · 第 71

    数字因子化和重建检查

    在代码中选择和验证Cholesky, eigendecomposition或SVD.

  18. 即将发布 · 第 72

    解体如何推动现代AI系统

    选择分类,共变,解决或压缩的分解.

课程 73–98

向量微积分

  1. 即将发布 · 第 73

    变化,斜率和当地预测

    解释斜率为本地变化,而不是仅仅升高.

  2. 即将发布 · 第 74

    极限使瞬间变化更加精确

    解释衍生值的极限,并区分小步骤与零步骤.

  3. 即将发布 · 第 75

    衍生品规则避免重复限制

    用假设运用数量,产量,分数和功率规则.

  4. 即将发布 · 第 76

    链条规则追踪复合变化

    区分组合,追踪中间敏感度.

  5. 即将发布 · 第 77

    常见激活函数衍生品

    衍生和比较sigmoid,tanh和relu衍生物,包括不可区分的点.

  6. 即将发布 · 第 78

    部分衍生品持有其他输入固定

    计算部分衍生品,并说明什么仍然是固定的.

  7. 即将发布 · 第 79

    修改者收集了最严重的地方变化

    构建梯度向量,解释其方向和单位.

  8. 即将发布 · 第 80

    方向衍生品查询任何方向

    从梯度计算沿选择方向的变化.

  9. 即将发布 · 第 81

    雅科比人绘制了向量对向量敏感度

    构建一个Jacobian,跟踪其输入/输出形状.

  10. 即将发布 · 第 82

    雅可比亚的链条规则构成层

    在正确的顺序中乘以Jacobians并检查形状.

  11. 即将发布 · 第 83

    矩阵梯度追踪每个参数

    解释对矩阵的衍生物,并验证尺寸.

  12. 即将发布 · 第 84

    追踪技巧简化了矩阵衍生品

    用痕迹身份重新写出规模矩阵目标,并区分它们.

  13. 即将发布 · 第 85

    计算图表使依赖可见

    绘制依赖性,并将本地衍生值分配到图边.

  14. 即将发布 · 第 86

    前置模式自动分化扩散接

    执行前进积累,并解释它是什么时候有效的.

  15. 即将发布 · 第 87

    倒置模式自动分化扩散接头

    执行反向传递,并解释为什么 skalar 损失有利于它.

  16. 即将发布 · 第 88

    通过密集层的背部扩散

    用正确的批量形状生成输入,重量和偏差梯度.

  17. 即将发布 · 第 89

    渐进检查捕获衍生式错误

    分析和有限差异梯度与规模意识错误进行比较.

  18. 即将发布 · 第 90

    PyTorch自动格式记录了图表

    在解释图时使用子, `requires_grad`,然后向后.

  19. 即将发布 · 第 91

    赫西人测量多变曲率

    构建一个小的Hessian,并解释曲线方向.

  20. 即将发布 · 第 92

    第二类衍生品分类关键点

    使用Hessian本值来分类本地最小值,最大值和子.

  21. 即将发布 · 第 93

    线性化近似模型本地

    建立一个第一级近似和量化本地错误.

  22. 即将发布 · 第 94

    泰勒系列添加曲率信息

    构建一级和二级泰勒近似.

  23. 即将发布 · 第 95

    由于连锁规则的重复,渐变变变

    解释如何乘以小衍生物抑制学习信号.

  24. 即将发布 · 第 96

    爆炸梯度和稳定控制

    解释爆炸产品,评估剪辑和初始化反应.

  25. 即将发布 · 第 97

    注意梯度连接标志影响

    通过可分辨的注意力重量, 追踪一个代币如何影响另一个代币.

  26. 即将发布 · 第 98

    一个小的训练步骤的计算

    连接前进评估,损失,梯度,曲率和参数更新.

课程 99–126

概率与分布

  1. 即将发布 · 第 99

    不确定性需要数学语言

    对于结果的不确定性和缺乏数字精度的区别.

  2. 即将发布 · 第 100

    样本空间,事件和结果

    定义结果和事件,并将事件与设置操作结合起来.

  3. 即将发布 · 第 101

    概率定理限制了有效的分配

    应用非负面,正常化和添加性来检测无效的概率.

  4. 即将发布 · 第 102

    条件概率更新了参考集

    计算条件概率,并解释所改变的命名符.

  5. 即将发布 · 第 103

    随机变量将结果映射到数字

    将随机变量视为函数,并表示其可能的值.

  6. 即将发布 · 第 104

    微分分布分配概率质量

    构建和正常化一个概率质量函数.

  7. 即将发布 · 第 105

    连续分布使用密度,而不是点质量

    解释概率密度和区间的间隔.

  8. 即将发布 · 第 106

    累计分布回答门问题

    阅读和构建累积分布函数.

  9. 即将发布 · 第 107

    总和产品规则建立和减少联合概率

    扩大联合概率,边缘化隐藏的变量.

  10. 即将发布 · 第 108

    贝叶斯定理逆转了一个条件

    导出贝叶斯定理,并确定前,概率,证据,后.

  11. 即将发布 · 第 109

    基准率改变模型警报的含义

    解释为什么仅仅敏感性才能决定后期概率.

  12. 即将发布 · 第 110

    预期是基于概率的权重平均值

    计算对单独变量的预期,并解释连续模拟.

  13. 即将发布 · 第 111

    根据预期分布的变化措施

    计算差异和标准偏差,并区分规模与偏差.

  14. 即将发布 · 第 112

    合变轨道关节运动

    计算变量和解释信号,而不会声称因果关系.

  15. 即将发布 · 第 113

    合变矩阵总结了许多特征

    构建一个共变矩阵并解释对称和对角的输入.

  16. 即将发布 · 第 114

    独立比零变量更强

    测试独立性并产生零变量依赖的反示例.

  17. 即将发布 · 第 115

    经验估计从样本中获取统计数据

    估计平均和差异,并区分人口与样品数量.

  18. 即将发布 · 第 116

    高斯分布连接位置和规模

    读取高斯密度,预测平均和差异的效果.

  19. 即将发布 · 第 117

    标准化创造了可比拟的坐标

    在不假设正常的情况下,标准化值和解释z分数.

  20. 即将发布 · 第 118

    多变量高素与共变性塑造不确定性

    解释平均向量,共变矩阵和密度圆.

  21. 即将发布 · 第 119

    高斯定条件和边缘值

    提取边缘和有条件的高斯行为.

  22. 即将发布 · 第 120

    采样与乔莱斯基相关

    将标准噪音转化为具有目标变量的样本.

  23. 即将发布 · 第 121

    增长式家庭共享一种共同的形式

    识别自然参数,足够的统计数据和概念的正常化.

  24. 即将发布 · 第 122

    结合的先例使得贝耶斯的更新可以处理

    解释结合性,并更新Beta-Bernoulli模型.

  25. 即将发布 · 第 123

    观察数据与参数的最大概率

    构建和优化一个简单的概率和记录概率.

  26. 即将发布 · 第 124

    变量变化转换密度

    转换一个密度,并解释雅可比定数纠正.

  27. 即将发布 · 第 125

    逆转变采样将均的噪音转化为数据

    产生反向CDF的样本并验证其分布.

  28. 即将发布 · 第 126

    在分类器管道中的概率

    连接概率,前,后,校准问题和评估不确定性.

课程 127–142

连续优化

  1. 即将发布 · 第 127

    目标函数将学习转化为搜索

    定义一个目标,参数和可行的集合,并区分最小化与评估.

  2. 即将发布 · 第 128

    渐进下降跟随当地下山信息

    导出负位数更新,并手动执行步骤.

  3. 即将发布 · 第 129

    学习率控制步骤大小

    预测步骤尺寸变化时的收缩,振荡和偏差.

  4. 即将发布 · 第 130

    迷失的景观包含山谷,高原和子

    确定景观特征及其对第一级更新的影响.

  5. 即将发布 · 第 131

    静态梯度以速度换取噪音

    比较批量,迷你批量和位梯度估计.

  6. 即将发布 · 第 132

    动力积累速度

    执行动力更新,并解释狭窄的山谷中的缩.

  7. 即将发布 · 第 133

    适应优化器重新扩展坐标更新

    解释移动的时刻和坐标的智能扩展,而没有把亚当当当作魔术.

  8. 即将发布 · 第 134

    限制优化分开目标和规则

    国家平等的限制和对客观的轮与可行的点进行区分.

  9. 即将发布 · 第 135

    拉格兰奇乘法平衡目标和约束

    为一个平等约束的静止性推导,并解释梯度对齐.

  10. 即将发布 · 第 136

    规律化可以作为一个柔软的约束

    与限制解决方案相关的处罚,同时说明等效条件.

  11. 即将发布 · 第 137

    曲的集合包含点之间的直线

    使用线段测试简单集合的曲度.

  12. 即将发布 · 第 138

    曲函数没有坏的本地最小值

    应用对曲度的几何测试和赫西测试.

  13. 即将发布 · 第 139

    曲率提供优化证书

    解释为什么一级条件可以证明全球解决方案.

  14. 即将发布 · 第 140

    在 PyTorch 中没有黑盒的优化

    写一个明确的训练循环,检查梯度和更新.

  15. 即将发布 · 第 141

    用数学信号进行训练的调试

    诊断损失,梯度规范,更新比率和曲率线索,

  16. 即将发布 · 第 142

    为玩具模型设计优化器

    选择更新规则,学习率,限制或罚款,以及停止证据.

课程 143–151

模型与数据

  1. 即将发布 · 第 143

    数据,模型和学习规则具有不同的作用

    单独的观察,假设,参数,预测和合适的规则.

  2. 即将发布 · 第 144

    监督学习接近一个未知的地图

    表现监督数据和正确索引的预测函数.

  3. 即将发布 · 第 145

    经验风险将示例转化为目标

    从每例损失中推导经验风险,并将其与人口风险区分.

  4. 即将发布 · 第 146

    损失函数编码哪些错误是重要的

    根据后果和梯度进行二次,绝对和分类损失的比较.

  5. 即将发布 · 第 147

    参数估计连接概率和优化

    设置最大概率和MAP作为优化问题.

  6. 即将发布 · 第 148

    概率模型规范了生成的故事

    计算一个简单的联合分布,并将参数与潜伏变量区分开来.

  7. 即将发布 · 第 149

    推理询问了隐藏的数量

    提出一个推断查询,并确定必须有什么条件或被边缘化.

  8. 即将发布 · 第 150

    定向图表编码条件结构

    阅读一个指导图形模型,并写出它的联合因子化.

  9. 即将发布 · 第 151

    模型选择平衡适应性和复杂性

    区分训练适合性,验证选择和概率证据.

课程 152–159

线性回归

  1. 即将发布 · 第 152

    数字目标的线性回归地图功能

    写出线性回归和轨道尺寸的尺度和矩阵形式.

  2. 即将发布 · 第 153

    从投影几何学的最小平方的估计

    取出最小平方的估计器,解释残余直角性.

  3. 即将发布 · 第 154

    在高斯噪音下,最大概率解释了二次错误

    从高斯概率和状态假设中推导二次错误回归.

  4. 即将发布 · 第 155

    调节回归控制不稳定权重

    导出脊回归,将罚款与条件和偏见联系起来.

  5. 即将发布 · 第 156

    贝叶斯线性回归将重量分布设置在

    更新一个前向后参数.

  6. 即将发布 · 第 157

    后期预测不确定性因输入而异

    预测中的参数不确定性与观察噪音分离.

  7. 即将发布 · 第 158

    线性回归实施和诊断

    执行稳定安装,检查残留物,条件和不确定性.

  8. 即将发布 · 第 159

    当线性模型是正确的基线时

    确定解释性和数据限制何时有利于线性回归,并确定故障模式.

课程 160–167

主成分分析

  1. 即将发布 · 第 160

    维度降低保证选择的结构

    说明减产保持什么,它抛弃什么,以及为什么标准很重要.

  2. 即将发布 · 第 161

    PCA 发现最大差距的方向

    根据可变性自向向量来导出第一个主要方向.

  3. 即将发布 · 第 162

    PCA也是最小错误预测

    连接最大差异和最小重建错误.

  4. 即将发布 · 第 163

    电动系统计算PCA而不形成共变

    关联数据中心 SVD 与covariance自向量和单数值.

  5. 即将发布 · 第 164

    高维度AI数据中的PCA

    选择一个计算路径,当特征超过样本数量时,并解释有效排名.

  6. 即将发布 · 第 165

    实用PCA:中心化,扩展和组件选择

    建立一个防泄漏的PCA管道,并使用证据选择组件.

  7. 即将发布 · 第 166

    概率PCA引入隐形变量

    解释PCA作为噪音的潜变生成模型.

  8. 即将发布 · 第 167

    嵌入检查的PCA,含有注意事项

    使用PCA进行检查,而不将二维图像作为完整的证据.

课程 168–173

高斯混合模型

  1. 即将发布 · 第 168

    混合多个重叠组的模型数据

    写出混合物密度并将组件与观察到的组分区分.

  2. 即将发布 · 第 169

    潜伏任务将混合物转化为隐藏变量模型

    概念上引入隐藏组件指标和计算责任.

  3. 即将发布 · 第 170

    混合概率对不知情的参数

    构建GMM概率并解释为什么直接最大化很难.

  4. 即将发布 · 第 171

    预期最大化替代推断和适应

    执行E和M步骤,并确定每个步骤是什么.

  5. 即将发布 · 第 172

    执行一个GMM,观看EM融合

    实施稳定日志责任和监测可能性.

  6. 即将发布 · 第 173

    GMM故障模式和模型选择

    诊断初始化敏感性,单一变量和错误的组件数量.

课程 174–180

支持向量机

  1. 即将发布 · 第 174

    超级飞机将点点产品变成决策界限

    写一个分离的超平面,并解释其正常向量和偏差.

  2. 即将发布 · 第 175

    利率测量分类稳定性

    导出点到超平面距离,并确定支持向量.

  3. 即将发布 · 第 176

    原始SVM平衡差距和分类错误

    制定硬和软利目标,并解释宽松变量.

  4. 即将发布 · 第 177

    双重SVM中心的培训例子

    按照拉格兰基路径到双表示,读取支持向量系数.

  5. 即将发布 · 第 178

    核通过内部产品创造非线性界限

    解释内核技巧,并测试基本内核直觉,而不要求明确的特征地图始终已知.

  6. 即将发布 · 第 179

    训练和诊断SVM

    训练线性和内核SVM并诊断扩展,罚款和内核宽度影响.

  7. 即将发布 · 第 180

    从数学基础到ML模型

    追踪代数,几何,计算,概率和优化如何共同决定模型行为.

序列之外

AI 数学补充文章

筛选文章归档