用一个微型神经网络理解线性代数
通过 NumPy 示例和交互式探索器，逐步追踪两层网络中的每个形状、偏置、激活和秩变化。
分类
线性代数
30篇文章属于此分类.
仿射空间如何解释偏置与决策边界
观察平移如何移动一条直线而不改变方向，并了解神经网络层中的偏置为何能让分类边界离开原点。
核与像：线性层如何丢失信息并限制可达结果
通过矩阵的核与像，识别被丢弃的输入方向、可达输出，以及学习得到的投影所受的秩限制。
矩阵表示线性映射
了解变换后的基向量为何成为矩阵的列，如何根据基向量的响应重建映射，以及如何避免模型权重中的行列方向错误。
线性映射保留 AI 模型所需的组合
检验变换是否保留求和与缩放，说明输入空间和输出空间，并区分神经网络层与其激活函数。
矩阵秩衡量 AI 特征中的独立信息
通过主元或特征计算矩阵的秩，联系行与列的视角，并用奇异值识别冗余数据特征。
维数统计独立方向的数量
区分嵌入坐标数与样本数，并了解为什么仅凭矩阵形状无法判断其中的向量张成了多少个独立方向。
基底为 AI 向量提供可逆的坐标系
检验向量是否构成基底，在新坐标框架中计算坐标，并观察线性模型如何在协调变换后保持得分不变。
向量张成：线性模型能够表达的预测
用向量张成找出线性模型能由特征列产生的所有预测，并判断目标值是否无法由现有特征表达。
线性无关消除 AI 特征中的冗余
用系数方程发现重复的特征方向，手动检验线性无关，并用 NumPy 检查特征矩阵。
AI 的子空间：检验受限特征族
学习子空间检验，证明平面对向量运算封闭，并用 NumPy 检查低维表示方向。
向量空间：检验 AI 表示是否满足规则
检验零向量、加法封闭性和数乘封闭性，再用归一化嵌入作为反例，说明有用的表示集合为何不一定是向量空间。
群、环和域：为什么 AI 运算需要规则
了解封闭性、逆元和分配律如何决定哪些张量运算合法，然后使用 NumPy 检验这些思想。
AI 中的数值求解：使用 solve，避免显式求逆
使用 NumPy 求解 AI 参数恢复系统，再通过残差、条件数和奇异性检查判断答案是否可信。
行阶梯形揭示冗余 AI 特征
使用主元、自由变量和行阶梯形，诊断小型设计矩阵中的冗余特征与非唯一模型参数。
高斯消元保持解集不变
从首个主元为零的方程组中恢复模型参数，然后在 NumPy 中实现安全的行运算并检查残差。
恒等变换与逆变换：撤销特征映射
使用单位矩阵和一个小型逆矩阵撤销二维特征变换，识别不安全的情况，并理解为什么 solve 优于显式求逆。
面向 AI 的转置：重新定向 token 与特征的关系
转置矩阵、预测其形状，并在按词元排列特征与按特征排列词元的视图之间安全切换，同时不丢失底层数值。
用于 AI 的矩阵-矩阵乘积：复合变换与批处理
检查矩阵形状，计算一个小型矩阵乘积，并将同一个缩并运算理解为复合映射或批量稠密层计算。
AI 中的矩阵与向量乘积：全连接层计算的两种视角
按行和按列计算矩阵与向量的乘积，在 NumPy 中实现两种方法，并排查全连接层的形状和运算符错误。
面向 AI 的矩阵：读取行、列与神经网络形状
学习读取矩阵的维度和元素，将行与列映射到全连接层的作用，并在 NumPy 中发现形状或索引错误。
面向 AI 的线性组合：加权向量如何构建新表示
缩放并组合向量，使用 NumPy 检查每个坐标，并理解为什么注意力输出是一种特殊的加权表示。
面向 AI 的标量乘法：让向量变强、变弱或转向
逐坐标缩放向量，预测方向和大小，并把同一运算联系到嵌入、学习率和 NumPy。
面向 AI 的向量加法：残差更新如何组合信号
逐分量学习向量加法，探索其平行四边形几何，并在 NumPy 中识别形状、广播和特征对齐错误。
向量作为 AI 数据：特征如何把文档变成数字
学习读取行向量和列向量，手动并用 NumPy 构建文档特征向量，并发现形状或特征顺序错误。
无解、唯一解，还是多解
学习分类二元线性方程组，将每种解的数量与参数可辨识性联系起来，并处理矛盾数据或重复数据。
两个观测，一个参数对：面向 AI 的方程组
将方程组看作同时成立的约束，分类两条直线的交点，并从两个观测中恢复仿射模型的权重和偏置。
面向 AI 的线性方程：把一个公式变成几何直线
学习一个二元线性方程如何变成一条直线，测试其上的点，处理垂直情形，并读懂线性分类器的得分等值线。
AlphaEvolve 降低了矩阵乘法指数，却没有降低你的 GPU 账单
AlphaEvolve 帮助降低了已知最佳的矩阵乘法指数上界。了解改变了什么、如何认证，以及为什么它不会让今天的 GPU 更快。
从向量到嵌入：相似度背后的几何学
直观理解向量、点积、余弦相似度，以及嵌入为何能把含义转换成几何关系。