Algorithms - 鸟语天空

梯度下降法

作者：追风剑情发布于：2026-3-10 14:51 分类：Algorithms

梯度下降法是一种找最小值的方法。如图：最速梯度下降法最快梯度下降法公式： $$ \theta_j := \theta_j - \eta \displaystyle\sum_{i=1}^{n} \left( f_\theta(\boldsymbol{x}^{(i)}) - y^{(i)} \right) x_j^{(i)} $$ 缺点：从上面的...

标签: Algorithms

评论(0) 浏览(71)

多重回归

作者：追风剑情发布于：2026-3-5 10:06 分类：Algorithms

一、函数定义 $$ f_\theta(x_1,\cdots,x_n)=\theta_0+\theta_1x_1+\cdots+\theta_nx_n $$ 从函数定义看，多重回归就是存在多个自变量。二、向量形式将上面的函数形式写成向量形式。 $$ \boldsymbol{\theta}= \begin{bmatrix} \theta_0 \...

标签: Algorithms

评论(0) 浏览(105)

多项式回归

作者：追风剑情发布于：2026-3-4 10:07 分类：Algorithms

请先阅读前置文章直线最小二乘法。一、定义函数 $$ f_\theta(x)=\theta_0+\theta_1x+\theta_2x^2+\theta_3x^3+\cdots+\theta_nx^n $$ 注意：虽然次数越大拟合得越好，但难免也会出现过拟合的问题。示例：$f_\theta(x)=\theta_0+\theta_1x+\theta_2x^2...

标签: Algorithms

评论(0) 浏览(82)

直线最小二乘法

作者：追风剑情发布于：2026-2-27 9:53 分类：Algorithms

直线公式 $$ f_\theta(x)=\theta_0+\theta_1x $$ 误差平方和公式 $$ E(\theta)=\frac{1}{2}\displaystyle\sum_{i=1}^{n}(y^{(i)}-f_\theta(x^{(i)}))^2 $$ $E(\theta)$中的E是误差的英语单词Error的首字母。我们的目标就是找到$\theta_0...

标签: Algorithms

评论(0) 浏览(213)

逻辑回归中的似然函数

作者：追风剑情发布于：2026-2-12 10:07 分类：Algorithms

假定所有训练数据都是互不影响的、独立发生的，这种情况下整体的概率就可以用下面的联合概率来表示。 $$ L(\theta)=P(y^{(1)}|x^{(1)})P(y^{(2)}|x^{(2)}) \cdots P(y^{(n)}|x^{(n)}) $$ 将联合概率表达式一般化。 $$ \begin{flalign} L(\theta)=\displaystyle\pro...

标签: Algorithms

评论(0) 浏览(234)

特征值与特征向量

作者：追风剑情发布于：2025-12-24 19:26 分类：Algorithms

n 阶矩阵 A 相似于对角阵的充分必要条件是存在 n 个线性无关的列向量 $\xi_1,\cdots,\xi_n$ 和 n 个数 $\lambda_1,\cdots,\lambda_n$ 使得 $$ A\xi_i=\lambda_i\xi_i, \quad i=1,\cdots,n $$ 因此，矩阵的相似对角化问题转化为寻求满足 $A\xi=\lambda\xi$ 的 $\xi$...

标签: Algorithms

评论(0) 浏览(532)

行列式的应用

作者：追风剑情发布于：2025-9-9 21:20 分类：Algorithms

1. 行列式与逆矩阵为了寻找刻画方阵可逆的方法，首先引入伴随矩阵的概念。定义 1.11 设 n 阶矩阵 $$ A= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots &...

标签: Algorithms

评论(0) 浏览(1315)

行列式的计算

作者：追风剑情发布于：2025-7-18 21:23 分类：Algorithms

前文说过，对于二阶行列式和三阶行列式，可以用对角线法则。对于四阶以及四阶以上的行列式就没有对角线法则了。通常直接利用定义1.10计算行列式比较复杂。下面通过一些具体的例子来介绍几种常用的计算行列式的方法。计算数字型行列式最常用方法是把行列式化成三角形行列式。例 1.22 计算 4 阶行列式 $ \begin{vmatrix} -1 & 2 &...

标签: Algorithms

评论(0) 浏览(1859)

行列式的性质

作者：追风剑情发布于：2025-6-29 15:19 分类：Algorithms

对于一个 n 阶矩阵 A，如果将其行列式记为 D，即 D=|A|，则 $A^T$ 的行列式也称为 D 的转置，记为 $D^T$，即 $D^T=|A^T|$ 性质 1.6 n 阶矩阵 A 与其转置矩阵 $A^T$ 的行列式相等，即 $|A|=|A^T|$ 这一性质说明，行列式的行与列的地位是平等的。对“行”有的性质，对“列”也有对应的性质。由矩阵初等变换知，...

标签: Algorithms

评论(0) 浏览(1455)

行列式求解二元一次方程组

作者：追风剑情发布于：2025-6-20 22:52 分类：Algorithms

要用行列式（克莱姆法则）解二元一次方程组，步骤如下: 设方程组为： $ \begin{equation} \left\{ \begin{aligned} a_1x + b_1y = c_1 \\ a_2x + b_2y = c_2 \end{aligned} \right. \end{equation} $ 1.计算系数行列式 D $...

标签: Algorithms

评论(0) 浏览(2199)

向量叉积公式的推导

作者：追风剑情发布于：2025-6-14 0:29 分类：Algorithms

1. 从几何意义出发二维叉积的几何意义是两个向量张成的平行四边形的有向面积。其绝对值等于平行四边形的面积，符号由两个向量的相对方向决定（右手法则）。平行四边形的面积公式为： $$ S=|a|\cdot|b|\cdot\sin\theta $$ 其中 $\theta$ 是 a 和 b 之间的夹角。 2. 用坐标表示...

标签: Algorithms

评论(0) 浏览(1539)

投掷武器初始速度计算

作者：追风剑情发布于：2025-5-29 0:43 分类：Algorithms

如上图所示，从A点以θ角向前投掷物体，刚好落在C点，已知高度h、距离d、重力加速度g，求初始速度V0等于多少？（1）将$v_0$分解成水平速度$v_x$和垂直速度$v_y$ $ \begin{flalign} \left\{ \begin{aligned} v_x=v_0\cosθ \\ v_y=v_0\sinθ \\ \end{aligned} \right. \t...

标签: Algorithms

评论(0) 浏览(1168)

相似矩阵

作者：追风剑情发布于：2025-3-20 13:22 分类：Algorithms

设数列$\{x_n\}，\{y_n\}$满足 $ \begin{equation} \left\{ \begin{aligned} x_n&=3x_{n-1} - y_{n-1} \\ y_n&=-x_{n-1} + 3y_{n-1} \end{aligned} \right. \end{equation} $ 其中 $x_0=y_0=1$。我们来求 $x...

标签: Algorithms

评论(0) 浏览(1722)

矩阵变换的优缺点

作者：追风剑情发布于：2025-3-6 11:04 分类：Algorithms

3D中，描述坐标系中方位的一种方法就是列出这个坐标系的基向量，这些基向量是用其他的坐标系来描述的。用这些基向量构成一个3X3矩阵，然后就能用矩阵形式来描述方位。换句话说，能用一个旋转矩阵来描述这两个坐标系之间的相对方位,这个旋转矩阵用于把一个坐标系中的向量转换到另外一个坐标系中。用哪个矩阵？我们已经知道怎样用矩阵将点从一个坐标系变换到另一个坐标系。究竟是用哪个变...

标签: Algorithms

评论(0) 浏览(1685)

规范化三次埃尔米特(Hermite)曲线插值

作者：追风剑情发布于：2024-12-31 10:58 分类：Algorithms

三次埃尔米特(Hermite)曲线插值为了使P(t)的定义区间 $t_0 \le t \le t_1$ 变为区间 $0 \le u \le 1$，可以做如下变换 $$ u=\frac{t-t_0}{t_1-t_0} \tag{4-25} $$ 从式（4-25）中解出 $t=t_0+(t_1-t_0)u$，代入式（4-23）中各式，得 \begin{equation} \l...

标签: Algorithms

评论(0) 浏览(2412)

C#哈夫曼编码文件压缩

作者：追风剑情发布于：2024-10-16 20:43 分类：Algorithms

因为需要将统计表保存到文件中，以便解码时重建哈夫曼树，所以当数据量小时，可能压缩后的文件比原文件还大。哈夫曼编码适合用来压缩数据量大且字符出现频率高的文件。算法原理参见哈夫曼树(Huffman Tree) 一、哈夫曼算法实现 using System; using System.Collections; using System.Collections.Generic...

标签: Algorithms

评论(0) 浏览(2211)

行列式的定义

作者：追风剑情发布于：2024-8-19 21:07 分类：Algorithms

例 1.16 中的$d=a_{11}a_{22}-a_{12}a_{21}$决定了A的可逆性。可见它是对应于方阵A的一个重要的数值。人们称之为A的行列式，并用如下记号来表示 $$ \left| \begin{array}{cc} a_{11} & a_{12} \\ a_{21} & a_{22} \\ \end{array} \right| $$ 一般地，...

标签: Algorithms

评论(0) 浏览(2655)

方阵的行列式

作者：追风剑情发布于：2024-8-17 0:01 分类：Algorithms

众所周知，一个数a的倒数a-1存在当且仅当a≠0。然而由上节的讨论知，即使是非零的方阵也不一定可逆。那么我们能否找到一个刻画方阵特征的数，用这个数来判别方阵在何时可逆？回答是肯定的。本节将采用归纳法来定义n阶行列式，证明它的性质，然后介绍它的计算方法及其应用。我们将会看到上述要找的这个数就是行列式的值：一个方阵可逆当且仅当它的行列式不为零。例 1.16 设 $...

标签: Algorithms

评论(0) 浏览(2669)

用初等变换求逆矩阵

作者：追风剑情发布于：2024-5-25 11:04 分类：Algorithms

设A为可逆矩阵，则$A^{-1}(A,E)=(E,A^{-1})$。可由(1.5.2)可得 $$ P_s \cdots P_2 P_1 (A,E) = (E,A^{-1}) $$ 根据定理1.1，上式意味着对分块矩阵(A,E)施行有限次初等变换，当左边的子块化为单位矩阵E的时候，右边的子块就化为$A^{-1}$。于是可得用初等变换求逆矩阵的方法，即 $$ (A,E) \xrightar...

标签: Algorithms

评论(0) 浏览(3146)

初等矩阵与可逆矩阵

作者：追风剑情发布于：2024-5-17 11:01 分类：Algorithms

除了逆矩阵的定义之外，如何判断一个矩阵是否可逆呢？由定理1.2可知，在把一个复杂的矩阵分解为若干个简单的矩阵的乘积时，矩阵A与初等矩阵和行最简形矩阵有关。因此，这里把判断任一方阵是否可逆的问题转化为初等矩阵和行最简形矩阵是否可逆的问题来完成，并由此得到用初等变换求逆矩阵的方法。首先，先看一下初等矩阵的可逆性。定理 1.5 初等矩阵都可逆，而且初等矩阵的逆矩阵仍是初等...

标签: Algorithms

评论(0) 浏览(4204)

方阵的逆矩阵

作者：追风剑情发布于：2024-4-28 17:15 分类：Algorithms

到现在，我们已经把数的加法与乘法运算“推广”到了矩阵运算，那么自然要问，如何把数的除法运算推广到矩阵运算？在数的运算中，每个数a只要不是零，便有一个数a-1，使得$aa^{-1}=a^{-1}a=1$，对于除法运算b÷a可以用乘法运算$ba^{-1}$或$a^{-1}b$来表示。那么，是否每个矩阵A只要不是零矩阵，便会有一个矩阵B使得AB=BA=E呢？回答是否定的。因为，当矩阵A的行数与列数不...

标签: Algorithms

评论(0) 浏览(2363)

矩阵的转置(二)

作者：追风剑情发布于：2024-4-25 18:17 分类：Algorithms

定义 1.5 把矩阵$A=(a_{ij})_{m×n}$的行依次换成同序数的列得到的n×m矩阵称为矩阵A的转置矩阵，记作$A^T$。例如，矩阵 $ A=\begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ \end{pmatrix} $ 的转置矩阵 $ A^T=\begin{pmatrix} 1 &am...

标签: Algorithms

评论(0) 浏览(2810)

1 2 3 4 5 6 ... »

Powered by emlog 蜀ICP备18021003号-1 sitemap

川公网安备 51019002001593号