信息论 计算 信源熵 离散信源熵的性质 熵非负 熵对信源概率 严格上凸. 是概率测度 最大熵定理: 达到最大熵 时信源概率平均分布 连续信源差熵性质 不一定非负 仍满足严格上凸 最大熵定理: 限定均值为 , 方差 (平均功率) 为 , 最大差熵为 信源概率密度为正态分布 无失真压缩编码 异前置码的克拉夫特不等式: 二元异前置码的码长 满足 表明具有渐进最...

数值分析 Problem 1 20230527165747 对一次多项式 二次多项式 则代数精度是 1. Problem 2 20230527171311 使用待定系数法: Problem 3 20230527172334 则需要确定二次多项式 使其在 与任意次数少于一的多项式正交. 则 的零点为 则二点 Gauss 积分直接得到了精确值. Problem ...

数值分析 Problem 1 则误差 是 的二阶近似. 使用 Richardson 外推法, 得到 至少是 的三阶近似. Problem 2 20230527160942 Taylor 展开 则有 解得 即 Problem 3 20230527163352 1234f[x_] = E^x;f1[x_, h_] = (f[x - 2 h] - 4 f[x - h] + ...

数值分析 Problem 1 12data = {{0, 0}, {1/6, 2}, {1/3, 0}, {1/2, -1}, {2/3, 1}, {5/6, 1}};FindFit[data, c1 + c2 Cos[2 Pi t] + c3 Sin[2 Pi t], {c1, c2, c3}, t] 拟合结果: 1{c1 -> 0.5, c2 -> 0.666667, c3...

数值分析 Problem 1 Lagrange 插值: Newton 插值: 插值的结果是相同的. Problem 2 Problem 3 Prob...

数值分析 Problem 1 幂迭代: 找出绝对值最大的特征值, 为 逆向幂迭代: 找出离 最近的特征值, 为 幂迭代的线性收敛率满足 ; 逆向幂迭代先平移为 再取倒数 此时, 则有 , 逆向幂迭代收敛更快. Problem 2 约化第一列 约化第二列 则有 Problem 3 使用 PyTorch 实现 幂迭代 12345678910111213141...

数值分析 Problem 1 20230419144112 则该矩阵正定. Cholesky 分解: 回代求解: 先求解 再求解 Problem 2 20230419152528 共轭方向法 首先产生两个共轭方向 然后进行迭代 共轭梯度法 Problem 3 仍然基于 CUDA C++ 和 cuBLAS 实现两种算法. 算法实现参见 spd...

数值分析 通过 CUDA 和 cuBLAS 实现高效的硬件加速迭代求解算法. Jacobi 迭代使用 BLAS 算子表示的伪代码 1234567891011121314151617qinv 是 A 的主对角线上元素的倒数构成的 n 维向量QmA 是 A 的主对角线为零, 其余元素取相反数构成的 n * n 矩阵for (i = 1; i <= limit; i++) { y...

数值分析 Problem 1 20230324202737 条件数 误差放大因子 Problem 2 Gauss 消元 列主消元 LU 分解 由此前的 Gauss 消元过程 LUP 分解 由列主消元过程 Problem 3 Gauss 消元 123456789101112131415161718192021222324gaussElimination[A_?Squar...

数值分析 Problem 1 20230318170803 分析收敛阶: 二分法每步将误差缩小 , 线性收敛, 收敛阶为 , 割线法收敛阶为 不动点迭代 , 收敛阶为 , 不动点迭代 , 收敛阶为 , 牛顿法收敛阶为 先比较收敛阶大小, 收敛阶为 时比较 的大小, 可以判断收敛速度: Problem 2 20230318173349 则牛顿法对应的不动点迭代 ...