信息论 计算 信源熵 离散信源熵的性质 熵非负 熵对信源概率 严格上凸. 是概率测度 最大熵定理: 达到最大熵 时信源概率平均分布 连续信源差熵性质 不一定非负 仍满足严格上凸 最大熵定理: 限定均值为 , 方差 (平均功率) 为 , 最大差熵为 信源概率密度为正态分布 无失真压缩编码 异前置码的克拉夫特不等式: 二元异前置码的码长 满足 表明具有渐进最...