信息熵（香农）
信息熵（香农）计算器。输入离散信源各符号概率，计算平均信息量 H（bit/符号），概率应和为 1、零概率项记 0，是数据压缩与加密强度分析的基础指标。
🌡️ Shannon Entropy
Compute Shannon entropy H (bits/symbol) from discrete source symbol probabilities (probabilities should sum to 1; zero-probability terms count as 0).
📐 计算公式与说明
H = −Σ pᵢ · log₂(pᵢ)
概率应之和为 1；某事件概率为 0 时该项记 0。
📚 深度解析：信息熵（香农）
💡 常见使用场景
- 压缩下限：熵即无损压缩平均码长的理论下限。
- 随机性评估：高熵提示数据接近均匀分布、更"随机"。
- 密码学强度：密钥/ nonce 的熵衡量抗猜测能力。
示例：公平硬币
p=0.5/0.5 → H=−2×0.5·log2(0.5)=1 bit/符号；偏倚越小熵越低。
❓ 常见问题（FAQ）
- 概率必须和为 1 吗？
- 是，离散信源概率归一；若输入频率会自动归一化。
- 零概率项怎么处理？
- 按极限 0·log(0)=0 计入，不贡献熵。
- 熵高一定好？
- 压缩场景高熵意味着难压缩；安全场景高熵（密钥）是好事。