模型融合加权投票
按各模型权重计算加权投票或加权平均的集成输出概率,适用于集成学习、模型融合与预测精度提升方案评估。
🤖 Ensemble Weighted Voting
Combine several models by weighted voting or weighted averaging to get an ensemble probability, and see how each model weight shifts the result.
📐 计算公式 / 原理
加权平均概率 = Σpᵢwᵢ / Σwᵢ;硬投票 = Σ[pᵢ ≥ 0.5] ≥ 2 判正类;集成置信度 = |加权概率 − 0.5| × 2
软投票用权重平均概率,能利用模型输出的置信度信息,通常优于硬投票的多数决。权重可按各模型验证集表现分配;若子模型同质性太强(同一架构不同种子),集成增益会非常有限。
📐 计算公式与说明
P_ensemble = Σ(wᵢ·pᵢ) / Σwᵢ
权重可基于模型验证性能分配。
📚 深度解析:模型融合加权投票
💡 常见使用场景
- 加权投票:对各类别累加各模型输出概率×权重,取最大者为预测。
- 加权平均直接对各模型输出概率做加权和,权重常按单模型验证准确率设定。
- 融合能降低方差、提升稳健性,前提是基模型具备多样性(误差不相关)。
两模型加权融合
模型A对类别1概率0.7(权重0.6),模型B 0.4(权重0.4) → 融合=0.7×0.6+0.4×0.4=0.58,仍判为类别1。若B权重更高(0.7)则=0.7×0.3+0.4×0.7=0.49 翻转为类别0。
❓ 常见问题(FAQ)
- 融合一定比单模型好吗?
- 不一定。若基模型高度相关(同源训练),融合增益很小甚至过拟合;只有误差多样、互补的模型融合才稳定提升。
- 权重怎么定?
- 常用各模型在验证集的准确率或 AUC 作权重,也可用网格搜索/线性规划优化组合系数,避免随意设定。