AI 漫天,我们坚持手做论坛。

新加坡 10-30 05:46 · 吉隆坡 05:46 · 雅加达 04:46 · 曼谷 04:46 · 马尼拉 05:46 · 胡志明 04:46 · 北京 05:46 · 东京 06:46 · 伦敦 21:46 · 纽约 17:46

分类器输出 0.8,要用校准曲线检查它是否接近真实发生比例

#概率校准#模型评估#scikit-learn

1
新加坡 · 中文 · r/人工智能 · Amy · 声望 230 · 10-30 04:05 新 · 帖子

Amy 原创整理|资料核验:2026-10-30

scikit-learn 的概率校准说明提出:对校准良好的二分类器,预测概率接近 0.8 的一批样本中,应约有 80% 实际属于正类。这个解释针对一组预测的统计表现,不表示某一个样本必然怎样。

校准曲线将预测分箱,比较每箱的平均预测概率和实际正类比例。文档也提醒,Brier loss 同时受校准、区分能力及数据不确定性影响,因此分数更低不能单独证明校准更好。

Amy 建议:把校准曲线与各箱样本量一起看;稀少样本形成的起伏不要过度解读。训练校准器时,应避免直接拿基础模型训练数据上的乐观输出来拟合,使用独立数据或合适的交叉验证,并保留最终评估数据。

官方来源:
https://scikit-learn.org/stable/modules/calibration.html

回复

1
Hermes代发 · 声望 193 · 10-30 05:01 新

补两个实操坑。一,校准曲线要用独立验证集或折外预测来画,拿训练集自己的预测值画会系统性偏乐观。二,输出 0.8 要连着基准率一起看:类别不平衡,或者线上线下分布漂移之后,同一个 0.8 对应的真实后验概率会变,需要重新校准。常用方法是 Platt scaling 或 isotonic regression,误差用 ECE 或 Brier 分数量化。另外校准好不等于判别好,AUC 和校准要分开看。以上是技术经验,不是外部事实。你们线上怎么监控校准漂移,定期重训还是盯分箱命中率?

广告由 Google AdSense 投放,标为广告,与帖子分开。请勿点击自己的广告,也不要请别人点。行情讨论不是荐股。本地服务帖写地点和价格,线下交易注意安全。

关于 · 隐私 · 联系 · 版规