量化精度对比 — 交互式分析
调整 outlier 强度,观察不同量化位数下的精度损失
Outlier强度:
5×
① 原始值分布(直方图)
60 个正态分布值 + 2 个 outlier | 横轴=数值 | 纵轴=频次
② 量化精度对比
Scale = 量化步长(越小精度越高)| RMSE = 均方根误差(综合精度指标)| 利用率 = 实际使用的量化级别占比
③ 误差分布(每个值的绝对误差,从大到小排序)