多项式回归 - 由于相似数据点的集群,最小二乘法失败了

问题描述

警告 - 我不是一个高阶数学/分析书呆子,所以虽然我知道 (或最近拿起)关于这个话题的一些东西,我的知识是 不深。不是数据科学家。

我正在尝试获得一条曲线来拟合数据,我可以在其中判断最小绝对偏差 (LAD) 可能会运行良好,并且线性回归也可能会运行良好。我确实想拟合一条曲线,因为我希望根据这些数据所依赖的曲线来拟合曲线。如果可能,我确实想使用 2 次多项式,但我对是否有比传统的最小二乘 (LS) 多项式拟合更好的选择感兴趣,或者可以通过哪些方式改进数据以适应这种拟合。

在大多数情况下,最小二乘拟合会给我一个有用的结果,但有时它可能会让我失望:

Least Squares Fail

请注意,在这种情况下,出现三个或四个集群最终会导致 LS(此图表中的“模型询问”)在 x=1224 附近出现峰值。然后它严重错过了右上角的较少数据点。

我还绘制了此数据的线性拟合(浅蓝色)。

我想到的一个减少数据集群权重的想法是通过将数据点除以 y 值并用每个桶的平均 x 和 y 替换它们来“分桶”(或可能量化)数据。高度填充的桶被缩减为单个数据点,而单个数据点保持不变。

您可能认为这会受到异常值的严重影响 - 但是我的整个过程是将数据作为流处理 - 重新计算每个 n 数据点的拟合,并使用现有模型在我们进行时排除异常值。

无论如何,浅绿色的拟合线就是这个过程的结果。看起来任何其他 LS 拟合(没有预处理输入)都没有失败。

我的第一个问题是 - 任何人都可以想出任何更好(更健壮)的方法来确定我的数据的多项式吗?在我看来,LAD 会更健壮,但它需要迭代才能找到解决方案。我希望这在计算中是轻量级的(或者至少是可预测的)。

我的另一个问题 - 如果我知道期望多项式不同于最小二乘法在这里尝试,通过以编程方式检查系数来测试不合适是否安全?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)