XOR MLP with GA,分析具有不同交叉/变异概率的图,可以得出什么结论?

问题描述

我对 GA 比较陌生,但我想我会试一试。我已经编写了一个 GA(使用 Deap 库)来替换我的多层感知器中的反向传播。目标是找到解决 XOR 算子的最佳权重。代码似乎产生了可靠的结果,接近收敛。

我尝试了不同的交叉/突变概率。到目前为止我唯一的结论是概率越高,收敛越慢,这是否准确?

Experimentation with probabilities

解决方法

这个问题更多是理论方面的问题,您可能想在 Artificial IntelligenceCross Validated Stack Exchange 论坛上寻求一些扩展指导。

但简短的回答是这样的:您正在比较每一代产生大量不同个体的情况(a. 和极端情况 - c.)与非常稳定的情况,每代大约有 1 个个体发生变化(50 名成员中的 1% + 1%)。这意味着在情况 a.特别是 c.您的个人在解决方案空间中跳跃并探索最佳解决方案。同时接近b。可以看作是循序渐进的系统探索。

取决于手头的问题——你的问题看起来很简单(因此解决方案空间很小)——策略 b。更好,因为人们正在迅速确定解决方案。在非常复杂的解空间的情况下,a。可能是相当不错的参数设置。方法 C.在这两种情况下似乎都过于探索 - 必须在保持有前途的个体在几代人中完好无损与探索新个体之间取得平衡。与 c。随着时间的推移,几乎不可能留住这些有前途的候选者 - 几乎整个人口几乎每一代都可能发生变化。