超参数优化采样

问题描述

我希望你能用你的专业知识和广博的知识来帮助我解决一个问题,我将尽量表达 :) 我有一个问题,据我所知,应该是也发生在 AutoML 方法中。

上下文:对于一个对象,我可以计算确定派生特征的 n 个(在我的例子中为 9 个)特征。一个随机示例是图像(对象)及其特征,例如,它可以压缩的程度,或对比度得分,或可以找到多少边缘等。 到目前为止一切顺利,但现在维度不一定不相关/线性无关。这可能意味着一个维度中的高值可能意味着另一个维度中的高值或低值或限制值范围。说明性示例: 压缩不佳的图像很可能在颜色或渐变方面表现出很大的差异。 (完全是我编的)

问题:现在想象我想“学习”一个对象生成器,它可以根据(派生的)HD特征空间中的位置为我生成所有这些对象 em>。旁注,这个问题不是哪个 ML 模型(GAN、变分自动编码器或其他一些 AI 模型,你说的)可以用于这个问题。我的挑战是确保我已经“捕获”了 AI 模型学习步骤的整个功能特征空间。 但是,如果我什至不清楚维度之间的函数依赖关系如何,我怎么能确定我已经对空间进行了采样(足够)?最重要的是,即使我有维度之间的相关性分数,哪个疯狂的数学优化器将此作为输入来告诉我高清空间“看起来像”如何?

这个问题的相当模糊的数学描述是我有一个 n 维特征空间,其维度不形成正交基。因此,维度不是(必然)线性独立的,并且它们的依赖性不能轻易/完全导出。我如何(通过实验)确定可能的解决方案空间?哪些数学问题具有(至少一些)相似之处?哪个数学、ML、AI 子学科处理这些类型的问题?

还有一件事:我不希望有任何类型的成熟解决方案,而只是指针。

非常感谢!!!!

解决方法

你考虑过降维吗?如果它是您特别感兴趣的线性关系,您可以考虑特征值分解(或主成分分析,如果您喜欢这个术语)。这可能有助于识别特征空间的可达子空间。

还存在更先进的降维方法,它们也能够处理特征之间的非线性依赖关系。一个例子是使用自动编码器人工神经网络。

相关问答

Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其...
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。...
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbc...