遗传算法的参数选择

如何为遗传算法建模给定系统选择合适数量的参数？

例如，假设您要优化汽车的生产，并且对1,000名不同员工中的每名员工在不同任务下的小​​时效率进行了1,000次测量。因此，您有1,000,000个数据点。其中大多数可能与工厂的整体效率之间存在弱关联，但并非如此弱，以至于您可以说它们与统计信心无关。如何为GA选择输入，以使您没有1,000,000+的自由度，从而导致收敛速度非常慢或完全没有收敛？

具体来说，一个可以用来预选或选择性消除特征的算法是什么？

我在这种情况下使用的一种方法是自行发展参数选择，因此我可能会有像{a,b,c}，{b,d,e,q,x,y,z}等等的父项。然后，我将对孩子进行突变以添加或删除功能。这对几十个功能都适用。但是问题是，如果存在大量的自由度，效率会很低。在这种情况下，您正在查看10^n组合（在上面的示例中10^1,000,000），这使得对功能进行一些预过滤对于获得任何有用的性能至关重要。

首先-该示例似乎不太适合，因为您可能会使用一些回归或经典ML方法来解决此问题。其次-您指的是特征选择 （Kira，Rendell，1992）或属性选择 （Hall，Holmes，2003）或变量选择 （Guyon，Elisseeff，2003）或变量子集选择 （Stecking，Schebesch，2005）的一般问题或特征提取 （Hillion，Masson，Roux，1988）或降维 （Roweis，Saul，200）或状态抽象 （Amarel，1968）。当处理高维数据时，这个问题不仅与遗传算法有关，而且与几乎所有机器学习技术有关。

在这里可以区分三种情况：这个问题的最后一个实例称为状态抽象，通常与流程建模有关（适合您的示例，但不适合GA上下文）。从字面上看问题时，前三个功能（即特征选择，属性选择或变量选择）似乎最相关。在这种情况下，通用的解决方案是mRMR方法（Peng，Long，Ding，2005）。根据我的经验，它并不总是适用于连续数据-但是，互信息可以用其他系数代替，例如相关性。另一种可能的方法是使用交叉验证（Picard，Cook，1984）为了这。您可以有多个使用不同功能的模型，通过使用交叉验证技术进行模型选择，您可以选择最佳模型，从而为您提供有关哪些功能最适合给定任务的信息。

在特征提取和降维情况下，不仅可以选择初始特征，还可以选择其组合。对于这种情况，众所周知的示例解决方案是PCA算法（Pearson，1901年），该算法根据解释的方差产生最优的特征集，即输入特征的线性组合。

还要注意，有许多模型可以自己处理特征提取任务。例如：神经网络的成长（Fritzke，1995），LASSO （Tibshirani，2011），RFE SVM （Zeng，Chen，Tao，2009），决策树（Quinlan，1986）。

参考文献：

• Kenji Kira和Larry A.Rendell。1992。一种实用的特征选择方法。在第九届国际机器学习研讨会（ML92）的会议记录中，Derek Sleeman和Peter Edwards（编辑）。Morgan Kaufmann Publishers Inc.，美国加利福尼亚州旧金山，编号249-256。

• 马萨诸塞州霍尔; Holmes，G。，“用于离散类数据挖掘的基准属性选择技术”，知识和数据工程，IEEE交易，第15卷，第6期，第1437,1447页，11月至12月。2003年

• Isabelle Guyon和AndréElisseeff。2003。变量和特征选择简介。J.马赫 学习。Res。3（2003年3月），1157-1182。

• Ralf Stecking，Klaus B. Schebesch。2005年。《使用支持向量机进行信用评分的变量子集选择》，《运筹学进展》 2005年，施普林格·柏林·海德堡，（2005年），第251-256页。

• 希里恩 马森，P .；Roux，C.，“一种用于线性特征提取的非参数方法；在二进制合成纹理的分类中的应用”，《模式识别》，1988年，第9届国际会议，第10卷，第1039页，第2卷，第14期1988年11月-17日

• 通过局部线性嵌入来减少非线性维数。Sam Roweis和Lawrence Saul。Science，第290卷第5500号，2000年12月22日。第2323--2326页。

• Amarel，S。（1968）。关于动作推理问题的表示，机器智能（3），131--171

• 彭华；Fulmi Long; Ding C.，“基于最大依赖性，最大相关性和最小冗余的互信息标准的特征选择”，《模式分析和机器智能》，IEEE期刊，第27卷，第8期，第1226页， 2005年8月1238日

• 理查德·皮卡德（Richard R. Picard）和丹尼斯·库克（R. Dennis Cook），《美国统计协会杂志》第1卷。79，No.387（1984年9月），第575-583页

• 在最接近太空点系统的直线和平面上。2，第6号。（1901年），第559-572页，作者：K。Pearson

• 不断发展的神经气体网络学习拓扑，Bernd Fritzke，会议：神经信息处理系统-NIPS，第625-632页，1994年

• 通过套索进行回归收缩和选择：回顾展，Robert Tibshirani，《皇家统计学会杂志》 B系列，2011年，第一卷。73，第3期，第273-282页

• 曾祥艳 陈仁伟；蔡霞涛; Van Alphen，D.，“使用递归特征消除进行手写数字识别的特征选择”，智能信息隐藏和多媒体信号处理，2009年。IIH-MSP '09。第五届国际会议，2009年9月12日至14日，第1205,1208页，第

• JR昆兰。1986年。归纳决策树。马赫 学习。1，1（1986年3月）81-106。

我以前从未做过，而且显然没有访问这些数据的权限，但是实现这一目标的一种潜在的好方法是通过集群。对于每个员工，我们都有一个n维向量，其中每个维对应于一个不同的任务。然后，我们可以使用群集将“相似”的员工分组在一起；但是，这将完全取决于您的数据，即，很可能仅给1000名员工，集群将产生与实际上并没有任何关系的员工组，因此尽管我们可能会减少人口，可能以信息丢失为代价。