机器学习中的特征构建和规范化

可以说我想为电影M创建一个Logistic分类器。我的特征将是诸如人的年龄，性别，职业，位置之类的东西。因此，训练集将类似于：

• 年龄性别职业位置Like（1）/ Dislike（0）
• 23 M软件US 1
• 24 F Doctor UK 0

等等。...现在我的问题是我应该如何缩放和表示我的特征。我想过的一种方法是：将年龄划分为年龄组，因此18-25、25-35、35岁以上，性别为M，F，位置为美国，英国，其他。现在为所有这些值创建一个二进制特征，因此age将具有3个二进制特征，每个特征对应于一个年龄组，依此类推。因此，来自美国的28岁男性将被表示为010 10 100（010->年龄组25-35，10->男性，100->美国）

在这里表示功能的最佳方法是什么？另外，我在一些例子中也注意到了。sklearn的研究表明所有特征均已按某种方式进行了缩放/归一化，例如，性别由两个值分别代表，男性和女性为0.0045和-.0.0045。我不知道如何进行这样的缩放/道德化？

二进制情况

如果您希望特征是二进制的，则分类（实数）值的良好表示形式是一种热（实数温度计）编码。你并不需要正常化他们。

对于分类功能的一种热编码，您只需为每个类保留一位。因此，此编码的长度就是要素的类数。让我们以国家为例，

• 美国00001
• 英国的00010
• 亚洲地区00100
• 欧洲01000
• 10000其他

对于实/整数特征的温度计编码，必须选择长度和阈值。对于年龄示例，您已选择根据阈值18,25和35划分年龄。

• 000代表0-17
• 001代表18-25
• 011代表25-34岁
• 111以上为35

$$\overbrace{0 \cdot 0 \cdot 0 \cdot 1 \cdot 0}^{UK}\cdot \overbrace{0 \cdot 1 \cdot 1 }^{30yo}$$

连续情况

$$\overbrace{0 \cdot 0 \cdot 0 \cdot 1 \cdot 0 }^{UK}\cdot \overbrace{30 }^{30yo}$$

正如BGreene所说，您应该对该值进行归一化以保持平均值0和标准偏差1，从而确保许多回归模型的稳定性。为此，只需减去经验均值并除以经验标准差即可。

Y_normalized = ( Y - mean(Y) ) / std(Y)

$(30-25)/10 = 0.5$

$$\overbrace{0 \cdot 0 \cdot 0 \cdot 1 \cdot 0}^{UK}\cdot \overbrace{0.5 }^{30yo}$$