多层感知机处理结构化数据训练详解

MLP处理结构化数据效果被低估，关键在于预处理（数值标准化、类别嵌入/独热、缺失值稳健填充）、合理结构（宽于深、禁用dropout、可选特征交叉）及训练细节（小学习率、早停、小batch、特征诊断）。

多层感知机（MLP）在结构化数据上效果常被低估，其实只要预处理得当、网络设计合理、训练策略到位，MLP完全能媲美甚至超越部分树模型——关键不在“能不能用”，而在“怎么用对”。

结构化数据进 MLP 前必须做好的三件事

结构化数据（如 CSV 表格）天然含类别特征、数值特征、缺失值和量纲差异，直接喂给 MLP 会严重拖累收敛和泛化。

• 数值特征标准化而非归一化：用 StandardScaler（均值为0、方差为1），别用 MinMaxScaler。MLP 的激活函数（如 ReLU、GELU）对输入偏移敏感，零均值更利于梯度传播；尤其当特征量级差异大（比如年龄≈35，收入≈80000），标准化能避免小梯度淹没。
• 类别特征必须嵌入或独热，不能直接编码为整数：LabelEncoder 生成的 0/1/2 是序数标签，MLP 会错误解读为“2 > 1 > 0”的数值关系。低基数（≤10）用 one-hot，高基数（如用户ID、商品ID）务必用可学习的 embedding 层（PyTorch 中 nn.Embedding，Keras 中 Embedding），维度设为 min(50, round(1.6 * sqrt(cardinality))) 是经验起点。
• 缺失值不填均值/中位数就废了：对数值特征，建议用 IterativeImputer（基于回归的多重插补）或简单但稳健的 KNNImputer；对类别特征，统一新增一个 "MISSING" 类别再编码。切忌用 0 或 -1 填充——这会引入虚假模式。

MLP 结构设计的实用守则

结构化数据没有空间/时序局部性，不需要 CNN/RNN 那套归纳偏置，但也不能堆深度。过深易过拟合，过浅学不到交互。

• 宽度比深度更重要：推荐从 [256, 128, 64] 或 [128, 64, 32] 开始，每层用 ReLU 或 GELU，禁用 dropout（结构化数据样本量通常不大，dropout 会加剧不稳定性；改用 L2 权重衰减更稳妥）。
• 输入层前加特征交叉预处理（可选但有效）：比如“城市+职业”组合可能比单独特征更有判别力。不用手动枚举，可用 sklearn.preprocessing.PolynomialFeatures(degree=2, interaction_only=True) 提取二阶交互项（注意控制维度爆炸，先选 top-k 方差大的原始特征做交叉）。
• 输出层严格匹配任务：二分类用单神经元 + sigmoid + BCEWithLogitsLoss（logits 损失自带数值稳定）；多分类用 nn.CrossEntropyLoss（内部含 softmax）；回归任务输出层**不要加激活函数**，损失用 MSELoss 或 HuberLoss（对异常值更鲁棒）。

训练过程里最容易忽略的四个细节

很多 MLP 效果差，不是模型不行，是训练“没训明白”。

• 学习率别用 1e-3 硬扛：结构化数据 batch size 通常较小（256~1024），初始学习率建议从 3e-4 到 5e-4 起步；用 ReduceLROnPlateau（监控验证集 loss，patience=5，factor=0.5）比固定衰减更稳。
• 验证集必须早停，且 patience 设大点：MLP 在结构化数据上收敛慢，loss 曲线常有平台期。设置 patience=15~20，监控指标用 validation AUC（分类）或 RMSE（回归），不是 accuracy（尤其类别不平衡时）。
• Batch size 不是越大越好：超过 1024 后梯度估计反而变差，且小 batch 更易跳出尖锐极小值。实测 512 常是平衡点；若显存吃紧，可用梯度累积（gradient accumulation steps=2~4）模拟大 batch。
• 别跳过特征重要性诊断：训练完用 torch.abs(model.linear1.weight).mean(0)（第一层权重绝对值均值）粗略看哪些原始特征驱动最强；或用 integrated gradients / SHAP 解释单样本预测，快速发现数据泄漏或特征污染（比如时间戳泄露未来信息）。

什么时候该果断换模型？

MLP 不是万能解。遇到以下情况，及时转向更适配的模型：

• 训练集 少于 5k 样本：数据太小时 MLP 容易过拟合，优先试 XGBoost/LightGBM（内置正则、对小数据友好）；
• 存在大量高基数稀疏类别特征（如点击日志中的 URL、搜索词）：MLP embedding 效果有限，更适合用 Wide & Deep 或 DeepFM；
• 特征间有明确层级或图结构（如用户-商品-品类三级关系）：此时图神经网络（GNN）或树模型更自然。

基本上就这些。MLP 处理结构化数据不复杂，但容易忽略预处理与训练细节。把标准化、嵌入、早停、学习率调好，它就是一把沉稳可靠的刀——不惊艳，但可靠。