如何正确拆分数据集？常见的三种方法总结
将数据集分解为训练集，可以帮助我们了解模型，这对于模型如何推广到新的看不见数据非常重要。如果模型过度拟合可能无法很好地概括新的看不见的数据。因此也无法做出良好的预测。拥有适当的验证策略是成功创建良好预测，使用AI模型的业务价值的第一步，本文中就整理出一些常见的数据拆分策略。简单的训练、测试拆分将数据集分为训练和验证2个部分，并以80％的训练和20％的验证。可以使用Scikit的随机采样来执行此操作。首先需要固定随机种子，否则无法比较获得相同的数据拆分，在调试时无法获得结果的复现。如果数据集很小，则不
将数据集分解为训练集，可以帮助我们了解模型，这对于模型如何推广到新的看不见数据非常重要。 如果模型过度拟合可能无法很好地概括新的看不见的数据。因此也无法做出良好的预测。
拥有适当的验证策略是成功创建良好预测，使用AI模型的业务价值的第一步，本文中就整理出一些常见的数据拆分策略。
简单的训练、测试拆分
将数据集分为训练和验证2个部分，并以80％的训练和20％的验证。 可以使用Scikit的随机采样来执行此操作。
首先需要固定随机种子，否则无法比较获得相同的数据拆分，在调试时无法获得结果的复现。 如果数据集很小，则不能保证验证拆分可以与训练拆分不相关。如果数据不平衡，也无法获得相同的拆分比例。
所以简单的拆分只能帮助我们开发和调试，真正的训练还不够完善，所以下面这些拆分方法可以帮助u我们结束这些问题。
K折交叉验证
将数据集拆分为k个分区。 在下面的图像中，数据集分为5个分区。
选择一个分区作为验证数据集，而其他分区则是训练数据集。这样将在每组不同的分区上训练模型。
最后，将最终获得K个不同的模型，后面推理预测时使用集成的方法将这些模型一同使用。
K通常设置为[3,5,7,10,20]
如果要检查模型性能低偏差，则使用较高的K [20]。如果要构建用于变量选择的模型，则使用低k [3,5]，模型将具有较低的方差。
优点:
- 通过平均模型预测，可以提高从相同分布中提取的未见数据的模型性能。
- 这是一种广泛使用的来获取良好的生产模型的方法。
- 可以使用不同的集成技术可以为数据集中的每个数据创建预测，并且利用这些预测进行模型的改善，这被称为OOF(out- fold prediction)。
问题:
- 如果有不平衡的数据集，请使用Stratified-kFold。
- 如果在所有数据集上重新训练一个模型，那么就不能将其性能与使用k-Fold进行训练的任何模型进行比较。因为这个的模型是在k-1上训练的，不是对整个数据集。
Stratified-kFold
可以保留每折中不同类之间的比率。如果数据集不平衡，例如Class1有10个示例，并且Class2有100个示例。 Stratified-kFold创建的每个折中分类的比率都与原始数据集相同
这个想法类似于K折的交叉验证，但是每个折叠的比率与原始数据集相同。
每种分折中都可以保留类之间的初始比率。如果您的数据集很大，K折的交叉验证也可能会保留比例，但是这个是随机的，而Stratified-kFold是确定的，并且可以用于小数据集。
Bootstrap和Subsampling
Bootstrap和Subsampling类似于K-Fold交叉验证，但它们没有固定的折。它从数据集中随机选取一些数据，并使用其他数据作为验证并重复n次
Bootstrap=交替抽样，这个我们在以前的文章中有详细的介绍。
什么时候使用他呢？bootstrap和Subsamlping只能在评估度量误差的标准误差较大的情况下使用。这可能是由于数据集中的异常值造成的。
总结
通常在机器学习中，使用k折交叉验证作为开始，如果数据集不平衡则使用Stratified-kFold，如果异常值较多可以使用Bootstrap或者其他方法进行数据分折改进。
机器学习奠基人MichaelJordan认为AGI是公关炒作，AI的真正挑战在于让系统学会协调。他主张机器学习必须与经济学结合，关注不确定性、激励机制和数据流动等社会系统性问题，而非单纯追求模型能力。
持续坚持原创输出，点击蓝字关注我吧 ❝ 沉淀、分享、成长，让自己和他人都能有所收获！ ❞ 目录 一、前言二、面试题三、线程池讲解1. 先看个例子2. 手写一个线程池3. 线程池源码分析四、总结五、系列推荐一、前言人看手机，机器学习！正好是2020年，看到这张图还是蛮有意思的。以前小时候总会看到一些科
当前数字时代，deepseek入口智能助手凭借前沿技术架构为用户带来革新体验 在如今这个数字浪潮翻涌的时代，deepseek入口智能助手凭借其前沿的技术架构，为用户带来了真正意义上的革新体验。这个平台巧妙融合了自然语言处理与知识图谱技术，能够精准解析那些看似复杂的语义需求，已然成为提升工作效率的智能
刚开始学机器学习时，我也像大部分人 一样，有个很朴素的想法：特征越多，模型能学到的信息就越多，效果自然越好。 所以每次拿到数据，我就拼命往模型里塞特征——能算出来的统计量全加上，能衍生出来的比率全拼上。 一个原本 20 列的数据集，经常被我搞到七八十列。 然后我就发现事情不太对劲了： 训练时间明显变
机器学习实战中，大家往往把精力花在调参和选模型上，却忽略了一个更基础的问题：喂给模型的数据里，有多少特征是真正有用的？ 刚开始学机器学习那会儿，很多人特别喜欢堆特征——不管有用没用先一股脑全塞进去，总觉得特征越多模型越聪明。直到有一次跑练习数据集，X_train.shape 直接干到了 (50000
空气中直径小于100纳米的超细颗粒物每年导致约199万人早逝，其中近半因心血管疾病。该颗粒物主要来自化石燃料，可通过呼吸进入血液，引发氧化应激和内皮功能紊乱，是未被充分认识的心血管危险因素。若年均浓度控制在每立方厘米5000个以下，全球超额死亡率可降低约45%。
这项研究来自Ezgi Korkmaz，论文以预印本形式发布于2026年7月8日，编号为arXiv:2607.07769，发表于cs.LG（机器学习）领域，并将出版于2026年人工智能促进协会（AAAI）会议论文集。有兴趣深入了解的读者可以通过arXiv编号2607.07769查询完整论文。 深度强化
机器人编程侧重硬件组装与程序驱动，编程受限于特定机器人；少儿编程系统化教授编程知识，从Scratch启蒙延伸至Python、C++等高级语言。两者各有侧重，选择取决于希望孩子提升的能力方向。
少儿编程分为软件与硬件两大方向。软件编程侧重逻辑与代码能力，含图形化、Python、C++，适配学业竞赛；硬件编程侧重动手与工程实践，含乐高搭建与机器人。选择应基于孩子兴趣与年龄。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
