当前位置:

首页 > 论可再现性在机器学习中的重要性

论可再现性在机器学习中的重要性

译者|布加迪审校|重楼当我自学机器学习时,经常试着根据项目教程编写代码,我会按照作者概述的步骤来做。但有时候,我的模型的表现会比教程作者的模型要差。也许您也遇到过类似的情况。或者,您只是从GitHub拉取了同事的代码。而您模型的性能指标与同事的报告声称的性能指标不一样。所以做同样的事情并不能保证同样的结果,是不是?这是机器学习中一个普遍存在的问题:可再现性难题。不用说,机器学习模型只有在别人可以复制试验并再现结果时才有用。从典型的“它在我的机器上工作”问题到机器学习模型训练方式的细微变化,可再现性存在几个

译者 | 布加迪

审校 | 重楼

当我自学机器学习时,经常试着根据项目教程编写代码按照作者概述的步骤来做。但有时候,我的模型的表现会比教程作者的模型差。也许您也遇到过类似的情况。或者,您只是从GitHub了同事的代码。而您模型的性能指标与同事报告声称的性能指标不一样。所以做同样的事情并不能保证同样的结果,是不是?这是机器学习中一个普遍存在的问题:可再现性难题

用说机器学习模型只有在人可以复制试验现结果时才有用。从典型的它在我的机器上工作”问题到机器学习模型训练方式的细微变化,再现性存在几个挑战。

我们在本文中将仔细研究机器学习中再现性的挑战和重要性,以及数据管理、版本控制和实验跟踪在解决机器学习再现性挑战中的作用。

什么是机器学习背景下的再现性

不妨看看如何在机器学习的背景下最准确地定义再现性。

假设一个现有的项目针对给定的数据集使用特定的机器学习算法。有了数据集和算法,我们应该能够运行算法想运行多少次就运行多少次,并在每次运行再现复制)结果

但机器学习再现性并非没有挑战。我们已经讨论了其中几个挑战不妨在下一节中更详细地讨论它们。

机器学习中再现性的挑战

任何应用环境都存在可靠性和可维护性等挑战。然而在机器学习应用中,还存在额外的挑战。

当我们谈论机器学习应用时,我们通常指端到端机器学习管道,它们通常包括以下步骤

论可再现性在机器学习中的重要性


由于其中一个或多个步骤的变更,可能会出现再现性问题。大多数变更都可以记录在下面其中一种变更中:

  • 环境变更
  • 代码变更
  • 数据变更

不妨看看这每一种变更在如何阻碍再现性。

环境变更

Python和基于Python的机器学习框架使开发机器学习应用程序变得轻而易举。然而,Python中的依赖管理管理某个项目所需的不同库和版本)却并非易事。一个小小的变更就足以破坏代码,比如使用不同版本的库和使用被废弃的参数的函数调用

包括操作系统的选择。存在硬件相关的挑战,比如GPU浮点精度方面的差异等。

代码变更

清洗输入数据集以确定哪些样本进入训练数据集,到训练神经网络时随机初始化权重,随机性在机器学习中扮演着重要作用。

设置不同的随机种子可能导致全不同的结果。对于我们训练的每个模型,都有一组超参数。因此,调整一个或多个超参数也可能导致不同的结果。

数据变更

便使用相同的数据集,我们也看到超参数值和随机性的不一致性如何使复制结果变得困难。因此,当数据发生变化(数据分布变化、记录子集的修改或丢弃某些样本时,显然很难再现结果。

总之,当我们试图复制机器学习模型的结果时,哪怕是代码、用的数据集和机器学习模型运行的环境出现小小的变化也会阻止我们获得与原始模型相同的结果。

如何应对再现性挑战

现在我们看看如何应对这些挑战。

论可再现性在机器学习中的重要性

数据管理

我们发现再现性最明显的挑战之一是数据方面。有某些数据管理方法比如对数据集进行版本控制),这样我们就可以跟踪数据集变更,并存储数据集方面的有用元数据。

版本控制

应该使用Git之类的版本控制系统跟踪代码的任何变更

在现代软件开发中,您可能遇到过CI/CD管道,它可以大大简化以下操作,并大大提高效率:跟踪变更、测试新变更,并将它们推送到生产环境

在其他软件应用程序中,跟踪代码的变更简单直观。然而在机器学习中,代码变更还可能需要对所用的算法和超参数值进行更改。即使对于简单的模型,我们可以尝试的可能性的数量也非常。这就是实验跟踪的意义所在。

实验跟踪

构建机器学习应用程序等同于进行广泛的试验。从算法到超参数,我们尝试不同的算法和超参数值,因此跟踪这些试验很重要。

跟踪机器学习试验包括如下:

  • 记录超参数扫描
  • 记录模型的性能指标模型检查点
  • 存储关于数据集和模型的用元数据

用于机器学习实验跟踪和数据管理等操作的工具

如前所述,控制数据集版本、跟踪代码变更以及跟踪机器学习实验都可以复制机器学习应用程序。下面几个工具可以帮助您构建可再现的机器学习管道:

结语

综上所述,我们已回顾了机器学习中再现性的重要性和挑战。我们讨论了数据和模型版本控制以及实验跟踪等方法。此外,我们还列出了一些可以用于实验跟踪和更有效的数据管理的工具。

原文标题:The Importance of Reproducibility in Machine Learning,作者:Bala Priya C


本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
机器学习
相关文章 更多
机器学习之父MichaelJordan:AGl是炒作,AI的下一个战场是经济学
机器学习之父MichaelJordan:AGl是炒作,AI的下一个战场是经济学

机器学习奠基人MichaelJordan认为AGI是公关炒作,AI的真正挑战在于让系统学会协调。他主张机器学习必须与经济学结合,关注不确定性、激励机制和数据流动等社会系统性问题,而非单纯追求模型能力。

“异算方舟”国产计算系统软件生态全栈平台发布
“异算方舟”国产计算系统软件生态全栈平台发布

6月29日,中科院计算机网络信息中心等单位发布“异算方舟”国产计算系统软件生态全栈平台。该平台针对算法供给不足、代码迁移困难、智能应用落地慢三大痛点,打造九衍枢算法库、无界BoundX代码转换大模型、Agent-HiReFlow自动化仿真智能体三大能力,提供从底层算法到代码适配再到智能应用的一体化解决方案。

手写线程池,对照学习ThreadPoolExecutor线程池实现原理!
手写线程池,对照学习ThreadPoolExecutor线程池实现原理!

持续坚持原创输出,点击蓝字关注我吧 ❝ 沉淀、分享、成长,让自己和他人都能有所收获! ❞ 目录 一、前言二、面试题三、线程池讲解1. 先看个例子2. 手写一个线程池3. 线程池源码分析四、总结五、系列推荐一、前言人看手机,机器学习!正好是2020年,看到这张图还是蛮有意思的。以前小时候总会看到一些科

熵基科技发布HuggingZKT算法商城
熵基科技发布HuggingZKT算法商城

熵基科技发布HuggingZKT算法商城,面向空间智能领域打造端云协同AI算法管理平台,覆盖算法训练、发布、订阅、升级等全生命周期,形成开放高效的算法服务体系,推动园区、楼宇等场景的AI能力敏捷调用,助力空间智能规模化应用迈入新阶段。

deepseek-智能助手入口
deepseek-智能助手入口

当前数字时代,deepseek入口智能助手凭借前沿技术架构为用户带来革新体验 在如今这个数字浪潮翻涌的时代,deepseek入口智能助手凭借其前沿的技术架构,为用户带来了真正意义上的革新体验。这个平台巧妙融合了自然语言处理与知识图谱技术,能够精准解析那些看似复杂的语义需求,已然成为提升工作效率的智能

芬兰阿尔托大学找到了让视觉文档理解彻底摆脱
芬兰阿尔托大学找到了让视觉文档理解彻底摆脱"坐标困境"的新路径

芬兰阿尔托大学提出用语言引用原文代替坐标定位,解决视觉文档理解中的归因幻觉问题。实验显示,该方法使归因幻觉率从97%降至28%,证据召回率从个位数提升至50%以上,且答案质量几乎不变。

用相关性分析消除“冗余特征”
用相关性分析消除“冗余特征”

刚开始学机器学习时,我也像大部分人 一样,有个很朴素的想法:特征越多,模型能学到的信息就越多,效果自然越好。 所以每次拿到数据,我就拼命往模型里塞特征——能算出来的统计量全加上,能衍生出来的比率全拼上。 一个原本 20 列的数据集,经常被我搞到七八十列。 然后我就发现事情不太对劲了: 训练时间明显变

用方差阈值过滤掉“惰性特征”
用方差阈值过滤掉“惰性特征”

机器学习实战中,大家往往把精力花在调参和选模型上,却忽略了一个更基础的问题:喂给模型的数据里,有多少特征是真正有用的? 刚开始学机器学习那会儿,很多人特别喜欢堆特征——不管有用没用先一股脑全塞进去,总觉得特征越多模型越聪明。直到有一次跑练习数据集,X_train.shape 直接干到了 (50000

超细空气颗粒物每年致约199万人早亡
超细空气颗粒物每年致约199万人早亡

空气中直径小于100纳米的超细颗粒物每年导致约199万人早逝,其中近半因心血管疾病。该颗粒物主要来自化石燃料,可通过呼吸进入血液,引发氧化应激和内皮功能紊乱,是未被充分认识的心血管危险因素。若年均浓度控制在每立方厘米5000个以下,全球超额死亡率可降低约45%。

当我们用错误的尺子量对了东西,会发生什么?
当我们用错误的尺子量对了东西,会发生什么?

这项研究来自Ezgi Korkmaz,论文以预印本形式发布于2026年7月8日,编号为arXiv:2607.07769,发表于cs.LG(机器学习)领域,并将出版于2026年人工智能促进协会(AAAI)会议论文集。有兴趣深入了解的读者可以通过arXiv编号2607.07769查询完整论文。 深度强化

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。