当前位置:

首页 > 业界资讯 > AI大牛李沐装机视频来了!你也能练100亿的大模型

AI大牛李沐装机视频来了!你也能练100亿的大模型

Air Explorer Pro
Air Explorer Pro

Air Explorer Pro是一款跨平台多网盘管理工具,可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

立即下载
¥99
Windows/macOS 2026-08-22
正版软件 Windows macOS软件 Pro 文件搜索工具 Pro下载 Pro正版软件 Pro购买

在还没出装机视频前,李沐老师曾发起了一个小小的问卷调查,趁着显卡降价,看下童鞋们对装机跑Transformer有多大兴趣。当时,就连华为天才少年「稚晖君」都来点赞了,足见大家还是很期待的。这不,沐神带着他的装机视频来了。怎样用最低的成本训练一个100亿模型?而就在最近,币圈也在一直降温,同时GPU也明显降价了不少,就比如英伟达3090TI现在售价1600美元(原价2000美元)。在这个项目的开始,先装了2台原型机,每台机器都是双卡RTX3090TI,采用了水冷散热系统,减少了噪音。一台机器装下来,造价有

本文目录

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    在还没出装机视频前,李沐老师曾发起了一个小小的问卷调查,趁着显卡降价,看下童鞋们对装机跑Transformer有多大兴趣。

    当时,就连华为天才少年「稚晖君」都来点赞了,足见大家还是很期待的。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    这不,沐神带着他的装机视频来了。怎样用最低的成本训练一个100亿模型?

    而就在最近,币圈也在一直降温,同时GPU也明显降价了不少,就比如英伟达3090TI现在售价1600美元(原价2000美元)。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    在这个项目的开始,先装了2台原型机,每台机器都是双卡RTX 3090TI,采用了水冷散热系统,减少了噪音。

    一台机器装下来,造价有5000多美元,大约3万5人民币。

    话不多说,来看看沐神如何装机的吧~

    装机清单

    装机的需求,首先就要是足够安静。不然太吵的话没法工作。

    第二个需求就是散热要好。不然温度过高的话会导致GPU降频。

    第三个,重点来了,因为需要跑比较大的Transformer模型,所以GPU的带宽必须足够好。

    如果之前装过GPU服务器用来跑CNN的话,跟跑Transformer模型的需求会不太一样。因为Transformer模型比CNN模型要更大,对内存的占有率会更高。所以GPU的内存大小非常重要。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    之前沐神也讲过,要把这样大的Transformer模型放到多个GPU上训练,来自谷歌、微软等的工程师都是使用类似DGA X100这样的机器来跑的。即使在这样的机器上,GPU的带宽仍然是一个瓶颈。

    购买这种服务器GPU和游戏GPU的区别就在于,前者不在于单卡能跑多快,而是卡与卡之间能够多快地连接出来。

    因此装机理念的重点就是:尽量增大GPU内存,以及GPU之间互联的一个带宽,

    如果一台机器想放很多卡的话,就要买涡轮的散热。

    如果想要安静的话,就买水冷的散热,沐神买的是4块3090 TI。用水冷的好处是比较安静,坏处就是特别占地方。

    所以,如果要在机箱放四块卡的话,就不要买水冷的版本,而是要买只有一个涡轮风扇的版本。

    而且机箱里风的流向是一个特别重要的问题。如果买带3个风扇的卡,风是从正面进入机箱,然后从四面八方散热,卡挨得紧的话,机箱里的温度就会非常高。

    沐神也说,自己在多年前,买了四块2个大风扇的卡放在一起,结果就导致一块卡温度过高烧掉了。

    GPU选好以后(华硕的ROG), 剩下的配置就比较简单。CPU用的是AMD的12核CPU,主板是号称PCIE 4.0 16的某牌子,硬盘是2 TB的M.2的硬盘,风扇是120毫米水冷风扇,加一个全尺寸机箱。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    装机步骤

    装机清单完成后,接下来就是具体的装机过程了。步骤如下:

    首先放GPU。注意,放的过程中一定不能用手碰金属的地方,如果有静电的话非常容易造成GPU导电。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    把GPU放进去之后,把螺丝拧上。然后把风扇装进去。

    插上电源后,把电源线和水管线绑在一起。然后把NVLink的桥给连上去。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    最后连上电源,机器就可以运行了。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    压力测试

    在装机完成后,下一步的任务就是继续装上操作系统。

    沐神装的是ubuntu22,装上之后就靠远程连上去了。

    当然了,沐神也是把各种情况说的比较详细,除了ubuntu22以外,windows和linux在不同的需求下也是可以的。

    这里沐神用的SSH进行的远程连接。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    沐神的系统已经装上了驱动,同时,他也指出如果还没有驱动的话,也可以用apt-get装上nvidia-driver-515。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    装好之后,就可以运行nvidia-smi,看到系统了。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    从中可以看到各项信息。比如GPU的数量、温度、瓦数、内存使用等等。

    接下来还可以通过nvidia-smi的topo-m矩阵看到nv-link是否正常。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    可以看到两个GPU由NV4连接。4表示4个通道,这就代表连接是正常的。

    下一题,是测试系统在满负荷的情况下的温度。

    沐神表示,测试GPU的是一个叫gpu-burn的小程序,github上可以下载。

    这里沐神模拟跑了十分钟,也是看到了两个GPU的温度。沐神还打趣说,都能感觉到GPU在呼呼吹热风。

    同理,CPU也可以用这种办法测试温度,用的是cpu-burn。

    最终两个GPU的温度停留在58度和55度,功耗拉到了440多瓦(满功耗480瓦),还挺好的。

    最后的一项参数是机器的耗电情况。沐神的测试大概用了1240瓦,意味着每小时用电1.5度。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    从目前的数据来看,稳定性还ok。

    至于用这台机器跑Transformer性能怎么样,还得等下期视频了。

    网友热评

    视频发出后,b站的网友也表示出了极大的兴趣。

    有满分课代表同学出没,列出了视频中提到的完整配置清单。AI大牛李沐装机视频来了!你也能练100亿的大模型

    还有网友火速前来围观,「跟李沐学装机」。

    AI大牛李沐装机视频来了!你也能练100亿的大模型


    沐神自己表示,感觉3090ti的卡不是太行。马上有网友搭腔,「不行就抽了送人吧。」

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    当然了,这种硬核装机视频下的评论肯定少不了幽默因素。

    AI大牛李沐装机视频来了!你也能练100亿的大模型

    只能说,太真实了。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 AI 模型
    相关文章 更多
    AI重构企业业务架构:超聚变“智企”范式核心解析
    AI重构企业业务架构:超聚变“智企”范式核心解析

    本文解析超聚变在2026数博会发布的“智企”范式,重点阐述如何通过Token生产平台(Token Factory)与企业业务本体建模,实现从简单AI工具调用到企业应用架构系统性重构的演进。文章详细拆解了智能体编排、数字孪生及生态协同等关键技术路径,为AI时代企业数字化转型提供可落地的参考方案。

    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案
    微软推出Project Zenith:面向Windows 11开发者的AI硬件加速方案

    微软于9月5日推出Project Zenith,旨在为Windows 11开发者提供更高效的AI开发体验。该项目目前仅支持配备超过64GB统一内存及250GB/s内存带宽的特定硬件,首发适配AMD Ryzen AI Halo设备。通过此项目,开发者可在本地运行参数超过300亿的AI模型,后续将分阶段扩展至更多合作伙伴设备。

    习惯Office转WPS要多久?双生态兼容与无缝切换指南
    习惯Office转WPS要多久?双生态兼容与无缝切换指南

    从Office转向WPS的核心操作肌肉记忆切换通常需3至7天,不影响正常办公。适应期长短取决于界面视觉差异与专属格式配置。通过切换“经典界面”、嵌入字体及开启云同步,可实现平滑过渡。本文详解格式兼容、数据迁移及AI功能适用场景,适用于需多端协同、成本控制及国产化兼容的办公人群。

    专家:AI聊天不能越界成“精神依赖”|科技观察
    专家:AI聊天不能越界成“精神依赖”|科技观察

    加拿大一母亲起诉OpenAI,称ChatGPT设计缺陷导致其女儿自杀,指控其优先用户参与度而非安全性,持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”,需设定边界并引导求助。国家已出台拟人化互动服务管理办法。

    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?
    未上真车,AI先当教练!2026届高考生,将成为首批“原生AI司机”?

    2026届高考生学车时多采用AI教练,逐步适应人机共驾。作为与生成式AI共同成长的一代,他们更易接受智能驾驶,未来可能成为首批“原生AI司机”。至2030年前后,其人生首辆车或具备L3级自动驾驶能力,驾驶角色将从操控者转向监督者。

    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!
    AI热潮来袭,何去何从?别被“错失恐惧症”裹挟!

    全球股市因AI热潮呈现K型分化,半导体板块估值逼近百倍市盈率。历史警示:2000年互联网泡沫中的“四骑士”最终市值暴跌或长期盘整。投资者应警惕“错失恐惧症”,重视安全边际、护城河与能力圈,避免被高估值裹挟,关注稳健性与股息率。

    报告:背负技术债的企业更难从 AI 应用中获益
    报告:背负技术债的企业更难从 AI 应用中获益

    Cloudflare报告显示,完成应用现代化的企业从AI投资中获得可衡量回报的概率是未现代化企业的三倍。93%的决策者视系统更新为AI先决条件,91%的领先企业已嵌入AI功能。安全与现代化协同推进可使AI成熟度提升四倍,精简技术架构成为竞争力分水岭。

    微软称保守假设下,典型AI查询耗水量少于1滴水
    微软称保守假设下,典型AI查询耗水量少于1滴水

    据微软引用《Joule》期刊的一项研究指出,每一次典型人工智能查询耗电量零点一六至零点六零瓦时,其冷却用水量中位数不足一滴水。大规模部署下,单位查询的效率会更高,总能耗可以降低一半以上。

    A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长
    A股异动丨PCB概念掀涨停潮,大摩称AI光模块PCB三年迎5倍增长

    A股PCB概念板块掀起涨停潮,因摩根士丹利报告预测AI光模块PCB市场三年增长超5倍,2025至2028年规模从6.2亿美元增至37.7亿美元,年复合增速高达83%,远超光模块整体增速。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。

    即将离开本站
    您即将前往第三方网站,请确认是否继续?