当前位置:

首页 > 业界资讯 > “AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

本站6月2日消息,在目前正在进行的黄仁勋2024台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其NIM(NvidiaInferenceMicroservices)云原生微服务。英伟达认为“AI工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推动其全栈重塑。为方便各种规模的企业部署AI服务,英伟达今年3月推出了NIM(NvidiaInferenceMicroservices)云原生微服务。NIM+是一套经过优化的云原生微服务,旨在缩短上市时间,并简化生

本站 6 月 2 日消息,在目前正在进行的黄仁勋 2024 台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推动软件全栈重塑,展示其 NIM(Nvidia Inference Microservices)云原生微服务。

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

英伟达认为“AI 工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推动其全栈重塑。

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

为方便各种规模的企业部署 AI 服务,英伟达今年 3 月推出了 NIM(Nvidia Inference Microservices)云原生微服务。

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

NIM+是一套经过优化的云原生微服务,旨在缩短上市时间,并简化生成式 AI 模型在云、数据中心和 GPU 加速工作站的任何位置的部署。它使用行业标准 API,抽象化 AI 模型开发和生产打包的复杂性,从而扩展开发者池。

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

本站注意到,官方制作了一个 llama3 大模型的 NIM 容器,现已上线英伟达官网,开放供全部用户下载并任意部署。

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

“AI 工厂”将推动软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户部署

▲ 英伟达官网

2024 台北国际电脑展专题

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
业界资讯
相关文章 更多
英伟达推出NVHBM:定制HBM带宽提升30%并扩展NVLink Fusion生态
英伟达推出NVHBM:定制HBM带宽提升30%并扩展NVLink Fusion生态

英伟达发布定制HBM技术NVHBM,通过集成内存控制器至HBM基础裸片,实现带宽较HBM4E提升30%、功耗降低15%,并释放主芯片25%空间。亚马逊Annapurna Labs为首个合作伙伴,该技术旨在通过标准化方案加速定制AI芯片开发,而非取代通用HBM。

英伟达 RTX PRO 6000 Blackwell 全线涨价 较去年首发价高出 55%
英伟达 RTX PRO 6000 Blackwell 全线涨价 较去年首发价高出 55%

英伟达RTXPRO6000Blackwell官方标价升至13250美元,较首发价8565美元上涨55%。受显存市场紧绷及AI需求升温影响,专业显卡价格持续走高,折射出高端GPU市场供需格局演变。

英伟达未发布的 RTX 2080 Ti SUPER 显卡首次曝光:拥有 4608 个 CUDA 核心与 12GB 显存 规格直逼 Titan RTX
英伟达未发布的 RTX 2080 Ti SUPER 显卡首次曝光:拥有 4608 个 CUDA 核心与 12GB 显存 规格直逼 Titan RTX

英伟达未发布的RTX2080TiSUPER工程样品现身eBay,配备4608个CUDA核心、12GB显存及384-bit位宽,规格接近TitanRTX。该卡因性能与定价内斗被取消,需在测试模式下修改驱动方可使用。

高管将访问英伟达总部讨论实体AI  LG旗下股票大涨
高管将访问英伟达总部讨论实体AI LG旗下股票大涨

近日,LG旗下多家子公司高管将集体访问英伟达总部,探讨实体人工智能与机器人领域合作。此前董事长已与黄仁勋会面。此消息推动LG电子、LGCNS等公司股价出现上涨。

英伟达统治超算榜单:TOP500占81%
英伟达统治超算榜单:TOP500占81%

英伟达在TOP500超算中占据81%份额,新上榜系统近90%采用其技术。AI训练吞吐量是其他平台总和两倍以上,推理吞吐量近三倍。Green500前八名均搭载英伟达GPU,GraceCPU系统增至26台,欧洲正开发35台英伟达AI超算。

UOS系统英伟达显卡驱动怎么安装
UOS系统英伟达显卡驱动怎么安装

在统信UOS系统中,若要安装NVIDIA显卡驱动,有以下三种方式:一是利用图形化驱动管理器,一键启用即可自动禁用nouveau并重启lightdm;二是通过APT最新源来安装适配驱动,在此之前需先清除残留,再执行sudo apt install nvidia-driver命令;三是手动安装.run驱

339.99 美元:技嘉 RTX 3060 12GB 显卡在美国重新上架 比 2021 年首发贵 10 美元
339.99 美元:技嘉 RTX 3060 12GB 显卡在美国重新上架 比 2021 年首发贵 10 美元

技嘉RTX306012GB显卡在美重新上架,售价339.99美元,比首发价贵10美元。WindforceRev2.0版参数不变。华硕也在欧洲铺货,两家同步动作引发RTX50系列供货困境猜测。

英伟达被曝不提供免费零食咖啡 黄仁勋崇尚节俭
英伟达被曝不提供免费零食咖啡 黄仁勋崇尚节俭

英伟达不提供免费零食咖啡,公司餐厅仅部分补贴,普通咖啡免费但特饮自费。没有乒乓球桌、健身房等休闲设施,副总裁出差坐经济舱且无专属助理。创始人黄仁勋崇尚节俭,倡导专注业务。这种务实文化助力公司市值屡创新高。

Valar 利用先进反应堆为英伟达 Blackwell 芯片提供核能支持
Valar 利用先进反应堆为英伟达 Blackwell 芯片提供核能支持

美国核能初创企业瓦拉原子能公司成功利用先进反应堆为英伟达Blackwell芯片供电,这是美国下一代反应堆首次实现。双方计划在犹他州共建小型数据中心,验证AI设施通过核能与闭环液冷技术实现自给自足。

原价8299元!RTX 5080公版国内限量开抢
原价8299元!RTX 5080公版国内限量开抢

英伟达在BilibiliWorld2026设立体验站,限量发售RTX5080公版显卡,售价8299元。玩家需通过在线预约、现场打卡或任务互动获取必购券,每UID限兑一次。现场持券可获京东必购码下单。活动持续三天,售完即止。

查看更多
精品专题 更多
装机必备
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows
Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件
macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

Mac软件 更多
灵活计算器
灵活计算器
macOS/iOS/Android

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师
macOS

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

WINDOWS 更多
Windows 10
Windows 10
Windows

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式
Windows/macOS/Linux

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘
Windows/macOS/iOS/Android

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。