当前位置:

首页 > 业界资讯 > Gartner:生成式AI将推动中国企业数据中心设计转型

Gartner:生成式AI将推动中国企业数据中心设计转型

在2024年4月15日消息,Gartner最近发布的一份2024年CIO和技术高管调研显示,超过60%的中国企业计划在未来12至24个月内部署生成式人工智能(GenAI)。由于中国企业倾向于在本地而非通过公有云部署GenAI,目前的基础设施环境无法支持GenAI项目。这将推动中国企业数据中心的设计转型。Gartner研究总监张吕铿表示:“由于安全和数据隐私方面的担忧以及监管要求,一些企业更倾向于在本地部署GenAl解决方案或微调大语言模型(LLM)。在本地部署GenAl对于数据中心来说并不仅仅是一个简单的

本文目录

    Gartner:生成式AI将推动中国企业数据中心设计转型

    在2024年4月15日消息,Gartner最近发布的一份2024年CIO和技术高管调研显示,超过60%的中国企业计划在未来12至24个月内部署生成式人工智能(GenAI)。由于中国企业倾向于在本地而非通过公有云部署GenAI,目前的基础设施环境无法支持GenAI项目。这将推动中国企业数据中心的设计转型。

    Gartner研究总监张吕铿表示:“由于安全和数据隐私方面的担忧以及监管要求,一些企业更倾向于在本地部署GenAl解决方案或微调大语言模型(LLM)。在本地部署GenAl对于数据中心来说并不仅仅是一个简单的托管需求,而是可能改变企业数据中心的战略,因为模型训练需要大规模的GPU集群。”

    Gartner定义了五种GenAI部署方法(见图1)。根据企业选择的GenAI部署方法,中国的首席信息官(CIO)及基础设施和运营(I&O)领导者需要了解GenAI部署的影响以及如何采取行动。

    图1:生成式人工智能部署的五种方法


    Gartner:生成式AI将推动中国企业数据中心设计转型Gartner:生成式AI将推动中国企业数据中心设计转型

    中国的CIO及I&O领导者须为应对这一技术对数据中心的影响做好准备。

    本地部署GenAI将迫使I&O领导者改变托管环境的设计方式

    部署GenAI对数据中心的影响决定了所运行的工作负载类型,因为某些GenAI工作负载需要使用高端图形处理器(GPU)。由于中国市场上的高端GPU供应有限,I&O领导者需要在本地部署GenAI就需要改变托管环境的设计方式。

    I&O领导者无法独自解决供应短缺问题,必须与业务、AI工程师和职能团队合作应对这一挑战。

    张吟铃表示:“为GenAl的部署准备基础设施资源的中国CIO及I&O领导者应该主动与业务及相关团队合作,预测不同工作负载对数据中心的成本和时间表的影响,从而为GenAl的部署制定数据中心宏观战略。如果训练模型需要高端GPU集群,则需要通过平衡成本、风险和机遇(如购买替代硬件或租赁GPU资源),充分了解各类托管方案。”

    部署大规模GPU集群需要改造并升级数据中心基础设施和设备

    从零开始构建基础模型或微调模型需要部署大规模GPU集群,这将对现有数据中心带来颠覆。因为GenAI模型的训练需要高吞吐量、低延迟和无损的基础设施。为了支持此类高性能计算集群,必须对网络、存储、电力供应和冷却系统进行升级。在某些情况下,需要对现有设施进行改造,以承载升级后的基础设施(见图2)。

    图2:大规模GPU集群对数据中心的影响


    Gartner:生成式AI将推动中国企业数据中心设计转型Gartner:生成式AI将推动中国企业数据中心设计转型

    张吟铃表示:“中国CIO及I&O领导者需要与数据科学家和工程师合作,明确GPU集群规模和GenAI性能要求,从而确定网络和存储等方面的基础设施要求。同时,也需要分析电力需求、冷却效率、机架、空间等,确定现有数据中心环境在部署大型GPU集群方面存在的差距。平衡时间和成本,选择最适合的数据中心改造方案。”

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯 人工智能 数据中心
    上一篇: 网易mumu模拟器怎样扩大内存?
    下一篇: 如何使用PHP获取本月第几周的方法?
    相关文章 更多
    llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?
    llama.cpp b12345的Hexagon后端支持哪些Q5量化格式?

    llama.cpp b12345的预发布构建为Hexagon HTP后端增加Q5_0和Q5_1支持。选择模型时需要核对完整量化名称及实际运行后端,不能只看到“Q5”就视为同一种格式。

    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?
    llama.cpp b12344的MCP工具调用在断连或超时后会怎样处理?

    llama.cpp b12344的预发布构建调整了MCP工具调用的取消行为:客户端断连或调用超时时,服务器会向MCP服务发送带请求ID的取消通知。使用服务端工具的Web界面也属于这项变更范围。

    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?
    llama.cpp b12342的CUDA量化计算适用于哪些GPU,如何构建?

    llama.cpp b12342新增面向少列矩阵计算的CUDA量化内核,覆盖2至24个src1列等场景,例如推测解码的验证阶段。新增内核针对Ampere及更新的NVIDIA GPU,并限定于发行说明列出的量化类型;它不是所有硬件与模型都会得到相同收益的通用开关。

    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?
    LiteLLM 1.111.0-dev.1的Docker镜像如何验证签名?

    LiteLLM 1.111.0-dev.1是预发布版本。核对这一镜像是否由对应项目密钥签署,可使用cosign,并把公钥固定到发行说明指定的提交。镜像签名校验与应用功能测试分别进行,校验通过不代表升级后的计费和网关配置已经验证。

    claude怎么收费最新价格与会员收费标准详解
    claude怎么收费最新价格与会员收费标准详解

    想了解Claude怎么收费?本文梳理了Claude Free、Pro及Team版的最新月费价格、消息限额与高级功能权益,并对比了不同层级的性价比,助你快速找到适合的AI办公伙伴。

    sora使用指南国内使用的具体操作步骤教程
    sora使用指南国内使用的具体操作步骤教程

    本文详细解析Sora在国内的使用现状,指出目前官方未对公众开放注册,提醒用户警惕虚假链接,并提供关注官方动态及替代方案的实用建议。

    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破
    南邮光擎智算团队:GaN基Micro-LED光计算芯片从理论到流片的突破

    南京邮电大学“光擎智算”团队联合南京大学,攻克GaN基Micro-LED器件技术,成功搭建实验室级光计算验证系统。团队自主研发的5×5 Micro-LED光电计算阵列芯片已进入流片封装阶段,实现了图像识别等算力任务验证,推动光计算技术从理论走向工程落地。

    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略
    苹果与铠侠签署NAND长期供应协议:3-5年长约与不设价格上限背后的供应链战略

    苹果与铠侠签署为期3-5年的NAND闪存长期供应协议,且可能不设价格上限。此举旨在应对AI数据中心需求激增导致的芯片供应紧张,从单纯压价转向确保稳定供货。

    中国人民大学AI团队揭开大语言模型的隐藏秘密
    中国人民大学AI团队揭开大语言模型的隐藏秘密

    一项研究揭示大语言模型在文本嵌入任务中表现平庸的根源:反嵌入矩阵边缘频谱引入高频词偏见。提出的EmbedFilter方法通过滤除该噪声,在MTEB49项任务上显著提升性能,且无需重新训练,兼容多种基线方法。

    三星欲打造海上浮动AI数据中心,以解决电力与冷却难题
    三星欲打造海上浮动AI数据中心,以解决电力与冷却难题

    三星计划建造50兆瓦海上浮动AI数据中心,以液化天然气发电和海水冷却解决电力与散热难题。已与超微合作进行海洋环境耐受测试,获国际海事初步审批。航运企业参与投资,预计率先部署在沿海城市周边。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。