当前位置:

首页 > 业界资讯 > 适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

2023年10月27日,智谱AI于2023中国计算机大会(CNCC)上,推出了全自研的第三代基座大模型ChatGLM3及相关系列产品,这也是智谱AI继推出千亿基座的对话模型ChatGLM和ChatGLM2之后的又一次重大突破。此次推出的ChatGLM3采用了独创的多阶段增强预训练方法,使训练更为充分。评测显示,在44个中英文公开数据集测试中,ChatGLM3在国内同尺寸模型中排名首位。智谱AICEO张鹏在现场做了新品发布,并实时演示了最新上线的产品功能。ChatGLM3全新技术升级更高性能更低成本通过更丰

本文目录

    2023年10月27日,智谱AI于2023中国计算机大会(CNCC)上,推出了全自研的第三代基座大模型ChatGLM3及相关系列产品,这也是智谱AI继推出千亿基座的对话模型ChatGLM和ChatGLM2之后的又一次重大突破。此次推出的ChatGLM3采用了独创的多阶段增强预训练方法,使训练更为充分。评测显示,在44个中英文公开数据集测试中,ChatGLM3在国内同尺寸模型中排名首位。智谱AI CEO张鹏在现场做了新品发布,并实时演示了最新上线的产品功能。

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    ChatGLM3全新技术升级 更高性能更低成本

    通过更丰富的训练数据和更优的训练方案,智谱AI推出的ChatGLM3性能更加强大。与ChatGLM2相比,MMLU提升36%、CEval提升33%、GSM8K提升179% 、BBH提升126%。

    同时,ChatGLM3瞄向GPT-4V本次实现了若干全新功能的迭代升级,包括多模态理解能力的CogVLM-看图识语义,在10余个国际标准图文评测数据集上取得SOTA;代码增强模块Code Interpreter根据用户需求生成代码并执行,自动完成数据分析、文件处理等复杂任务;网络搜索增强WebGLM-接入搜索增强,能自动根据问题在互联网上查找相关资料并在回答时提供参考相关文献或文章链接。ChatGLM3的语义能力与逻辑能力得到了极大的增强。

    ChatGLM3还集成了自研的AgentTuning技术,激活了模型智能体能力,尤其在智能规划和执行方面,相比于ChatGLM2提升了1000% ;开启了国产大模型原生支持工具调用、代码执行、游戏、数据库操作、知识图谱搜索与推理、操作系统等复杂场景。

    此外,ChatGLM3本次推出可手机部署的端测模型ChatGLM3-1.5B和 ChatGLM3-3B,支持包括vivo、小米、三星在内的多款手机以及车载平台,甚至支持移动平台上CPU芯片的推理,速度可达20 tokens/s。精度方面1.5B和3B模型在公开benchmark上与ChatGLM2-6B模型性能接近。

    基于最新的高效动态推理和显存优化技术,ChatGLM3当前的推理框架在相同硬件、模型条件下,相较于目前最佳的开源实现,包括美国加州大学伯克利分校推出的 vLLM 以及Hugging Face TGI的最新版本,推理速度提升了2-3倍,推理成本降低一倍,每千tokens仅0.5分,成本最低。

    新一代“智谱清言”上线 国内首推代码交互能力

    在全新升级的ChatGLM3赋能下,生成式AI助手智谱清言已成为国内首个具备代码交互能力的大模型产品(Code Interpreter)。

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    “代码”功能目前已支持图像处理、数学计算、数据分析等使用场景。以下分别为:

    • 处理数据生成图表;
    • 代码绘制图形;
    • 上传SQL代码分析。

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    随着WebGLM大模型能力的加入,智谱清言也具有了搜索增强能力,可以帮助用户整理出相关问题的网上文献或文章链接,并直接给出答案。

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    此前已发布的CogVLM 模型则提高了智谱清言的中文图文理解能力,取得了接近GPT-4V的图片理解能力,它可以回答各种类型的视觉问题,并且可以完成复杂的目标检测,并打上标签,完成自动数据标注。

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    自2022年初,智谱AI推出的GLM系列模型已支持在昇腾、神威超算、海光DCU架构上进行大规模预训练和推理。截至目前,智谱AI的产品已支持10余种国产硬件生态,包括昇腾、神威超算、海光DCU、海飞科、沐曦曦云、算能科技、天数智芯、寒武纪、摩尔线程、百度昆仑芯、灵汐科技、长城超云等。通过与国产芯片企业的联合创新,性能不断优化,将有助于国产原生大模型与国产芯片早日登上国际舞台。

    适配更多国产芯片,智谱AI推出第三代基座大模型ChatGLM3

    智谱AI此次推出的ChatGLM3及相关系列产品,全面提升了自身的模型性能,为业界打造了更开放的开源生态,并进一步降低了普通用户使用AIGC产品的门槛。AI正在引领我们进入一个新的时代,大模型必将加速这一时刻的到来。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯
    相关文章 更多
    自主研发 我国团队攻克国产芯片编译优化核心瓶颈
    自主研发 我国团队攻克国产芯片编译优化核心瓶颈

    双擎智译”团队自主研发的OSCAR智能编译优化系统,成功突破国产芯片编译优化的核心瓶颈。该系统能显著提升国产处理器的编译水平与性能,为芯片生态建设提供关键技术支撑。团队已成立公司推动技术产业化,并将适配更多国产处理器架构,深化AI与编译技术融合。

    首个智算运维智能体评测基准落地 覆盖5款主流国产芯片
    首个智算运维智能体评测基准落地 覆盖5款主流国产芯片

    中国信通院发布AISHPerf3.0,包含智算运维和算子生成两项智能体评测基准。其中智算运维基准为业内首个,覆盖天数、壁仞、沐曦、摩尔、昇腾5款国产芯片集群运维场景,填补标准空白,推动国产算力从“能用”迈向“好用、高效、稳产”。

    马斯克AI终端布局引市场关注,国产芯片产业链映射逻辑梳理
    马斯克AI终端布局引市场关注,国产芯片产业链映射逻辑梳理

    SpaceXAI终端传闻虽被否认,但凸显市场对AI终端落地的强烈预期,算力从云端向终端扩散逻辑强化。国产芯片产业链受益于AI需求扩散与国产替代共振,科创板芯片ETF覆盖中芯国际、海光信息等核心标的,近期涨幅明显,回调或为布局窗口。

    得力睿印系列高速打印机发布:搭载龙芯2P0300国产芯片 全链路自主可控
    得力睿印系列高速打印机发布:搭载龙芯2P0300国产芯片 全链路自主可控

    得力发布睿印系列高速打印机,搭载龙芯2P0300芯片,内置TCM安全芯片实现全链路自主可控。性能覆盖31—40ppm速度段,适配政务、金融、医疗等行业软件,同时推出国内首款龙芯主控彩色喷墨打印机,技术从政企拓展至家用市场。

    无问芯穹夏立雪:智能体带来Token分层,国产芯片适配效果明显提升
    无问芯穹夏立雪:智能体带来Token分层,国产芯片适配效果明显提升

    无问芯穹Token调用量7个月增长40倍,95%推理任务来自智能体。已纳管16种芯片共3.7万P算力,推理成本降至十分之一,未来仍有90%下降空间。智能体带来任务分层,推动国产芯片适配效果显著提升。

    国产芯片与开源鸿蒙驶入两轮赛道 哈啰推出新一代领航者助力车
    国产芯片与开源鸿蒙驶入两轮赛道 哈啰推出新一代领航者助力车

    哈啰在包头推出新一代领航者助力车,搭载上海海思芯片、OpenHarmony系统及高德导航,实现触碰解锁、车载导航及停车提示。国产芯片、开源操作系统与地图服务在共享出行场景首次系统级协同,降低用户操作负担,提升骑行安全与便捷性。

    摩尔线程公布万卡级集群训练成绩 称国产芯片可训出前沿模型
    摩尔线程公布万卡级集群训练成绩 称国产芯片可训出前沿模型

    在2026年WAIC上,摩尔线程宣布基于国产万卡集群完成236B参数MoE模型训练,有效训练时长超90%,与国际主流GPU对比误差控制在万分之六内;与北大合作训练的5D世界模型连续37天排名第一;异构推理方案提升吞吐量近2倍。

    字节跳动加量采购国产芯片
    字节跳动加量采购国产芯片

    字节跳动近期扩大国产芯片采购规模,旨在强化供应链自主可控,降低对外部依赖。此举标志国内科技企业加速国产替代进程,推动本土芯片产业升级,增强产业链韧性,促进国产芯片生态成熟。

    自主研发!我国团队攻克国产芯片这一关键难题
    自主研发!我国团队攻克国产芯片这一关键难题

    大连理工大学团队自主研发的OSCAR智能编译优化系统,攻克了国产芯片编译优化的核心瓶颈。该系统融合大模型自适应优化等技术,在典型计算负载下性能显著提升,为高端计算、AI训练等场景释放芯片潜力,补齐国产芯片生态关键一环。

    国产芯片攻克卡脖子难题!全球最低功耗双频Wi-Fi 6发布:功耗仅高通芯一半
    国产芯片攻克卡脖子难题!全球最低功耗双频Wi-Fi 6发布:功耗仅高通芯一半

    就在今天,物奇微电子扔出了一颗重磅冲击波——WQ9002芯片。这款芯片被定义为全球最低功耗的双频Wi-Fi 6方案,同时支持2.4G/5G双频段和BLE 5.4,瞄准的正是AI眼镜这类可穿戴设备最头疼的痛点:Wi-Fi模块功耗过高。物奇微电子是目前中国大陆唯一一家能量产Wi-Fi 6 AP芯片的企业

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。