联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型
11月6日晚间,联发科发布了旗舰芯片天玑9300。根据官方介绍,天玑9300升级为APU790,支持8倍速生成式AITrasformer算子加速,具备独特的内存硬件压缩技术和NeuroPilotCompression混合精度INT4量化技术,同时整数运算速度提升2倍,浮点运算速度提升2倍,功耗降低了45%联发科官方表示,他们已经成功将天玑9300移植到终端设备上,并在该设备上成功运行了70亿参数的人工智能大语言模型。此外,他们还成功运行了130亿参数和330亿参数的人工智能大语言模型还有,天玑9300还支
11月6日晚间,联发科发布了旗舰芯片天玑9300。根据官方介绍,天玑9300升级为APU 790,支持8倍速生成式AI Trasformer算子加速,具备独特的内存硬件压缩技术和NeuroPilot Compression混合精度INT4量化技术,同时整数运算速度提升2倍,浮点运算速度提升2倍,功耗降低了45%
联发科官方表示,他们已经成功将天玑 9300 移植到终端设备上,并在该设备上成功运行了70亿参数的人工智能大语言模型。此外,他们还成功运行了130亿参数和330亿参数的人工智能大语言模型
还有,天玑9300还支持生成式AI文生图功能,可以生成表情包
联发科还发布了“蓝心小V”,这是与vivo合作打造的工具,已经在2023年vivo开发者大会上推出,是OriginOS 4的“专属私人助理”。更多详细信息请参考IT之家之前的报道
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。
















