芯展速AI90固态硬盘显存化方案亮相:首Token延迟缩短至1/50
芯展速AI90方案将SSD纳入GPU显存体系,构建HBM+DRAM+SSD三级存储,首Token延迟降低50倍至亚秒级,吞吐量提升5.1倍,显存节省39%。结合智能P2P多卡互联,8块RTX5090集群实现5.8倍加速,支持128K上下文。配套PT200ZSSD基于pSLC闪存,DWPD达100,读取延迟54微秒,满足AI推理缓存需求。
在WAIC 2026展会上,芯展速(GenStorAIGE)带来了一套名为AI90的软硬件一体化AI推理加速方案。简单来说,这套方案的核心思路是把高性能SSD直接纳入GPU显存体系,让KV Cache可以卸载到更大容量的固态硬盘上,从而构建起HBM + DRAM + SSD三级存储架构。

效果相当惊人:首Token延迟从秒级直接降到了亚秒级,提速整整50倍;吞吐量提升了5.1倍;显存节省了39%。更关键的是,结合智能P2P多卡互联技术,AI90可以让8块NVIDIA GeForce RTX 5090组成的集群实现最高5.8倍的推理加速,并且支持128K以上的上下文窗口。这意味着,过去需要昂贵大显存设备才能跑起来的大模型推理任务,现在用消费级显卡集群也能高效完成。

当然,KV Cache卸载到SSD上会带来极高的写入负载,普通SSD根本扛不住。为此,芯展速同步推出了PT200Z AI SSD。它基于pSLC闪存介质,采用PCIe Gen5接口,DWPD(每天全盘写入次数)最高可达100。顺序读取速度14.8GB/s,随机读取3100K IOPS,读取延迟54微秒,写入延迟10微秒。这样的性能参数,足以应对AI推理场景下频繁的缓存读写需求。
Postman是一套面向API全生命周期的开发与测试平台,可在Mac上发送和调试多种协议请求,管理集合、环境及认证信息,并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用,提供个人免费方案。
Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境,集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。
Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境,基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。
Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求,并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等
Docker Desktop 为 Windows 开发者提供集成式容器环境,内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件,可在本机完成镜像构建、容器运行、日志查看和资源管理。
Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境,以 IntelliJ IDEA 为基础,集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具,













