首页 / 科技 / 芯展速在WAIC 2026展出AI90软硬件一体化AI推理加速方案

芯展速在WAIC 2026展出AI90软硬件一体化AI推理加速方案

摸鱼不慌
摸鱼不慌

7月20日消息,芯展速(GenStorAIGE)在WAIC 2026展会上亮相,并对外展示了其AI90软硬件一体化AI推理加速方案。

展出动作:核心信息与现场定位

此次展出发生在WAIC 2026这一人工智能领域的重要展会上。芯展速(GenStorAIGE)携带的AI90方案,是其展台的核心演示内容。

芯展速(GenStorAIGE)在WAIC 2026展出AI90软硬件一体化AI推理加速方案。

方案解析:什么是“AI90软硬件一体化AI推理加速方案”

从名称上拆解,该方案主打“软硬件一体化”与“AI推理加速”。所谓软硬件一体化,是指将用于推理的专用硬件加速单元与上层的推理软件框架进行深度整合,形成一套完整可交付的系统。

AI推理加速方案主要面向AI模型训练完成后的部署环节,旨在提升模型在实际应用中的推理效率与吞吐量。

参展主体:芯展速(GenStorAIGE)

芯展速(GenStorAIGE)是此次在WAIC 2026上展出该方案的企业。报道中提到的公司名称及展出的方案,构成了本次事件的核心主体与产品。

展会背景:WAIC 2026

WAIC 2026是报道中提及的展会。该展会汇集了多家人工智能相关企业,芯展速(GenStorAIGE)在此场合展示其AI90方案,表明该方案已被推向行业视野。

  • 方案属性:软硬件一体化的AI推理加速方案
  • 展出时间:WAIC 2026展期
  • 消息来源:IT之家7月20日报道
芯展速在WAIC 2026展出AI90软硬件一体化AI推理加速方案  第1张

AI90将高性能SSD纳入GPU显存体系 首Token延迟降低50倍

AI90技术方案通过构建HBM+DRAM+SSD三级存储体系,将KV Cache(键值缓存)卸载至固态硬盘,使GPU推理性能大幅提升。该方案实现首Token延迟从秒级降至亚秒级,提速50倍;吞吐量提升5.1倍;显存占用节省39%。

三级存储架构原理

方案打破传统显存层次,利用高性能SSD作为GPU显存的扩展。KV Cache是Transformer模型推理中存储键值对的中间数据,占显存比重最大,将其卸载到大容量SSD,可有效缓解昂贵HBM的容量压力。数据按需在HBM(高速高带宽)、DRAM(系统内存)和SSD之间流动,形成三级协同的存储体系。

多卡互联与长上下文支持

结合智能P2P多卡互联技术,AI90在8卡NVIDIA GeForce RTX 5090集群上推理加速可达5.8倍,并支持128K+上下文。P2P技术实现显卡间直接数据交换,降低传统跨卡通信瓶颈,提升并行效率。配合三级存储释放的显存空间,长上下文的推理得以在消费级显卡集群上运行。

首Token延迟从秒级降低至亚秒级,提速50倍;吞吐量提升5.1倍;显存节省39%。

关键性能指标

  • 首Token延迟:降至亚秒级,较原有秒级提速50倍
  • 推理吞吐量:提升5.1倍
  • 显存占用:节省39%
  • 8卡RTX 5090集群推理加速:5.8倍
  • 支持上下文长度:128K+

该技术方案使得基于消费级硬件的推理集群能够处理更长上下文,降低了大规模模型部署的硬件门槛。

芯展速在WAIC 2026展出AI90软硬件一体化AI推理加速方案  第2张

芯展速推出PT200Z AI SSD 写入耐久度达100 DWPD

芯展速推出的PT200Z AI SSD,专为AI场景中KV Cache卸载带来的高写入负载而设计。该产品基于pSLC闪存介质,采用PCIe Gen5接口,DWPD(每日全盘写入次数)最高达100,具备高耐久度特性。

应对AI负载下的存储挑战

在AI推理与训练过程中,KV Cache卸载会产生频繁且大量的写入操作,对SSD的耐久性提出考验。PT200Z AI SSD的高DWPD设计正是为了满足此类持续写入场景的需求。

性能与规格

PT200Z AI SSD顺序读取速度达到14.8GB/s,随机读取为3100KIOPS,读取时延54μs,写入时延10μs。关键规格如下:

  • 闪存介质:pSLC
  • 接口:PCIe Gen5
  • DWPD:最高100
  • 顺序读取:14.8GB/s
  • 随机读取:3100KIOPS
  • 读取时延:54μs
  • 写入时延:10μs
PT200Z AI SSD关键数据:顺序读取14.8GB/s,随机读取3100KIOPS,DWPD最高达100,读取时延54μs,写入时延10μs。

技术基础

pSLC闪存通过模拟单层单元模式运行,在写入耐久度与性能之间取得平衡,结合PCIe Gen5接口的高带宽,使PT200Z AI SSD能够满足AI应用中的高写入要求。

此类针对AI场景定制的存储产品,为数据中心和AI基础设施的存储层提供了专门的解决方案。