English | 简体中文 | 繁體中文

阿里5nm RISC-V芯片首秀:30 token/s

栏目:热闻      📅 发布时间:2026-08-19 12:00:14

8月19日消息,阿里巴巴达摩院于2026年3月发布的RISC-V旗舰CPU玄铁C950,近日成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需模拟层的情况下,直接运行270亿参数级别的AI模型。玄铁C950采用台积电5nm工艺制造,是一颗64位服务器级RISC-V处理器。芯片集成64个计算核心,每8核一组通过高速AMBA CHI总线互联,主频最高3.2GHz。单核通用性能在SPECint2006基准测试中突破70分,刷新全球RISC-V CPU性能纪录。在玄铁C950上运行通义千问3.8-27B模型时,解码速度达到30 token/s,首Token延迟控制在1.9秒以内。相比之下,在传统GPU方案上运行270亿参数模型通常需要16GB至24GB显存。玄铁C950仅靠CPU加片上加速引擎即可完成推理,无需外接独立显卡。

补充纠错