中科曙光将发布面向大模型推理的词元加速方案

ChainCatcher 消息，中科曙光相关人士透露，公司将发布面向大模型推理的新一代词元加速方案，重点处理推理过程中的重复计算和数据调度问题。

目前，中科曙光 ParaStor 分布式存储已应用于国内首个全国产十万卡 AI 超集群曙光 8000（登峰），为大规模计算任务提供数据吞吐和弹性扩展支持。赛迪顾问最新报告显示，中科曙光在 AI、教育、具身智能和自动驾驶四个细分行业排名第一。