寒武纪：专注智能芯片研发 重点优化训练推理场景

寒武纪是智能芯片领域全球知名的新兴公司,自2016年3月成立以来,寒武纪先后推出了用于终端场景的寒武纪1A、寒武纪1H、寒武纪1M系列智能处理器;基于思元100、思元270、思元290芯片和思元370的云端智能加速卡系列产品;基于思元220芯片的边缘智能加速卡。

寒武纪能提供云边端一体、软硬件协同、训练推理融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。公司重点推动智能处理器微架构及指令集的迭代优化工作。新一代智能处理器微架构及指令集将对自然语言处理大模型、视频图像生成大模型及推荐系统大模型的训练推理等场景进行重点优化。同时公司持续推进训练和推理软件平台研发:

(1)训练软件平台:公司持续增加框架算子的支持数量,完善大模型的训练软件栈研发,进行了多个大模型的微调及预训练支持工作,在大模型训练的性能和精度方面都取得了较强的竞争力,且计算效率达到了业界领先水平。

(2)推理软件平台:公司开发了支持大语言模型和多模态 AIGC 推理业务的基础软件,并对传统模型和生成式大模型进行了持续性能优化,加速了实际应用部署。公司研发了分布式推理加速库 BangTransformer,大模型推理达到了业界领先的模型计算效率。

寒武纪掌握的智能处理器指令集、智能处理器微架构、智能芯片编程语言、智能芯片数学库等核心技术,具有壁垒高、研发难、应用广等特点,对集成电路行业与人工智能产业具有重要的技术价值、经济价值和生态价值。