Cambricon CATCH是寒武纪发布的一款Python包（包名torch_mlu），提供了在MLU设备上进行张量计算的能力。 安装好Cambricon CATCH后，便可使用torch_mlu模块： 附 Cambricon PyTorch源码编译安装. 导入 torch 和 torch_mlu 后可以测试在MLU上完成加法运算： 以ResNet18为例，将模型加载到MLU上用 model.to('mlu')，对标 cuda 的 model.to(device) ： model = models.__dict__["resnet50"]() # 将模型加载到MLU上。 from torchvision.datasets import mnist.

2023年11月20日 · bang c是寒武纪针对mlu硬件提出的专用编程语言，它由c语言扩展而来。bang c采用异构编程，一个完整的bang c程序在host端和mlu端分别进行编程、编译，最后链接成一个可执行程序。

MLU-OPS™提供基于寒武纪人工智能单元（MLU），使用 C 接口开发高性能算子的示例代码。 MLU-OPS™旨在通过提供示例代码，供开发者参考使用，可用于开发自定义算子，实现对应模型的计算。 MLU-OPS™提供了以下功能： 支持 x86_64 架构下的 Ubuntu22.04、Centos7.6、Centos8.5、Kylin10、Debian10、Debian12。 MLU-OPS™ v1.0.0版本后将不再支持 Ubuntu18.04。 MLU-OPS™ v1.4.1版本后将不再支持 Ubuntu20.04。 以Ubuntu22.04版本为 …

MLU370 加速卡基于寒武纪思元 370 芯片. 最大算力高达256TOPS (INT8)，是寒武纪第二代产品思元270算力的2倍。 凭借寒武纪最新智能芯片架构MLUarch03，思元370实测性能表现更为优秀。 国内第一款公开发布支持LPDDR5内存的云端AI芯片，内存带宽是上一代产品的3倍，访存能效达GDDR6的1.5倍。 搭载MLU-Link™多芯互联技术，在分布式训练或推理任务中为多颗思元370芯片提供高效协同能力。 不同点： 1）插卡方向. MLU370 - S4/X4/X8 均支持双向进风，因此支持 …

2023年11月15日 · MLU 对应的编程模型称为Cambricon BANG ，寓意寒武纪⼤爆炸，是⼀种Host-Device 的异构并⾏编程模型。 下表对⽐了 Device 级别 MLU 和 GPU 的术语，可以帮助⽤⼾理解认识MLU 和Cambricon BANG 的编程。 抽象硬件模型分为5层次， cluster 级level3 （多Core+SRAM），也可以说是MTP，MTP 架构代称多个 IPU Core 组成的 Cluster 架构，对应编程模型中执⾏⼀个 Union Block Task，简称 Union Task。 core级 level4（），也可以说 …

2022年3月21日 · 寒武纪为多卡系统专门设计了MLU-Link桥接卡，可实现4张加速卡为一组的8颗思元370芯片全互联，每张加速卡可获得200GB/s的通讯吞吐性能，带宽为PCIe 4.0 的3.1倍，可高效执行多芯多卡训练和分布式推理任务。

2024年1月17日 · 在寒武纪基础软件平台 sdk上实测，在常见的4个人工智能模型上，mlu370-x8单卡性能与主流350w rtx gpu相当；而在多卡加速方面， mlu370-x8借助mlu-link多芯互联技术 和寒武纪基础软件平台 cncl通讯库的优化，在8卡环境下达到更优的并行加速比。

2024年12月21日 · 如何理解这段话，例如，量化时，用的是torch.nn.Conv2d算子；导出时，用的是torch_mlu.nn.Conv2d算子。 虽然在构建整个模型时，会使用 model.to(devices) 的操作，但是内部的有些算子还是需要手动搬运，因此需要修改文件，增加手动搬运的代码。

2021年11月3日 · 寒武纪发布了新一代智能处理器架构 MLUarch03，拥有新一代张量运算单元，内置 Supercharger 模块大幅提升各类卷积效率；采用全新的多算子硬件融合技术，在软件融合的基础上大幅减少算子执行时间；片上通讯带宽是上一代 MLUarch02 的 2 倍、片上共享缓存容量最高是 MLUarch02 的 2.75 倍；推出全新 MLUv03 指令集，更完备，更高效且向前兼容。 Supercharger 和多算子硬件融合技术. 有 7nm 先进工艺和全新 MLUarch03 架构的加持，思元 …

2019年7月11日 · MLU100 是寒武纪公司推出的第一款通用智能计算加速卡。 针对人工智能应用定制的指令集和处理器架构，具有更高性能、更低功耗，主要侧重于推理。 （上图左边为D卡，右图为C卡） 寒武纪 MLU100-C 系列智能处理卡搭载寒武纪 MLU100 芯片. 为云端推理提供强大的运算能力支撑，并具备视频解码功能。 MLU100-C 系列智能处理卡为全高全长版本，等效理论峰值运算能力INT8 32 TOPS（dense）/ 128 TOPS（sparse），最大功耗 110W。 寒武纪 MLU100-D …