架构迭代更强算力，燧原科技发布第二代人工智能训练芯片“邃思2.0”

7月7日，燧原科技率先发布了国内第二代人工智能训练产品——“邃思2.0”芯片，以及基于邃思2.0的“云燧T20”训练加速卡和“云燧T21”训练OAM模组，凭借全面升级的“驭算TopsRider”软件平台以及全新的“云燧集群”，燧原科技成为国内首家发布第二代人工智能训练产品组合的公司。

据了解，此次最新发布的邃思2.0，其计算能力、存储和带宽、互联能力较第一代训练产品有巨大的提升，对超大规模的模型支持能力显著增强。而同步升级的驭算TopsRider软件平台为燧原科技的创新提供了支撑。

燧原科技成立于2018年3月，尽管成立只有三年的时间，燧原科技已经成为一家拥有高性能云端训练和云端推理产品的企业。三年时间，燧原科技相继推出云端AI芯片“邃思”、首款云端AI训练加速卡“云燧T10”和AI推理加速卡“云燧i10”，以及配套的“驭算”软件平台。

燧原科技第二代通用人工智能训练芯片“邃思2.0”

燧原科技第二代通用人工智能训练加速卡“云燧T20”

燧原科技第二代通用人工智能训练模组“云燧T21”

架构升级打造智算集群

据介绍，此次首发的邃思2.0主要在四个方面进行了升级。第一，架构升级实现了算力提升。邃思2.0进行了大规模的架构升级，新一代全自研的GCU-CARA全域计算架构，针对人工智能计算的特性进行深度优化，夯实了支持通用异构计算的基础；支持全面的计算精度，涵盖从FP32、TF32、FP16、BF16到INT8，并成为中国首款支持单精度张量TF32数据精度的人工智能芯片。单精度FP32峰值算力达到40 TFLOPS，单精度张量TF32峰值算力达到160 TFLOPS，均为国内第一。

第二，HBM2E存储带来海量吞吐。邃思2.0共搭载了4颗HBM2E片上存储芯片，高配支持64 GB内存，带宽达1.8 TB/s，是中国第一个支持HBM2E和单芯片64 GB内存的产品。

第三，高速互联支撑算力扩展。GCU-LARE全域互联技术是燧原专为人工智能训练集群研发的互联技术，提供双向300 GB/s互联带宽，支持数千张云燧CloudBlazer加速卡互联，实现更强的线性加速比。

第四，全新软件驾驭澎湃算力。驭算TopsRider是燧原科技自主知识产权的计算及编程平台，通过软硬件协同架构设计，发挥了邃思2.0的性能；基于算子泛化技术及图优化策略，支持主流深度学习框架下的各类模型训练；利用Horovod分布式训练框架与GCU-LARE互联技术相互配合，为超大规模集群的高效运行提供解决方案。开放升级的编程模型和可扩展的算子接口，为客户模型的优化提供了自定义的开发能力。

建设自主生态，加速产品商业化

“第二代人工智能训练产品的发布，是燧原科技开发原始创新的算力产品和构建自主生态又一重要的里程碑。通过芯片架构和软件平台的升级迭代，提升产品竞争力，满足市场需求，从而加速产品商业化的步伐。”燧原科技CEO赵立东指出，“原始创新和自主生态成为发展趋势，这也是燧原科技自创立以来始终坚持的战略选择，是支撑技术和业务长远发展，不断拉近与世界先进水平的距离，并在市场竞争中取得主动的基础。”

燧原科技COO张亚林介绍道：“邃思2.0大幅提升了算力指标，升级后的驭算软件平台更加便捷易用，燧原科技也可针对客户的场景和业务模型提供软件定制化服务和优化，打造差异化解决方案。此外，基于云燧T20和T21训练产品、GCU-LARE互联技术和新一代驭算，燧原科技可以打造超大规模的集群产品CloudBlazer Matrix，有效降低人工智能超算集群的整体复杂度和成本。同时燧原科技将通过与合作伙伴的联合开发，一起构建超大规模的液冷智能数据中心，以顺应国家‘低碳算力’和‘绿色一体化智能计算’的战略方向。”