视频号
    标题 摘要 内容
    详情

    近日,DeepSeek 正式对外开源面向华为昇腾算力平台的基础设施组件,包含 TileLang 高级语言编译工具、高性能计算库与分布式通信库整套底层软件栈。


    图片


    整套组件与 DeepSeek 此前面向海外算力平台开源的底层组件一一对应,为昇腾生态提供了大模型训练所需的高性能算子、通信内核与高级算子开发能力,助力国产 AI 算力软硬件协同发展。本次开源的核心模块为 TileLang 昇腾版本,TileLang 对昇腾 AscendC 底层指令进行封装,提供简洁易用的高级编程范式,开发者无需直面底层硬件指令,即可开发高性能算子,同时保障硬件性能不损失。目前 DeepSeek 自身训练链路所使用的全部 TileLang 算子,均已完成昇腾平台高性能适配。


    项目同步开放 DeepGEMM 通用矩阵运算加速库、DeepEP 大规模分布式跨设备通信库、TileKernels 基础算子集合、FlashMLA 稀疏注意力算子以及 DeepSelect 高性能数据筛选算子,完整覆盖大模型训练全链路基础能力。据测试数据显示,上述组件在关键基准用例下,计算与通信性能已接近昇腾硬件理论上限。


    在项目研发阶段,DeepSeek 与华为团队深度协同,联合推进基于昇腾 950 的 128 卡超节点方案,针对集群计算、通信链路开展深度联合调优,充分释放国产算力集群的规模化训练能力。部分组件沿用原有上层 API,降低原有代码迁移至昇腾平台的改造成本,方便开发者快速迁移大模型训练任务。


    长期以来,底层算子、编译工具与分布式通信组件是国产算力生态的关键短板,大模型企业在昇腾平台开展大规模训练时,往往需要投入大量人力自研底层内核。本次 DeepSeek 开源整套昇腾底层基础组件,向开发者开放完整底层实现、接口规范与测试代码,开发者可直接复用组件开展大模型预训练、微调,也可基于 TileLang 快速定制自研算子,大幅降低基于昇腾硬件做大模型研发的技术门槛。


    本次开源是国产大模型企业与国产算力芯片协同共建软件生态的标志性事件,一方面丰富昇腾生态的底层开源工具链,吸引更多开发者、模型团队基于昇腾硬件开展 AI 创新;另一方面打通从算子开发、矩阵计算到多卡分布式通信的完整底层能力,推动国产算力集群真正具备大规模大模型训练的工程化能力,助力自主可控 AI 产业底座建设。DeepSeek 表示,后续将持续维护昇腾平台开源组件,迭代优化算子性能,完善文档与社区示例,持续推动昇腾软硬件生态协同演进,赋能国内大模型产业创新落地。