Atlas CANN MindX 全场景AI框架昇思MindSpore,使能科研创新与产业应用 2020.03 2020.09 2021.09[M]订昇思 2022.04 Now 。 0 O 0 ◎ MindSpore MindSpore 1.0 MindSpore 1.5 MindSpore 1.8 MindSpore 2.0 正式开源 全场景A框架 原生支持大模型 全面提升易用性 AI融合框架 夯实全场景AI能力,全面提升易用性 融合AI与HPC,加速应用创新 跨域大规模协同 融合计算 统一微分 高效联绑学匀,支持大模型跨域讲行密训陈:干万端侧设备协同学习 科学计算加速车,支持250+科学计算 自动微分号摩,自持高阶维 AP1自动并行,开发效率提升2倍+ 混合微分,性能事培 端边云全场景部署 统一AP叫,模型格式免转换,支持7种主流OS,16种硬件 流体仿真套件可 电磁仿真套件。 分子模拟套件@ 10x @ 动态围全面支持 20x↑ 99.99%t 动态图代洗,兼顽灵活性与性能,性能提升2~5倍 机翼气动仿真效率 米级阵列天线仿滇速度 自然界国白质预测范国
构筑AI全栈,亲和昇腾性能最优 MindSpore 正式开源 MindSpore 1.0 全场景AI框架 MindSpore 1.5 原生支持大模型 MindSpore 2.0 AI融合框架 全场景AI框架昇思MindSpore,使能科研创新与产业应用 MindSpore 1.8 全面提升易用性 跨域大规模协同 高效联邦学习,支持大模型跨域并行加密训练;千万端侧设备协同学习 融合计算 统一微分 科学计算加速库,支持250+科学计算 API自动并行,开发效率提升2倍+ 自动微分引擎,自持高阶高维 混合微分,性能加速5倍+ 机翼气动仿真效率 流体仿真套件 米级阵列天线仿真速度 电磁仿真套件 自然界蛋白质预测范围 New 分子模拟套件 端边云全场景部署 统一API,模型格式免转换,支持 7种主流OS,16种硬件 动态图全面支持 动态图优先,兼顾灵活性与性能,性能提升2~5倍 升级 升级 Atlas CANN MindSpore MindX
Atlas CANN MindX 昇思MindSpore技术竞争力 关键特性 8加可 被型/定牛南 动静是 Pyn原生表达 色合崔 西 超大规模AI 量去0道 A合计0 A安合商 极简易用 自计行 多尺形合十到 数8横型安全 全流开雾程雾李著维 图支如分析 色棒评后 业鲜可视化调被 阶版别 可 俄 暴 高件管热行 A融合计算 高性能执行 内存用 On-Di折 全续发禁醒 MindSpore IR(一R 后油进也径的合00A灿 Lite/Micro 古品 ☑ 全场景AI AI安全可信 多算力支持.全场景协同。自 适应匹配端、边、云多样设备 同//kr/GP/PU
昇 思 MindSpore技术竞争⼒ 极简易⽤ 昇腾 / 鲲鹏 / Kirin / GPU / CPU / … ⼈⼯智能计算中⼼、制造、⾦融、互联⽹、交通、政府、能源、⾼校科研、安平、运营商 端边云协作的全场景AI ⾼性能推理 分布式并⾏调度 Lite/Micro 硬件抽象层(HAL)统⼀⽀持⾃研+第三⽅芯⽚ ⾼性能执⾏ MindSpore IR(全场景统⼀IR) 异构加速 内存复⽤ 图算融合 On-Device执⾏ ⾃适应轻量化 超⼤规模AI AI融合计算 AI安全可信 多尺度混合计算 ⾼阶微分 多维并行 集群可视化调优 鲁棒性评估 可解释 模型/套件库 动静统⼀ Python原⽣表达 极简易⽤ 模型套件开箱即⽤,融合编程, 动静态图统⼀ ⾼性能执⾏ 全栈协同加速,最亲和的昇腾 执⾏引擎,发挥极致性能 超⼤规模AI 全流程开箱即⽤,实时在线训 练,多任务终⾝学习 AI融合计算 X倍加速AI+科学计算(电磁、 ⽣物制药等)融合应⽤ AI安全可信 模型训练、模型评估、模型部 署全流程安全可信 关键特性 ⾃动并⾏ 图/表数据分析 数据&模型安全 融合编程 全场景AI 多算⼒⽀持,全场景协同,⾃ 适应匹配端、边、云多样设备 Atlas CANN MindSpore MindX
Atlas CANN MindX 昇思MindSporel原生大模型支持,覆盖多种主流场景 总共支撑26+大模型训练,6个千亿参数大模型,覆盖NLP、Audio、CV、多模态等领域 NLP大模型 Audio大模型 CV大模型 多模态 遥感 其他 鹏程盘古 秦岭,翔语 鹏程大圣 紫东太初(全球首个三模 鹏程神农 (2000亿)】 (1000亿) 武汉.Luojia 态) (干亿/万亿) 华为云盘古NLP 华为云盘古CV 华为云盘古多模态 秦岭西电遥感 (1100亿) 脑 金陵博物 华为云阿语 (1000亿) 悟空 金陵电磁脑 泰 提供全流程的大模型解决方案,助力产业落地 ①前期准备(数据集等) 》② 模型预训练 》③下游任务微调 》④模型转换/优化 》⑤模型部署 大模型对外服务平台 微调工了 单相户专用微调环境 多租户微调陈共享平台 代开发试☐
昇思 MindSpore原生大模型支持,覆盖多种主流场景 提供全流程的大模型解决方案,助力产业落地 前期准备(数据集等) 模型预训练 下游任务微调 模型转换/优化 模型部署 大模型对外服务平台 ① ② ③ ④ ⑤ 微调工厂 单租户专用微调环境 代码开发/调试 微调训练(百亿以下) 模型剪枝 模型量化 多租户微调训练共享平台 微调训练(百亿以上) 大模型在线推理 MindX DL API 总共支撑26+大模型训练,6个千亿参数大模型,覆盖NLP、Audio、CV、多模态等领域 NLP大模型 Audio⼤模型 CV大模型 多模态 遥感 其他 鹏程.盘古 (2000亿) 秦岭.翔语 鹏程.大圣 (1000亿) 紫东.太初(全球首个三模 态) 武汉.Luojia 鹏程.神农 (千亿/万亿) 华为云盘古NLP (1100亿) 华为云盘古CV 华为云盘古多模态 秦岭.西电遥感 脑 金陵.博物 华为云阿语 (1000亿) 悟空 金陵.电磁脑 Atlas CANN MindSpore MindX
Atlas CANN MindX 全场景A:训推一体架构支持全场景协同,自适应部署 酒贵想超轻口相海 关键技术 主要应用设备 Mindspore物#一建构 模型即代码,8级诗源占用 全最收 量时短 隐私放据 ,硬件感知量化模型5X任缩 装HEU系统内置AE 高性旅迪库能效比领先20% 金0越前的学封馆复 关盛技术 广告推荐提升ECPM15% 端云联合学习,模型情确匹配 总私合规前提下,实现更加存准的 端边云全场源统一推理引 广告推荐 ·端侧学习,局弘软据不出端 联邦容灾离可靠,企业级部 0地云命8日 星8后 端例 云侧/边缘侧 NPU界陈 通码感A坊用相期 CPU X86.ARM,GPU Mali.Adreno NV GPU.CPU X86.ARM 关键技术 通信领域规模商用 NPU,APU.DSP,Kirin,Qualcomm 智能车 ,在线增量学习.模型特续忧化 5G抗化应识制光传感 1oTR8720,MT8518 Kirin.NV GPU DCPUE故障分折园流预灞 州收图.地平线 惊安全,动静恋被型混清保护 OS Android OS ios Linux/Windows Euleros 可靠可用,调陈放障自动恢复
全场景A I:训推⼀体架构⽀持全场景协同,⾃适应部署 端边云全场景 消费级超轻量框架 • 模型即代码,KB级资源占⽤ • 硬件感知量化,模型5X压缩 • ⾼性能加速库,能效⽐领先20% • ⼿机、⼿表、⽿机、⾳箱、智能⼤ 屏等;IoT设备,智能⻔锁,智能 • 鸿蒙、HMS、Euler系统内置AI框 架 关键技术 主要应⽤设备 企业级联邦学习框架 • 端云联合学习,模型精确匹配 • 端侧学习,隐私数据不出端 • 联邦容灾⾼可靠,企业级部署 • 隐私合规前提下,实现更加精准的 ⼴告推荐效果 关键技术 ⼴告推荐提升ECPM 15% RTA⼴告 DPA⼴告 50% 50% 通信级AI应⽤框架 • 在线增量学习,模型持续优化 • 模型安全,动静态模型混淆保护 • 可靠可⽤,训练故障⾃动恢复 关键技术 通信领域规模商⽤ DCPUE 故障分析 流量预测 5G优化 应⽤识别 光纤传感 云侧/边缘侧 鸿蒙 OS / Android OS / iOS / Linux / Windows / EulerOS MindSpore训推⼀体架构 模型部署服务 端边云全场景统⼀推理引擎 联邦学习 离线训练 增量实时数据 在线训练 端侧学习 全量数据集 隐私数据 ⻋ 终 端 ICT 云 计算中⼼、制造、⾦融、互联⽹、交通、政府、能源、⾼校科研、安平… NPU 昇腾 NV GPU,CPU X86,ARM Kirin,NV GPU 德州仪器,地平线 CPU X86,ARM,GPU Mali,Adreno NPU,APU,DSP,Kirin,Qualcomm IoT RTL8720,MT8518 端侧 智能⻋ Atlas CANN MindSpore MindX