第6章嵌入式AI应用开发 ◆AscendCL开发概述 ◆人脸识别应用开发
第6章 嵌入式AI应用开发 AscendCL开发概述 人脸识别应用开发
ACL开发概述
ACL开发概述
ACL开发概述 ACL概述 AscendCL (Ascend Computing Language) 基本概念 ● ACL是一套用于在异腾平台上开发深度神经网络推理应用的C语言 开发流程 API库； ●提供Device管理、Context管理、Stream管理、[ 内存管理、模型加载 代码逻辑 与执行、算子加载与执行、媒体数据处理等AP; ●能够实现在异腾CANN平台上进行深度学习推理计算、 图形图像预处 理、单算子加速计算等能力。 可以通过第三方框架调用AscendCL接口，以便使用昇腾AI处理器的 计算能力；可以使用AscendCL封装实现第三方lib库，以便提供昇腾AI 处理器的运行管理、资源管理能力
ACL开发概述 AscendCL（Ascend Computing Language） ACL是一套用于在昇腾平台上开发深度神经网络推理应用的C语言 API库； 提供Device管理、Context管理、Stream管理、内存管理、模型加载 与执行、算子加载与执行、媒体数据处理等API； 能够实现在昇腾CANN平台上进行深度学习推理计算、图形图像预处 理、单算子加速计算等能力。 可以通过第三方框架调用AscendCL接口，以便使用昇腾AI处理器的 计算能力；可以使用AscendCL封装实现第三方lib库，以便提供昇腾AI 处理器的运行管理、资源管理能力。 ACL概述 基本概念 开发流程 代码逻辑
ACL开发概述 ACL概述 应用程序(APPs) 基本概念 在运行应用时， 第三方框架 开发第三方b库 开发流程 AscendCL调用GE执 行器提供的接口实现 I CANN AscendCL Ascend Computing Language 代码逻辑 模型和算子的加载与 楼型加鞋 镜子能力开放 Runtime开被 执行、调用运行管理 器的接口实现Device 运行管理器(Runtime)】 煤体预处理（围片解码/裁鲸/缩放 等) 管理/Context管理 /Stream管理/内存管 任务调度管理器 理等。 驱动 计算资源(Al Core/AI CPU)
ACL开发概述 在运行应用时， AscendCL调用GE执 行器提供的接口实现 模型和算子的加载与 执行、调用运行管理 器的接口实现Device 管 理 /Context 管 理 /Stream管理/内存管 理等。 ACL概述 基本概念 开发流程 代码逻辑
ACL开发概述 ACL概述 基本概念 基本概念 开发流程 (1)Host Host指与Device相连接的X86服务器、ARM服务器，会利用Device 代码逻辑 提供的NN(Neural--Network)计算能力，完成业务。 (2) Device Device指安装了昇腾AI处理器的硬件设备，利用PCle接口与Host 侧连接，为Host提供NN计算能力。若存在多个Device,多个Device之 间的内存资源不能共享
ACL开发概述 基本概念 （1）Host Host指与Device相连接的X86服务器、ARM服务器，会利用Device 提供的NN（Neural-Network ）计算能力，完成业务。 （2）Device Device指安装了昇腾AI处理器的硬件设备，利用PCIe接口与Host 侧连接，为Host提供NN计算能力。若存在多个Device，多个Device之 间的内存资源不能共享。 基本概念 ACL概述 开发流程 代码逻辑