% HUAWEI 第页 此外,相比于其它激活函数来说,ReLU有以下优势:对于线性函数而言,ReLU的表达能力更 强,尤其体现在深度网络中;而对于sigmoid等激活涵数而言,ReLU由于非负区间的导数为 1,因此可以缓解梯度消失问题Vanishing Gradient Problem),使得模型的收敛速度维持在一个 稳定状态。这里稍微描述一下什么是梯度消失问题:当梯度小于1时,预测值与真实值之间的 误差每传播一层会衰减一次,如果在深层模型中使用sigmoid作为激活函数,这种现象尤为明 显,将导致模型收敛停滞不前。 池化层 Single depth slice 1 1 2 4 max pool with 2x2 filters 5 6 7 8 and stride 2 6 8 物 3 2 1 0 3 4 1 2 3 4 y 上图所展示的是区域最大,即上图左边部分中左上角2x2的矩阵中6最大,右上角2x2的矩 阵中8最大,左下角2x2的矩阵中3最大,右下角2x2的矩阵中4最大,所以得到上图右边部 分的结果:6834。 全连接层:
第5页 此外,相比于其它激活函数来说,ReLU 有以下优势:对于线性函数而言,ReLU 的表达能力更 强,尤其体现在深度网络中;而对于 sigmoid 等激活函数而言,ReLU 由于非负区间的导数为 1,因此可以缓解梯度消失问题(Vanishing Gradient Problem),使得模型的收敛速度维持在一个 稳定状态。这里稍微描述一下什么是梯度消失问题:当梯度小于 1 时,预测值与真实值之间的 误差每传播一层会衰减一次,如果在深层模型中使用 sigmoid 作为激活函数,这种现象尤为明 显,将导致模型收敛停滞不前。 池化层: 上图所展示的是区域最大,即上图左边部分中 左上角 2x2 的矩阵中 6 最大,右上角 2x2 的矩 阵中 8 最大,左下角 2x2 的矩阵中 3 最大,右下角 2x2 的矩阵中 4 最大,所以得到上图右边部 分的结果:6 8 3 4。 全连接层:
% HUAWEI 第6页 Probability: Softmax layer as the output layer ■1>y>0 ■∑iy=1 Softmax Layer 20 0.88 ÷ y=e e27 0.12 +2=e 0.05 0 =e softmax直白来说就是将原来输出是3,1,-3通过softmax函数一作用,就映射成为(0,1)的 值,而这些值的累和为1(满足概率的性质),那么我们就可以将它理解成概率。在训练网络 时可以通过对预测值和标签值计算交叉熵损失
第6页 softmax 直白来说就是将原来输出是 3,1,-3 通过 softmax 函数一作用,就映射成为(0,1)的 值, 而这些值的累和为 1(满足概率的性质),那么我们就可以将它理解成概率。在训练网络 时可以通过对预测值和标签值计算交叉熵损失
% HUAWEI 第7页 2 基于MindSpore的图像识别全流程代码实战 2.1实验介绍 图像分类在我们的日常生活中广泛使用,比如拍照识物,还有手机的1拍照,在学术界,每 年也有很多图像分类的比赛,本实验将会利用一个开源数据集来帮助大家学习如何构建自己的 图像识别模型。本实验会使用MindSpore来构建图像识别模型,然后将模型部署ModelArts上 提供在线预测服务。 2.2实验环境要求 ●ModelArts平台:MindSpore-1.1.1 2.2.1实验环境创建 ·登绿华为云网站 https://www.huaweicloud.com/?ticket=ST-4217587-ZMyac1H4moJOpjSOHq4ubtbh-sso&locale=zh- cn ● 在搜索框输入ModelArts,进入ModelArts的控制台: 坐华为云 Q 中配站文档 关于华为云“ 最新活动产品·解决方案· E企业智能~定价云市场、 合作秋伴、 开发者。支持与服务 全部5868) 产品与解决方案55) 0助中心(1273) 云市场同 开发者(4089) 云学¥碳(17万 AI开发平台ModelArts ModelArts足面向开发者的一站式A开发平台,为肌器学习与深度学习提供海量数据预处理及半自动化标注大规分布式Training.自动化楼型生成,及 伴-边云横型按需部署能力,帮助用户快速创健和曙横型,管理全周啊工作流 按需包固明附贵可选,最¥0.00小时 进入控制 AN开发者社区 相关推荐:PyCharm Tool.. As0n9107 A1Gery智能标注供误码 点击开发环境,进入到Notebook页面,点击创建,创建实验所需的环境:
第7页 2 基于 MindSpore 的图像识别全流程代码实战 2.1 实验介绍 图像分类在我们的日常生活中广泛使用,比如拍照识物,还有手机的 AI 拍照,在学术界,每 年也有很多图像分类的比赛,本实验将会利用一个开源数据集来帮助大家学习如何构建自己的 图像识别模型。本实验会使用 MindSpore 来构建图像识别模型,然后将模型部署 ModelArts 上 提供在线预测服务。 2.2 实验环境要求 ModelArts 平台:MindSpore-1.1.1 2.2.1 实验环境创建 登录华为云网站 https://www.huaweicloud.com/?ticket=ST-4217587-ZMyac1H4moJ0pjSOHq4ubtbh-sso&locale=zhcn 在搜索框输入 ModelArts,进入 ModelArts 的控制台: 点击开发环境,进入到 Notebook 页面,点击创建,创建实验所需的环境:
% HUAWEI 第8页 Notebook HuT袖EOO》坐神5 项目自动停止时间设置为2小时,实验环境选择第4个,Ascend-Powered-Engine1.0 (Python3) MindSpore-1.1.1 @ O 0开8后,南abe0l实青房在选行时长超出悬的时长=,同海止上 动停止B时线O1小9 4小时m6小时后叉 工 黄进 Mui-Engne10 Pythond.Recomerded) MNet121.Pyspark-232 Pytorch-1.0.0 TesorFlow-1131.TemsoeFlow XBoost Skiear Muk-Engine 10 (ythen2) Caffe-100 MNel-121Pyk-32PyTorh00 TemmrFlew-1131,TemarF-18.XGdoo-Skeam Mul-Engine 20 (Python3) pyto今14a款61,1enge6w210 Ascd-owr#d-Eigine I0t的on助 Mindspore-1.1.1, orFlow-3.150 选择OBS对象存储服务,在存储位置处点击选择: Aiand-vid-Ee Miicov-180.fow-1.i3 卡直溶别 杂北你家 tt%时i加aM括a6 m额¥1950以g0 ● 如果没有创建桶,点击新建对像存储服务(OBS)桶,新建一个OBS桶;如果已有桶,可 以选择已创建的桶:
第8页 项目自动停止时间设置为 2 小时,实验环境选择第 4 个,Ascend-Powered-Engine 1.0 (Python3) MindSpore-1.1.1 选择 OBS 对象存储服务,在存储位置处点击选择: 如果没有创建桶,点击新建对象存储服务(OBS)桶,新建一个 OBS 桶;如果已有桶,可 以选择已创建的桶:
% HUAWEI 第9页 + 存储位置 请应程文件夹 日obs 曾新建对象存馆服务(OBS)桶>之 请油入名称查向 名称 最后格改时间三 类型目 大小目 目aicode 目qyal-code 目sdsdbgh 使示对象行陆肠务(©B5)阳关操作要要取费,具体汗情直看对象存砖服务(○BS).收费策的 定取消 ● 创建一个新桶:区域选择华北北京四,桶名称需设置为全局唯一,桶默认私有,点击立 即创建 《桶 内风 nA2 2用 适用于有人影执四年家文件,压意要玻紫网平均一香河为件以进直前的务添国 桶创建成功后,在创建项目的页面,点击选择,就可以看到新建的桶,选择该桶:
第9页 创建一个新桶:区域选择华北-北京四,桶名称需设置为全局唯一,桶默认私有,点击立 即创建 桶创建成功后,在创建项目的页面,点击选择,就可以看到新建的桶,选择该桶: