更新时间：2023-08-25 10:47:54
封面
版权信息
内容简介
作者简介
图书推荐
FOREWORD 序一
FOREWORD 序二
FOREWORD 序三
PREFACE 前言
第1章 数据处理
1.1 转换数据集为MindRecord
1.1.1 背景与现状
1.1.2 MindRecord技术原理
1.1.3 使用示例
1.2 自动数据增强
1.2.1 背景与现状
1.2.2 自动数据增强技术原理
1.2.3 使用示例
1.3 轻量化数据处理
1.3.1 背景与现状
1.3.2 Eager模式原理
1.3.3 使用示例
1.4 单节点缓存加速
1.4.1 背景与现状
1.4.2 单节点缓存原理
1.4.3 单节点预处理数据缓存功能的使用
1.4.4 性能优势展示
1.5 优化数据处理
1.5.1 背景与现状
1.5.2 数据处理优化途径
1.6 本章小结
第2章 网络构建
2.1 自定义算子
2.1.1 算子原语
2.1.2 算子实现和算子信息注册
2.1.3 使用自定义算子
2.1.4 定义算子反向传播函数
2.1.5 小结
2.2 深度概率学习
2.2.1 框架模块
2.2.2 深度概率推断算法与概率模型
2.2.3 贝叶斯神经网络
2.2.4 贝叶斯应用工具箱
2.2.5 小结
2.3 高阶自动微分
2.3.1 微分求解方法概述
2.3.2 技术原理
2.3.3 相关案例
2.4 本章小结
第3章 训练与推理性能优化
3.1 千亿参数模型自动并行
3.1.1 分布式训练基础
3.1.2 关键问题
3.1.3 整体流程
3.1.4 流水线并行
3.1.5 并行子图切分
3.1.6 算子级并行
3.1.7 优化器切分
3.1.8 异构图切分
3.1.9 重计算
3.1.10 GPT-3超大规模分布式并行方案
3.1.11 小结
3.2 二阶优化
3.2.1 优化器背景介绍
3.2.2 THOR简介
3.2.3 THOR的实践应用
3.2.4 小结
3.3 模型量化
3.3.1 量化算法原理
3.3.2 感知量化训练
3.3.3 训练后量化
3.3.4 小结
3.4 类型推导
3.4.1 静态分析技术背景
3.4.2 静态分析设计
3.4.3 静态分析模块设计
3.4.4 小结
3.5 图算融合
3.5.1 技术原理
3.5.2 MindSpore上的图算融合
3.5.3 小结
3.6 推理图优化
3.6.1 算子融合
3.6.2 算子替换
3.6.3 常量折叠
3.6.4 算子重排
3.6.5 小结
3.7 kernel优化
3.7.1 硬件优化
3.7.2 算法优化
3.7.3 小结
3.8 本章小结
第4章 模型安全与隐私
4.1 对抗攻防
4.1.1 背景
4.1.2 MindArmour的攻防能力
4.1.3 使用示例
4.2 差分隐私训练
4.2.1 差分隐私
4.2.2 使用示例
