上QQ阅读APP看书,第一时间看更新
2.2.7 智能化
以深度学习为代表的新一代AI应用在边缘侧还需要新的技术优化。当前,即使在推理阶段对一张图片进行处理往往也需要超过10亿次的计算量,标准的深度学习算法显然是不适合边缘侧的嵌入式计算环境的。业界正在进行的优化方向包括自顶向下的优化,即把训练完的深度学习模型进行压缩来降低推理阶段的计算负载;同时,也在尝试自底向上的优化,即重新定义一套面向边缘侧嵌入系统环境的算法架构。智能化方面,结合GPU、FPGA等特殊硬件进行优化的AI框架也层出不穷。
以深度学习为代表的新一代AI应用在边缘侧还需要新的技术优化。当前,即使在推理阶段对一张图片进行处理往往也需要超过10亿次的计算量,标准的深度学习算法显然是不适合边缘侧的嵌入式计算环境的。业界正在进行的优化方向包括自顶向下的优化,即把训练完的深度学习模型进行压缩来降低推理阶段的计算负载;同时,也在尝试自底向上的优化,即重新定义一套面向边缘侧嵌入系统环境的算法架构。智能化方面,结合GPU、FPGA等特殊硬件进行优化的AI框架也层出不穷。