边缘智能:关键技术与落地实践
上QQ阅读APP看书,第一时间看更新

2.3 边缘智能面临的挑战及研究方向

从发展角度看,边缘智能伴随着物联网、云计算、边缘计算、人工智能等技术而出现;从理论角度看,边缘智能是涉及信息安全、智能优化、移动通信等多领域的交叉学科问题;本质上讲,边缘智能的前提是安全,核心是智能,关键是优化。下面介绍边缘智能面临的主要挑战以及研究方向。

2.3.1 面临的挑战:安全、智能应用和优化

边缘智能发展处于起步阶段,仍面临着众多挑战;尤其是数据安全与隐私保护,多样化智能设备的“云-边-端”应用,计算、存储、网络等资源的优化调度等诸多问题亟待解决。

1.安全性问题

基于物联网形成的万物互联基础设施,多源异构、凌乱繁杂、多域动态的海量数据可以在边缘智能体系中不断地采集、处理、流转、使用和存储;因此,保障数据及边缘智能体系的安全性和可靠性极为重要,主要体现在以下方面:

(1)兼容性及复杂性问题。尽管物联网实现了万物互联,但以多接入边缘计算为代表的网络技术,以及各种各样边缘端设备的存在,不同设备、网络、软件间的接口、协议、标准差异导致跨设备跨域交互困难,软硬件体系复杂,难以兼容统一,更为构建全面可兼容的安全防护体系带来巨大挑战。

(2)攻击方式多样。在边缘智能体系中,“云-边-端”多域的安全问题更加突出;从应用设备到数据处理,再到网络传输,每一个硬件设备、每一个流程、每一个节点乃至每一次操作,都可能成为被攻击的目标。同时,人工智能不仅拓宽了传统边缘计算的安全边界与框架认知范畴,更带来了AI算法本身的安全挑战。

(3)潜在风险更大。万物互联的边缘智能体系希望打通数字世界与物理世界的最后一道屏障,不仅要实现“数字孪生”,更要做到完美映射。这不仅涉及个体生物特征、衣食住行、交通轨迹的用户隐私安全,同时也延伸到个人财产安全乃至公共安全层面。例如,自动驾驶的危险情况处置、可穿戴设备的健康体征检测和智慧家居的控制等潜在风险问题。

2.智能应用问题

边缘智能体系的核心是智能,即利用人工智能在“云-边-端”全链路发力的智能应用体系。在通常情况下,人工智能的最大优势在于它可以通过对音频、图像、环境或思维方式的处理,形成面向各类信息智能化分析处理的通用模式。尤其是当无法理解模型运算情况时,人工智能可以很好地实现由结果现象回溯到本质的处理模式。例如,针对大量杂乱、看似无关的原生数据,可以采用人工智能方法对数据进行处理、分类,提取出有用的数据特征。然而,由于人工智能方法包含大量的并行计算,尤其是当前人工智能大部分计算任务都部署在云计算中心等大规模计算资源集中的平台上,这极大地限制了人工智能带给终端用户的便利。

为此,边缘智能的应用面临如何将“智能”下沉至边缘端的核心问题,以打通“云-边-端”智能应用的“最后一公里”。

一方面,边缘设备端算力不足,云端智能服务响应时延大,云边都面临难以支撑全链路智能应用的困境。

另一方面,人工智能算法的模型训练、分析等都需要大量数据,且对设备的计算能力有较高的要求,而边缘设备往往不能满足其所需要的存储空间及计算能力,使得人工智能应用受限。因此,降低人工智能模型复杂度和发挥分布式多端协同优势将成为应对挑战的重要发展方向。

3.资源优化问题

边缘智能体系复杂,其资源涉及从传感器端数据源到云计算数据中心路径上的任意计算和网络资源,不仅包括云端的海量资源,还包括贴近用户的多样化终端设备,以及网络通信链路。尤其是在边缘端部分,边缘设备的计算、存储能力往往远远弱于专用服务器的计算和存储能力,无法满足人工智能模型训练所需的大量计算和存储资源。同时,部分边缘设备仅具有小型供电设备,无法满足智能计算所需的能耗。

根据Cisco云指数的预测,到2021年,全球范围内将有超过500亿的终端设备,每年产生的数据总量将达到847ZB。相比而言,到2021年,全球数据中心的存储能力预计仅能达到2.6ZB,而网络流量为19.5ZB。因此,云端的计算存储资源将面临巨大压力,需要充分调度边缘智能体系中边与端的能力,协同优化整个体系的资源,进而形成面向边缘智能体系的资源全局优化解决方案。

从“云-端”协同到“云-边-端”三体协同计算,这不仅是边缘智能时代的计算组合形态,更是满足“低时延、大带宽、大连接、本地化”需求不可或缺的基础架构。因此,“云-边-端”资源需要相辅相成、相互配合、互为延拓,其优化问题也是边缘智能技术研究的一大热点。

2.3.2. 研究方向:安全、智能、协同、优化

针对边缘智能的上述挑战,其主要研究方向包括两大方面:一方面是安全类问题,可以通过密码学、联邦学习、区块链等方法将人工智能应用到面向云端和边缘端的全链路;另一方面是面向应用的资源优化问题,包括“云-边-端”协同、模型压缩等。

1.安全与智能

在边缘智能体系中,数据是支撑人工智能的“血液”;通常情况下,数据无法同时聚集于统一的数据中心,而是分布在“云-边-端”不同的地理区域,这样既形成了大量“数据孤岛”,又带来了数据隐私和安全问题,更增加了监管难度。尤其是大量用户敏感信息的采集、存储、分析等存在极大的隐私泄露风险,第三方不可信或潜在攻击不仅限制了边缘智能的发展,更激化了数据流通与安全保护之间不可调和的矛盾。

作为安全的分布式机器学习框架,联邦学习为解决上述矛盾提供了解决方案,具体来讲,联邦学习不需要聚集边缘智能体系中的原始数据,而是利用分布在多节点的数据共同建立一个联合的人工智能模型。在模型训练中,多个节点与中央服务器交换模型参数,但不交换本地原始训练数据,这样不仅极大地减少了数据隐私泄露的风险,更增强了数据及整个体系的安全性。

此外,利用密码学方法也可以有效抵御对边缘智能的隐私性、可用性的攻击,但是会导致计算消耗的压力。为了平衡抵御攻击的有效性、数据可用性以及计算消耗间关系,可以采用基于安全多方计算、差分隐私和秘密共享等方法的协同模式。

进一步讲,安全多方计算、差分隐私等方法给出了部分安全及隐私保护解决方案,但其代价为模型性能的降低、系统效率的牺牲。因此,如何平衡这种矛盾是实现边缘智能体系安全的重要研究方向。

2.“云-边-端”协同

为弥补边缘设备计算、存储等能力的不足,满足人工智能方法训练过程中对强大计算能力和存储能力的需求,可以通过边缘与云端、终端设备之间的协同计算来实现,主要包括“边-云”协同、“边-边”协同、“边-端”协同和“云-边-端”协同四种模式,其中,“云-边-端”协同服务模式已成为信息技术架构的发展趋势;同时,泛在连接的终端促使大量异构终端接入边缘智能体系;因此,可以兼顾设备的异构性、通信的异步性和资源的多样性,设计“云-边-端”协同的高效融合架构、机制和模式是联合智能需要考虑的重要问题。如图2-12所示,在常规协同模式中,往往将训练过程部署在云端,将训练好的模型部署在边缘设备端。显然,这种服务模式能够在一定程度上降低人工智能模型训练对边缘设备计算、存储等能力的要求;然而,这种模式过于简单,无法充分调动“云-边-端”的全局资源,更无法实现面向智能终端的个性化智能应用。

图2-12 常规协同模式

3.模型压缩

为了将人工智能模型部署在边缘设备上,可以采用模型压缩的方式对深度神经网络模型进行定制化改造。这种改造可以分为两种方法。

方法一:模型划分,即将人工智能模型划分为面向强算力和弱算力两部分,如图2-13所示,将计算量大的计算任务卸载到边缘端服务器进行计算,而计算量小的任务则保留在终端设备本地,实现边缘服务器和终端设备的推断与协同训练,以有效降低深度学习模型的推断与训练时延。然而,不同的模型切分点会导致不同的计算时间,因此需要选择最佳的模型切分点,以最大化地发挥终端与边缘协同的优势。

方法二:以稀疏化为代表的模型压缩方法,具体方案可以是在不影响准确度的前提下,采用降维(低秩)、随机稀疏模式、子抽样、概率量化等方案中的一种或多种组合。例如,可以在训练过程中丢弃非必要数据、稀疏代价函数等。图2-14展示了一个裁剪的多层感知网络,网络中许多神经元的值为零,这些神经元在计算过程中不起作用,因而可以将其移除,以减少训练过程中对计算和存储的需求,尽可能使训练过程在边缘设备进行。

图2-13 边缘服务器与终端设备协同推理

图2-14 模型裁剪

4.体系建模与资源调度

边缘智能体系涉及“云-边-端”的多样化基础设施,计算、存储、通信等资源能力由云、边、端顺序依次降低。而体系建模与资源调度的性能优化需要兼顾能耗、性能、资源消耗、成本、服务质量、安全等多方面度量指标。

通常,边缘智能体系的建模方法包括解析模型法、Peri网法、整数规划法、随机过程法等;而资源调度的一般策略是在综合考量不同设备的计算和存储能力以及传输带宽前提下,根据任务类型,实现“云-边-端”设备之间的任务迁移和资源动态调度。

从整体来看,相关研究、进展和应用还处于发展阶段,未来的发展可以着力以下关键点:

(1)在资源受限场景中,网络连接状态直接影响“云-边-端”的通信效率,需要设计灵活的终端本地模型更新方式、多域参与方的选择机制、负载容错机制、模型压缩方法、模型协同推理与训练方式,以解决存储、计算、网络连接、续航能力等资源受限带来的建模与调度问题。

(2)在面向“云-边-端”的边缘智能体系中,5G通信、边缘计算等技术推动了大量异构终端的泛在接入,而数据通常以非独立同分布、非对齐、多噪声等形式存在,这些形式极大地增加了模型建立、性能分析和评估的复杂性,尤其是参与方的模型训练效果会因载体设备的存储、计算、网络连接状态和续航能力变化而有所不同。因此,如何兼顾跨异构设备学习、断续网络连接、异步通信、减少通信消耗/提升通信效率等问题,构建高效的全局优化体系和资源调度模式是重要的研究方向。

尽管边缘智能尚处于发展的起步阶段,面临着数据安全与隐私保护、多样化智能设备的“云-边-端”应用、多种资源的优化调度等众多挑战,但随着5G通信、边缘计算、人工智能等新一代信息技术的发展,边缘智能的“云-网-边-端”全链路的应用场景也会不断丰富,“智能+”的新风口已然形成。