边缘AI：可以在无线模块上运行吗？

作者：Magnus Johansson, u-blox 短程通信产品战略部

人工智能（AI）的实效性、与物联网设备的适用性以及边缘计算的性能都在近期取得了显著的进步，这也释放了边缘 AI 的潜能。本文深度探讨了其中的原因。

在过去的十年里，人工智能 (AI) 已由一个概念转变为人们生活中必不可少的一项技术。搜索、社交媒体源、在线广告等服务都使用 AI 算法，并在云端对海量数据进行多元化处理，进而为每位用户量身打造定制服务。此外，AI 的自主学习能力在网络应用中也无处不在，包括优化用户体验、业务流程和技术解决方案等。

与此同时，AI 在联网设备中也开始得到广泛应用，例如通过人脸识别解锁手机、拍摄照片等应用。但值得一提的是：这些应用的AI计算在终端设备上就可实现，即边缘 AI 算法。

AI 及相关的机器学习技术逐渐普及和成熟，越来越多的产品集成了边缘 AI，帮助改善用户服务体验并能支持全新的应用场景。语音及人脸识别等手机标配功能仅仅是边缘AI应用的很小一部分，未来将会有更多场景使用到边缘AI技术。

边缘 AI 技术优势

理解边缘 AI 的工作原理有助于我们了解边缘 AI 的优势。与标准人工智能类似，边缘 AI 依赖于模拟人脑神经网络结构创建的数学模型，并通过训练完成各种任务。例如，在接触过网络上大量红绿灯图片之后，这些神经网络就会轻而易举地识别此类图片。

训练 AI 算法的过程需要大量数据，并且涉及大量的计算。但最终得到的是体积小、功能强的 AI 模型，可以轻松部署到任意数量的终端设备上。如果这些设备具有足够的计算资源，那么运行算法时就不需要云端连接。

独立于云端的边缘 AI 技术优势：

通信要求：由于不必将语音或图像数据上传到云端，设备在本地运行 AI 算法，节约的带宽可以用来满足其他方面的需求，或者只需要低带宽无线通信技术就可以运行。当然，云端连接仍然具备其特有的优势，例如在新版、改进版模型发布之后，可以远程更新 AI 模型。

延迟：由于是在设备上直接运行 AI 算法，不必将感测数据上传到云端再将输出结果回传到终端设备，这样就可以大幅降低延迟，实现流畅、无延迟的用户体验。

隐私：如果连最尖端的联网设备都不能幸免于数据遭黑客拦截的风险，那么很显然，位于中低价格区间的消费电子设备受到此类威胁的风险会更高。而边缘 AI 设备是在本地处理所有数据（包括语音、图像或其他数据），这些数据在本地设备中处理，因此不会遭到拦截。

边缘 AI 应用场景

人脸识别除了可以在智能手机上使用，也可以在其他场景中用于用户验证。例如，商业门禁解决方案通过人脸识别来确保进入限制区域的员工均经过授权，而安保摄像头则可以利用人脸识别功能在检测到陌生人进入建筑时触发警报。同样，在健身房、医疗诊所或商业场馆，人脸识别还可以用来辨别客户。

与此同时，语音用户界面也越来越流行。毕竟，直接与智能设备对话（并且单方面被理解）应该是最方便的互动方式了。语音识别技术可以验证用户身份，处理输入的语音指令，近年来在智能手机和智能个人助理的应用中被逐渐完善，现在已经开始出现在汽车和智能家居设备应用中，同时还为无法打字的残疾人士带来了便利。

在工业领域，边缘 AI 可用于标记设备的异常行为，例如电机出现故障的早期特征或轴承的磨损迹象。针对此类异常检测应用场景，我们使用包含正常行为的数据集对 AI 模型进行训练。只要检测到任何偏离标准的情况，工厂操作人员就会收到警报，从而能够了解机械设备潜在的故障并且尽早进行处理，避免停机所造成的高昂经济和时间损失。

携手 u-blox 部署边缘 AI技术

在无线智能设备中部署边缘 AI 应用场景已经变得非常便捷，而且其性能也更强大。u-blox 刚刚推出了 NORA-W10 Wi-Fi 4 和蓝牙低功耗 5.0 模块，专为实现和加速边缘 AI 应用部署而设计。NORA-W10模块除了采用高性能 open CPU 来支持功能丰富的客户应用，还支持语音和人脸识别的 AI计算。用于边缘神经网络推理（8 位和 16 位模型）的 AI 矢量指令可以带来额外的性能提升，显著加快 AI 算法速度，降低感知延迟，并且还能减少耗电量。