人工智能的边缘

趋势8:解决延迟，点特定的上下文学习与基于边缘的智能

智能应答,汽车建议语法、句子填空题在输入电话,语音识别,语音助手,面部生物识别解锁一个电话或一个自主车辆导航系统,机器人技术,增强现实应用程序,他们使用本地,本地部署人工智能模型来提高用户操作的响应时间。想象一下，在没有本地人工智能模型的情况下，推理或预测将不得不基于远程服务器;体验将完全相反。AI在利用基于边缘的AI为用户提供更好的体验方面发挥着关键作用。

基于边缘的AI在远程位置扮演着一个典型的角色，在这些位置，网络连接可能不是连续的，响应时间应该以秒为单位，并且不能提供网络延迟，并且在给定的环境中需要使用用户特定的数据进行超上下文化。

基于边缘的AI是可行的，因为边缘处理专用嵌入式芯片硬件和软件，如谷歌张量处理单元、现场可编程门阵列和GPU的显著改进。

在边缘，通常会发生两件事，一件是推理或预测，另一件是训练或学习。对于发生的推理或预测，可以使用轻量级模型进行预测。具有训练能力的模型可以使用基于局部上下文的学习，并在适当的时间与中心模型同步。同步可以通过共享模型参数、权重、特征等来完成，而不需要共享实际数据，从而进行管理数据隐私。一旦中心模型通过来自不同远程基于边缘的AI模型的几个此类更新来构建自己，它就可以更新其训练，并与所有基于边缘的设备或客户端共享更新后的模型足迹，从而确保每个人都能从中心学习能力中受益。这种分布式学习的过程被称为联邦学习，它本质上是作为一种策略来使用的，共享数据有数据隐私性、共享性、网络传输限制等挑战，但同时需要利用抽象学习的好处，通过中央能力。

TensorFlow Lite提供了完整的工具来转换TensorFlow模型到TensorFlow Lite，它可以运行在边缘设备上。它们也被兼容以获得中央处理器和GPU加速设备的好处。MobileNet模型通过调整网络架构模式(如深度可分离卷积、宽度乘子的超参数优化、分辨率乘子以及在精度和延迟方面的相应权衡)，将几种最先进的CNN模型适应到设备模型中。

印孚瑟斯与一家大型欧洲汽车制造商合作，通过“物联网”网关，利用边缘计算技术来识别和预测褐地环境中主轴机器的故障。这有助于建立一个经济有效的解决方案来处理来自主轴机的大量数据。

一家大型全球矿业公司使用可穿戴设备进行安全监控，将矿工的源数据移动到云端，以接近实时的方式进行处理。

作为一家大型的全球制造商，发动机维护、维修和大修车间的优化是贯穿始终的边缘计算，它为调度操作提供了机器的可用性和可预测性。