据IDC预测,2025年全球物联网连接数将增长至270亿个,物联网设备数量将达到1000亿台,全球数据总量预计2025年将达到163个ZB,而未来超过70%的数据和应用将在边缘产生和处理。
在IOT时代,海量设备将接入网络,进行数据采集和用户交互。在5G和AI的乘数效应下,数据的“量”和“质”都发生了改变。其中,“量”的变化有两个维度。一方面,数据量呈现指数级增长;另一方面,有实时性要求处理的数据迅速上升,对于将云处理的数据下沉到边缘提出要求。而“质”的变化,体现在数据形态上。从PC时代到移动时代再到IOT时代,数据类型也从结构化数据、图形数据发展到多媒体数据,再到描述AI的元数据。在AI应用中,数据不仅仅被简单的存储、传输,其价值也需要深度挖掘。这就要求数据必须靠近信息源,进行本地化的智能分析与预处理。
万物智能时代将以具备AI能力的智能设备的普遍渗透为标志。通过将AI嵌入边缘,这些设备“智能”能力将不再依赖于互联网连接,摆脱了向云端传输数据造成的时延。边缘计算可以在云上靠深度学习生成数据,而在数据原点即设备本身(边缘)执行模型的推断和预测。
目前,像谷歌、亚马逊和微软等传统云服务提供商推出了边缘人工智能服务平台,通过在终端设备本地运行预先训练好的模型进行机器学习推断,将智能服务推向边缘。此外,市场上已经出现多种边缘人工智能网关等产品,以元安物联COTX-SA系列边缘AIoT智能网关为例:
COTX-SA边缘AIoT智能网关开箱即用,通过内置预训练的常用AI模型,可以进行图像识别、目标检测、人脸检 测、图像分割等应用。凭借其强大的硬件AI处理能力和视频编解码能力,通过集成的高性能GPU处理器,实现图像、视频、AI应用等边缘业务场景下的本地的推理计算,实现了视频解码->AI 计算->视频编码的全流程的硬件加速。由于直接在本地进行AI推理计算,无需把图像和视频上传到云端,可以有效降低上行带宽需求。同时网关内置的高性能GPU芯片,专门针对深度学习计算进行硬件级加速,可以满足多路高清视频流并发实时AI运算。