Press "Enter" to skip to content

齐聚云端 共话边缘AI新方法TinyML

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

近日,浦软孵化器携手蘑菇云创客空间邀请技术大咖欧阳军老师共同探讨及分享了TinyML实现边缘设备机器学习 | 超低功耗AI算法原理及应用。

 

TinyML全称为“Tiny Machine Learning”微型机器学习,作为人工智能的一个子类,是一个新兴的发展学科,它能够在资源受限的微控制器上实现低资源消耗、低功耗的机器学习算法,工程师们可以在mW功率范围以下的设备上,实现机器学习的方法、工具和技术。因此可以支持各种不同的电池驱动的设备,和需要始终在线的应用。这些设备包括智能摄像头、远程监控设备、可穿戴设备、音频采集硬件以及各种传感器等等。它是不同技术领域和推动因素的交集,它位于物联网设备、机器学习和边缘计算之间的结合部,并因为多种驱动力的综合作用,进展很快。

 

一、TinyML工作机制

 

TinyML 算法的工作机制与传统机器学习模型几乎完全相同,通常在用户计算机或云中完成模型的训练。训练后处理是 TinyML 真正发挥作用之处,通常称为“深度压缩”(deep compression)。

 

在微控制器上部署并运行 TensorFlow 模型,需要三个步骤:

 

第一步 生成小型 TensorFlow 模型。

 

Keras

 

Keras 是一个用 Python 编写的高级神经网络 API,它能够以 TensorFlow, CNTK, 或者 Theano 作为后端运行。这里我们使用Keras构建并训练一个TensorFlow模型。

 

第二步 使用 TensorFlow Lite 转换器转换为 TensorFlow Lite 模型。

 

TensorFlow Lite

 

TensorFlow Lite 是 TensorFlow 移动和嵌入式设备轻量级解决方案。使用 TensorFlow Lite Converter 可以将 TensorFlow 模型转换为高效的 compressed flat buffer格式。并且支持将 32 位浮点数转换为更高效的 8 位整数进行量化以降低对算力的要求。

 

第三步 使用 C++ 库在设备上进行推断并处理结果 。

 

TensorFlow Lite Micro

 

TensorFlow Lite Micro 是 TensorFlow Lite 针对 AIOT 的轻量级 AI 引擎,用于在微控制器和其他资源受限的设备上运行机器学习模型。

 

二、TinyML的特点与重要性

 

TinyML的出现,是为了更好的缓解边缘ML和云端ML中,无法突破的多种问题,包括数据隐私、时间延迟、可靠性和能源效率。

 

数据隐私:TinyML尝试在物联网设备上,直接处理和分析受限的敏感数据,保护了数据隐私。

 

时间延迟:TinyML通过将某些机器学习任务转移到设备本身,来进一步减少网络延迟的可能性。

 

可靠性:TinyML可以将某些边缘和云端中的机器学习能力移植到本地,提升可靠性。

 

能源效率:通过极低功耗TinyML的数据分析,减少网络传输的数据量,可以在一定程度上,节约物联网终端中的电量消耗。

 

三、TinyML的应用

 

TinyML与IoT的融合为各行各业的许多新应用打开了大门, 可以应用于智慧车载、智慧工厂、智慧城市、智慧家居等。

 

在这些应用中TinyML可以实现关键字发现、物体识别和分类、手势识别、音频检测、机器监控。

 

应用案例:

 

智慧车载

 

Swim. AI在实时数据传输的过程中使用TinyML,通过有效提升传感器中对于实时交通数据的智能化处理能力,减少了乘客的等候时间、交通拥堵的概率、改善汽车的排放并提升乘车安全。

 

智慧工厂

 

在制造业中,TinyML可以通过启用实时决策,减少由于设备故障而导致的非计划性停机。它可以根据设备状况提醒工人必要时进行预防性维护。

 

放眼整个物联网市场,TinyML还有更多的应用价值。数以亿计的微控制器和各种各样的传感器结合在一起,在未来会激发一些非常有创意、更具实用价值的TinyML应用。

 

图片来源: https://www.51cto.com/article/630845.html

 

参考文献:

 

https://www.tensorflow.org/lite/guide/get_started?hl=zh-cn

 

https://towardsdatascience.com/tiny-machine-learning-the-next-ai-revolution-495c26463868

 

https://keras.io/zh/

 

https://mp.weixin.qq.com/s/MXcO2WHykXUN9vKOosj-Dw

 

Be First to Comment

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注