侵权投诉

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

Deep Edge AI使得算法的规模正不断缩小

STM32_STM8_MCU ? 来源:意法半导体中国 ? 作者:意法半导体中国 ? 2021-10-12 17:36 ? 次阅读

机器学习深度学习网络有可能通过提供更强大的全新方法来分析现场数据,从而极大地提高产品价值。Deep Edge AI使得算法的规模正不断缩小,目前能够在传感器旁的端侧进行计算。智能设备数量指数级增长目前需要经过优化的处理能力,以便为许多市场(如工业4.0、消费品、建筑管理、医疗保健和农业等领域)带来更多价值。

然而,对于AI/ML数据科学家来说,将他们的模型移植到嵌入式环境具有很大挑战性,因为嵌入式系统在计算、内存和功耗方面受到一定限制。微控制器可与嵌入式应用完美匹配,因为它们专为特定的细分市场而定制,具有低功耗和开发速度快等特点,绝对物超所值。然而,与大型应用处理器相比,在Cortex-M上进行开发时需要完全不同的嵌入式开发技能。

为了帮助企业在最短时间内设计出最佳产品,意法半导体提供一个全面的AI生态系统,其包括硬件、软件开发工具以及STM32微控制器和微处理器上所运行的示例代码。这些示例可以快速衍生以实现新的功能,这些工具支持对优化的机器学习模型(例如但不限于,神经网络)进行移植测试、基准检查以及迭代。

STM32Cube.AI是广泛使用的STM32CubeMX配置与代码生成工具,可在基于STM32 ArmCortex-M的微控制器上使用AI。

用户将受益于STM32CubeMX特性,如面向所有STM32板的代码生成,以及可在不同的操作系统(Windows、Linux或Mac OS)上兼容IAR Embedded Workbench、MDK-ARM以及STM32CubeIDE(GCC编译器)。

它通过参数约束的动态验证自动配置外设和中间件功能模式,通过最佳参数和动态验证实现自动初始化,进而自动配置时钟树。

STM32Cube集成使得STM32Cube.AI用户能够有效地在广泛的STM32微控制器系列产品之间移植模型,并且(在相似型号适用于不同产品的情况下)在STM32产品之间轻松迁移。

该插件扩展了STM32CubeMX功能,可自动转化预训练AI模型,将生成的优化库集成到用户项目中,而不是人工构建代码,并支持将深度学习解决方案嵌入到广泛的STM32微控制器产品组合中,从而为每个产品添加新的智能化功能。

STM32Cube.AI原生支持各种深度学习框架,如Keras、TensorFlow Lite、ConvNetJs,并支持可导出为ONNX标准格式的所有框架,如PyTorch、MicrosoftCognitive Toolkit、MATLAB等。

此外,STM32Cube.AI支持来自广泛ML开源库Scikit-Learn的标准机器学习算法,如孤立森林、支持向量机(SVM)、K-Means。

在实践中,用户只需在STM32CubeMX中加载一个预训练模型,然后选择一个AI运行环境。STM32Cube.AI可自动分析模型并显示正确存储和运行模型所需的最小内存空间。然后用户可在兼容的STM32设备列表中选择适合自己项目需求的最佳STM32微控制器。

一旦选定了合适的微控制器,可为该微控制器启动一个项目,或者直接选择适当的MCU设置所自动配置的开发板。可以选择一个或多个AI/ML模型,并通过能够评估总体模型复杂度以及RAM和闪存占用空间的工具进行分析。还能以图形方式将模型可视化,并显示每一层以查看模型的复杂性究竟位于何处。Keras和TensorFlow Lite神经网络支持8位量化模型。还可以使用自定义层扩展该工具,以添加包含用户定义层的模型并对其进行基准测试。

STM32Cube.AI有助于模型优化,所以更大的网络也能移植到微控制器上。图形用户界面提供生成的代码中所用缓冲区的全面视图,并包含几个优化选项(例如输入/输出缓冲区和激活缓冲区之间的存储器重叠),以便将实现模型所需的内存空间降至最低。

STM32Cube.AI支持使用外部存储器,并允许在不同的存储区之间轻松分配权重。一旦模型存储在多个阵列中,(例如)可以将模型权重的一部分映射到内部,将其它部分映射到外部Flash存储器中,将激活缓冲区映射到外部RAM中。

该工具旨在加快开发速度,并使开发人员能够在桌面验证自己的模型以进行快速基准测试,以及在设备上验证自己的模型以测量最终模型性能(包括量化的影响)。在验证过程的最后,一个对照表总结了原始模型与STM32模型的精度和误差,并可选择性提供每层的复杂性报告和执行期间测得的推理时间。

神经网络编译器提供的优化代码提高了效率并减少了内存占用。各层和内核被设计为在STM32上运行并利用可用的设备特性。选定所有设置后,STM32Cube.AI会生成一个应用模板,可以直接与您首选IDE中的应用特定代码进行集成。然后可以使用所有STM32开发工具(如STM32CubeMX、STM32CubeMonitor、STM32CubeMonPower、STM32CubeMonRF、STM32CubeMonUCPD)和诸多合作伙伴工具设计采用人工智能算法的最终应用。

对于希望拥有一个跨多个项目的通用框架的开发人员,STM32Cube.AI还支持TensorFlow Lite运行环境。可以从用户界面中选择它作为STM32Cube.AI运行环境的替代方案,即使它可能会降低性能,因为运行环境没有针对STM32进行完全优化。

由意法半导体对STM32Cube.AI提供维护,可以确保高质量开发所需的长期支持和可靠性。每次推出新的主要版本时,都会有针对性地定期更新,确保兼容最新AI框架。

该工具既能作为图形用户界面,也可以作为命令行,所以能够轻松集成到DevOps流程中,以确保AI开发的所有领域定期得到验证。甚至可以构建一个带有部署后检查功能的AutoML流,利用分析和验证功能识别与用例的目标存储空间、推理时间和精度约束相匹配的合适模型。

模型还可以在现场持续更新,因为库可以部署为可重定位的模型。因此无需执行完整的固件升级即可轻松更新模型拓扑和权重。简化了产品更新,并通过无线模型更新(或局部FOTA)确保Deep Edge AI与现场观察到的任何变更保持一致,或只是通过模型/软件更新升级新功能。

最后,STM32Cube.AI只是意法半导体所提供的更广泛生态系统的一部分,使得STM32用户可以在STM32上使用AI功能。 更多细节将在后续文章中予以介绍。

责任编辑:haq

原文标题:AI技术专题之四 | AI在Deep Edge领域中的应用

文章出处:【微信号:STM32_STM8_MCU,微信公众号:STM32单片机】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    移植深度学习算法模型到海思AI芯片

    本文大致介绍将深度学习算法模型移植到海思AI芯片的总体流程和一些需要注意的细节。海思芯片移植深度学习....
    发表于 01-26 19:42 ? 4次 阅读
    移植深度学习算法模型到海思AI芯片

    VEGA:诺亚AutoML高性能开源算法集简介

    VEGA是华为诺亚方舟实验室自研的全流程AutoML算法集合,提供架构搜索、超参优化、数据增强、模型....
    发表于 01-26 19:11 ? 2次 阅读
    VEGA:诺亚AutoML高性能开源算法集简介

    CVPR2020 | 对数字屏幕拍照时的摩尔纹怎么去除?

    本文收录于CVPR2020,是华为诺亚方舟研究院的成果,主要解决的是,去除对数字屏幕拍照产生摩尔纹,....
    发表于 01-26 19:05 ? 2次 阅读
    CVPR2020 | 对数字屏幕拍照时的摩尔纹怎么去除?

    飞腾携手百度、长城推出全国产 AI 计算平台解决方案,赋能新基建

    日前,飞腾联合百度和长城共同推出全国产 AI 计算平台解决方案,面向机器学习、视频识别、图像识别、语....
    发表于 01-26 19:04 ? 0次 阅读
    飞腾携手百度、长城推出全国产 AI 计算平台解决方案,赋能新基建

    用开源212点人脸关键点实现Android人脸实时打码,内附Github地址

    随着人脸识别技术的普及,人脸数据的隐私问题也得到越来越多关注,针对隐私保护的研究也陆续出现。目前大致....
    发表于 01-26 18:49 ? 0次 阅读
    用开源212点人脸关键点实现Android人脸实时打码,内附Github地址

    抖音快手APP大眼特效开源实现,甜美系小姐姐亲做效果演示

    抖音短视频中的大眼特效有很多人玩,这篇就讲一下怎么实现。本文为《抖音美颜效果开源实现,从AI到美颜全....
    发表于 01-26 18:45 ? 2次 阅读
    抖音快手APP大眼特效开源实现,甜美系小姐姐亲做效果演示

    用于医疗领域的嵌入式AI: 如何为嵌入式设备构建COVID-Net

    所有内容由Sheldon Fernandez (DarwinAI CEO) and Alexande....
    发表于 01-26 18:38 ? 2次 阅读
    用于医疗领域的嵌入式AI: 如何为嵌入式设备构建COVID-Net

    Tengine从入门到放弃 第0篇-Tengine X86版本编译

    Tengine X86版本编译环境System: Ubuntu18.04CMAKE: 3.15.3为....
    发表于 01-26 18:29 ? 0次 阅读
    Tengine从入门到放弃 第0篇-Tengine X86版本编译

    Tengine从入门到放弃 第2篇-Tengine 转换模型

    Tengine其实是提供Linux版本的二进制模型转化工具(下载),为了让读者了解的更详细些,还是把....
    发表于 01-26 18:25 ? 7次 阅读
    Tengine从入门到放弃 第2篇-Tengine 转换模型

    工程之道,深度学习的工业级模型量化实战

    MegEngine 提供从训练到部署完整的量化支持,包括量化感知训练以及训练后量化,凭借“训练推理一....
    发表于 01-26 18:15 ? 2次 阅读
    工程之道,深度学习的工业级模型量化实战

    Tengine从入门到放弃 第4篇-Tengine 人脸检测 Android版

    Tengine 人脸检测 Android版所有内容都在 FaceDetector_Android 如....
    发表于 01-26 18:13 ? 3次 阅读
    Tengine从入门到放弃 第4篇-Tengine 人脸检测 Android版

    APReLU:跨界应用,用于机器故障检测的自适应ReLU | IEEE TIE 2020

    来源:晓飞的算法工程笔记作者:VincentLee论文的工作属于深度学习在工业界的应用,借鉴计算机视....
    发表于 01-26 18:02 ? 2次 阅读
    APReLU:跨界应用,用于机器故障检测的自适应ReLU | IEEE TIE 2020

    云芯一号搭建深度学习推演服务器(一)frp转发主板端口

    由于云芯一号比较难配置静态外网ip,笔者每次连接云芯一号都需要大费周折地通过连接显示屏和键盘来查看云....
    发表于 01-26 17:31 ? 2次 阅读
    云芯一号搭建深度学习推演服务器(一)frp转发主板端口

    详细解读IBM通向无边界企业的五大路径

    在疫情新常态和新技术浪潮的叠加之下,哪些东西被永久改变了?除了人们的生活方式、工作方式,企业的经营方....
    的头像 IBM中国 发表于 01-26 14:03 ? 194次 阅读

    Meta携手NVIDIA打造大型AI研究超级计算机

    Meta 的 AI 超级计算机——迄今为止的最大的 NVIDIA DGX A100 客户系统——将为....
    发表于 01-26 11:57 ? 123次 阅读
    Meta携手NVIDIA打造大型AI研究超级计算机

    智能制造成“十四五”时期新风口

    近日,国务院、工信部、商务部、交通部等多部门纷纷推出“十四五”时期相关规划,围绕我们关注的AI、大数....
    的头像 机智云物联网 发表于 01-26 11:17 ? 209次 阅读

    PD_SINK端测试器规格书的相关资料下载

    PD_SINK端测试器规格书此产品可广泛应用于PD适配器厂家、PD移动电源厂家、PD车充厂家做老化用也可以做测试用,可以测...
    发表于 01-26 07:37 ? 0次 阅读

    双目测距系列(一)标定工具的开发

    双目摄像头标定是测距及其三维建模非常重要的步骤,因为标定出来的内外参数将会用来对原始图像进行反畸变校....
    发表于 01-25 20:04 ? 2次 阅读
    双目测距系列(一)标定工具的开发

    TinyML应用需求新的网络架构

    研究人员研究神经网络压缩已经有很长一段时间了。然而,对始终在线计算需求导致了最近的一种趋势,即在更小....
    发表于 01-25 19:25 ? 5次 阅读
    TinyML应用需求新的网络架构

    多款年货精选OLED电视促销大放送

    LGB1同时兼容G-SYNC和FREESYNC,拥有120Hz、VRR可变刷新率、ALLM自动低延迟....
    的头像 LGDisplay 发表于 01-25 19:14 ? 325次 阅读

    借助TensorFlow Lite(适用于微控制器和CMSIS-NN)加速Arm微控制器的推理

    微控制器(MCU)是为我们的技术环境提供动力的微型计算机。每年制造的产品超过300亿种,嵌入到从家用....
    发表于 01-25 19:00 ? 4次 阅读
    借助TensorFlow Lite(适用于微控制器和CMSIS-NN)加速Arm微控制器的推理

    RT-Thread学习笔记 --(9)RT-Thread内存管理学习过程总结

    在单片机芯片上,如果不考虑出厂固化的ROM空间的话,通常开发者能接触到的存储空间主要分两种:掉电可保....
    发表于 01-25 18:48 ? 2次 阅读
    RT-Thread学习笔记 --(9)RT-Thread内存管理学习过程总结

    博联智能荣获“十大全屋智能家居品牌”

    近日,由千家智客联合千家品牌实验室共同举办的2021年度“中国智能建筑品牌奖“颁奖典礼在广州东方宾馆....
    的头像 BroadLink博联 发表于 01-25 18:05 ? 222次 阅读

    博联博联智能携手招商蛇口共建数智人居

    随着智能化在地产领域的渗透,全屋智能、智慧社区已经成为地产行业发展重要趋势。招商蛇口在智慧地产方面具....
    的头像 BroadLink博联 发表于 01-25 18:00 ? 213次 阅读

    【从零开始学深度学习编译器】番外二,在Jetson Nano上玩TVM

    这里就不详细介绍Jetson Nano了,我们只需要知道NVIDIA Jetson是NVIDIA的一....
    发表于 01-25 17:46 ? 4次 阅读
    【从零开始学深度学习编译器】番外二,在Jetson Nano上玩TVM

    【周易AIPU 仿真】R329 AIPU 初体验:开发板申请及模型仿真测试

    近期,为了让开发者更快得体验搭载周易AIPU处理器的R329芯片,极术社区联合矽速科技共同推出了R3....
    发表于 01-25 17:37 ? 2次 阅读
    【周易AIPU 仿真】R329 AIPU 初体验:开发板申请及模型仿真测试

    【周易AIPU 仿真】R329开发板(仿真)部署AIPU初体验

    操作系统:Ubuntu版 本:20.04 LTS (18.04也一样)假定当前目录:/root/de....
    发表于 01-25 17:35 ? 4次 阅读
    【周易AIPU 仿真】R329开发板(仿真)部署AIPU初体验

    维智科技入选《爱分析房企数字化厂商全景报告》

    近日,中国领先的产业数字化研究与咨询机构爱分析发布了《2021爱分析·房企数字化厂商全景报告》,并遴....
    的头像 WAYZ维智 发表于 01-25 17:32 ? 197次 阅读

    ARC智能网联汽车技术论坛即将举行

    ARC解决方案应用领域广泛,涉猎了从汽车、5G、物联网,到存储、AI、云等多个应用场景。
    的头像 新思科技 发表于 01-25 16:32 ? 377次 阅读

    人工智能治理未来发展趋势分析

    日前,人民智库与旷视AI治理研究院成立联合课题组,邀请中国人工智能产业发展联盟(AIIA)为课题支持....
    的头像 旷视MEGVII 发表于 01-25 16:05 ? 299次 阅读

    科技抗疫丨SENSORO疫情防控“漫入调查系统”提升流调效率

    连日来,国内多地报告新增病例,加上因春节临近导致的人员流动和聚集增加,基层防疫面临着比平时更大的挑战....
    的头像 升哲科技 发表于 01-25 16:03 ? 28次 阅读
    科技抗疫丨SENSORO疫情防控“漫入调查系统”提升流调效率

    Google Cloud 2022中国出海数字峰会

    企业出海,技术为舵,开发者作为出海企业技术舵手,需保持高度敏锐,持续修炼技能,确保企业出海动力稳定。....
    的头像 谷歌开发者 发表于 01-25 13:11 ? 282次 阅读

    微软推出“编程一小时”活动,为青少年打开计算机学科新世界

    小编说:“编程”对数字时代的我们来说并不陌生,如果将它与“青少年”这一蕴含着无限可能的群体联系到一起....
    的头像 微软科技 发表于 01-25 10:49 ? 175次 阅读

    Silicon Labs通过Matter-Ready平台实现人工智能和机器学习在边缘设备上的应用

    Silicon Labs宣布推出BG24和MG24系列2.4 GHz无线SoC,分别支持蓝牙和多协议....
    发表于 01-25 10:36 ? 442次 阅读
    Silicon Labs通过Matter-Ready平台实现人工智能和机器学习在边缘设备上的应用

    《计算机研究与发展》—机器学习的可解释性

    机器学习的可解释性 来源:《计算机研究与发展》,作者陈珂锐等 摘 要?近年来,机器学习发展迅速,尤其....
    发表于 01-25 08:35 ? 6次 阅读
    《计算机研究与发展》—机器学习的可解释性

    运放差分放大器电路分享

    一个标准的运放差分放大器电路如下:当电阻R1 = R2和R3 = R4时,上述差分放大器的传递函数可以简化为以下表达式:增益 Gain...
    发表于 01-25 06:25 ? 0次 阅读

    华为云“城市一朵云”解决方案推进智慧城市建设

    华为在全国已经建设了超过600个项目,全国总计有150个直辖市、省会城市以及地级市和区县选择华为组建....
    的头像 华为 发表于 01-24 14:16 ? 520次 阅读

    易华录持续推动大数据技术创新应用

    为充分挖掘数据价值,深化数字技术与经济社会融合发展,安徽省亳州市数据资源管理局面向全国公开征集大数据....
    的头像 易华录 发表于 01-24 12:13 ? 201次 阅读

    大数据互联网时代光纤通信技术的发展与挑战

    大数据互联网时代光纤通信技术的发展与挑战 来源:《重庆邮电大学学报(自然科学版)》,作者付亚伟 摘 ....
    发表于 01-24 11:08 ? 22次 阅读

    无人驾驶企业中智行再获多项殊荣

    在由政府和权威媒体主办的2021年度评选活动中,全球领先的车路协同无人驾驶企业中智行近日再获多项殊荣....
    的头像 中智行ALLRIDE 发表于 01-24 10:55 ? 231次 阅读

    关于NVIDIA在线研讨会的详细内容

    了解一周的在线研讨会时间及详细内容,选择感兴趣的研讨会并提前安排收听时间;
    的头像 NVIDIA英伟达 发表于 01-24 10:33 ? 228次 阅读

    使用8255A实现开关控制发光二极管的亮灭

    《单片机》实验——实验7 8255并行口实验一、实验目的二、实验内容一、实验目的(1)进一步掌握定时器的使用和编程方法(2)掌握...
    发表于 01-24 08:33 ? 0次 阅读

    基于多视角融合的夜间无人车三维目标检测

    基于多视角融合的夜间无人车三维目标检测 来源:《应用光学》,作者王宇岚等 摘 要:为了提高无人车在夜....
    发表于 01-23 15:15 ? 10次 阅读

    瑞为技术斩获“2021年度最佳人工智能公司TOP30”

    近日,备受业内瞩目的机器之心「AI中国」2021年度评选榜单正式揭晓。瑞为技术凭借深耕多年的图像感知....
    的头像 瑞为技术Reconova 发表于 01-21 14:14 ? 607次 阅读

    NVIDIA在线研讨会亮点前瞻

    DeepStream SDK 作为 IVA 智能视频分析工具集,为利用 AI 和机器视觉方法处理和分....
    的头像 NVIDIA英伟达企业解决方案 发表于 01-21 09:55 ? 290次 阅读

    NVIDIA出席第十五届深圳国际金融科技博览会

    第十五届深圳国际金融科技博览会(“简称金博会”)在深圳会展中心1号馆举行。 众所周知,在金融行业,现....
    的头像 NVIDIA英伟达企业解决方案 发表于 01-21 09:31 ? 1154次 阅读

    基于Grad-CAM与KL损失的SSD目标检测算法

    基于Grad-CAM与KL损失的SSD目标检测算法 来源:《电子学报》,作者侯庆山等 摘 要:?鉴于....
    发表于 01-21 08:40 ? 21次 阅读

    智慧校园安装人脸识别门禁的好处都有哪些

    校园这个场所的人员流动性较大,主要涉及对象为学生和学校教职工。而大部分学校是以视频监控的方式来预防保....
    发表于 01-20 17:36 ? 19次 阅读

    易华录亮相第十六届中国智能交通年会

    第十六届中国智能交通年会(ITSAC 2021)暨2021中国智能交通大会在湖南长沙举行。本次活动由....
    的头像 易华录 发表于 01-20 16:35 ? 387次 阅读

    采用集成电路进行数字系统设计的优点

    引入    逻辑门是组成各类数字逻辑电路的基本逻辑器件。    集成电路(集成电路芯片):实现各种逻辑功能的...
    发表于 01-20 08:28 ? 0次 阅读

    MSP432飞控软件框架的相关资料分享

    飞控整个软件代码运行在定时器调度模式,同时对各个外设模块中断优先级进行了合理设计,确保程序运行的实时性和稳健性。其中对实...
    发表于 01-20 07:12 ? 0次 阅读

    STM32写PWM四路输出St_link突然就不能用了是为什么?

    STM32写PWM四路输出St_link突然就不能用了是为什么?...
    发表于 01-19 07:25 ? 0次 阅读

    【年度精选】2021年度top5榜单——LabVIEW技术论坛社区经验

    本榜单汇总了2021年阅读量最多的经验帖,都是深受各位开发者喜欢的项目开发经验,相信你也能从中找到适合自己的知识,快来阅读收...
    发表于 01-17 16:19 ? 404次 阅读

    如何安装单片机keil5破解版本?

    如何安装单片机keil5破解版本?
    发表于 01-17 08:32 ? 0次 阅读

    Lab WindowsCVI的编程思路

    第五章:Lab WindowsCVI单通道AD连续采集并采样文章目录第五章:Lab WindowsCVI单通道AD连续采集并采样一、实验目...
    发表于 01-17 07:58 ? 0次 阅读

    如何去实现座椅位置的自动控制和调节呢

    如何去实现座椅位置的自动控制和调节呢? 霍尔传感器和电机在座椅位置的自动控制和调节中有何作用?...
    发表于 01-17 07:13 ? 0次 阅读
    她的小梨涡完整版免费阅读