昨日，嵌入式领域发生了一件大新闻，IAR宣布与Edge Impulse联手为全球客户提供AI与ML整合功能。 


可能，很多人对于这个新闻没什么认知。要知道，Keil和IAR作为嵌入式/单片机开发双雄，IAR在全球拥有超过15万开发人员和4.6万家公司，Edge Impulse这家公司的业务，则是MCU巨头纷纷向往的TinyML。


两家联手，意味着，嵌入式领域，即将掀起一场AI革命。想象一下，未来你所使用的咖啡机，都会使用嵌入式视觉和AI，来帮助制作完美的咖啡。


MCU未来十年市场，靠TinyML


Edge Impluse这家公司的名号很多人都听说过，但可能很少深入了解过。这家公司以TinyML（Tiny Machine Learning）为服务，于2019年成立，创始人Zach Shelby和Jan Jongboom都来自Arm，致力于提供最新的机器学习工具，使所有企业都能打造更智能的边缘产品。


Edge Impulse解决方案被广泛应用于健康穿戴设备制造商如Oura、Know Labs和NOWATCH，工业组织如NASA，以及顶尖的芯片供应商，受到超过80000名开发人员的采用，并已成为企业和开发人员信赖的平台。


那么微型机器学习 (TinyML) 是什么？


TinyML是近几年新兴的一个领域，专注于开发可在低功耗、内存受限的设备上运行的算法和模型。TinyML并非单一的具体技术，而是一个概括词，凡能在微控制器（MCU）芯片上实现AI/ML推论工作的，都算是TinyML。


用人话讲，就是用在边缘上的人工智能/机器学习（AI/ML），是比较轻量和很小的AI/ML。举个例子，TinyML涉及的微控制器体积小且能效高，换一次电池能供电很多年，同时这个方案也非常便宜。


为什么要这样做，为什么非TinyML不可？


数据中心功耗和负载已经发展得很可怕了，加之物联网兴起，不可能每做一次任务，就要问一次服务器怎么做，每个点的设备总归是要有自己的想法。所以TinyML就是把AI应用带到边缘设备（如智能手机、可穿戴、汽车和物联网设备等）上的关键。


AI让边缘更智能，边缘让AI无处不在，不难预见，未来十年，TinyML会是MCU市场最大的推动力。


厂商近几年结论，便印证了上述结论MCU界“六大天王”ST、NXP、Microchip、Renesas、TI、Infineon都在加大布局边缘AI：


  • ST在2019年发布STM32Cube.AI工具，并在2021年收购NanoEdge AI Studio，降低边缘AI开发门槛，在今年使用NVIDIA TAO 工具套件拓展STM32边缘AI生态；


  • NXP在2018年就推出机器学习软件eIQ®机器学习(ML)软件，并不断加大在AI/ML上的投入；


  • Microchip在2020年就将Cartesiam（现已被ST收购）、Edge Impulse和Motion Gestures的软件和解决方案接口引入其设计环境；


  • Renesas在2022年完成对美国从事机器学习模型开发的初创企业Reality AI（以TinyML为业务）的收购；


  • TI最近几年推出的MCU均在边缘AI领域具有优势，包括高集成可扩展的边缘AI处理器组合；


  • Infineon今年5月收购瑞典的TinyML和AutoML领域初创公司Imagimob AB。


无独有偶，Gartner也在报告中指出，在2到5年内，具有AI能力将会成为嵌入式产品的标配。 



Edge Impulse能给IAR带来什么


Edge Impulse并非唯一的TinyML软件方案商，但相比来说，它拥有比较直观易用的Web界面，说白了，就是开个网页就能用，最重要的是，它对开发人员免费。


值得一提的是，Edge Impulse的特点是具有边缘优化神经（EdgeOptimised Neural， EON）编译程序。根据其官方网站介绍，以该编译程序编译出来的神经网络推论模型，与TFLite Micro相比，可以少使用25～55%的RAM内存与少使用35%的储存空间。


另外Edge Impulse也在其官方Blog上发表技术实证专文，运用他们的数字信号处理区块（DSP Block）来对声音进行推论前的前置处理，可以更快完成推论、更精准推论，以鸟叫声辨识为例，速度快48%，精准度增7%。


Edge Impulse目前支持13款开发板，包括OpenMV H7 、Arduino Nano 33 BLE、ST loT探索套件等，支持的设备可以在几分钟内轻松记录和上传数据集。


虽然打开网页就能使用Edge Impulse，但这一定没有植入到软件中更加易用。


当IAR与Edge Impulse联手，用户随时可以生成经过优化的C/C++代码，并轻松地将其集成到嵌入式应用程序中。这种无缝的Edge Impulse平台与IAR Embedded Workbench的整合将帮助工程师节省时间，缩短产品上市周期，同时提升机器学习工作流程的代码性能。


根据IAR官方介绍，通过这一崭新的商业伙伴合作，全球数百万使用IAR Embedded Workbench的用户将在2023年第四季度获得Edge Impulse的高级附加功能选项，首批解决方案将首发给IAR现有的Arm架构客户。



IAR，还在变强


细心的工程师一定会发现，最近几年，IAR越来越好用了。对应的，IAR也频繁出现大动作，包括：logo大改版、网站支持中文、悄悄升级IAR开发工具。


虽然在工程界，编译器拥有多种流派选择，但IAR Embedded Workbench被认为是业内最佳的编译器和调试器工具链之一。可以确信的是：IAR Embedded Workbench可使代码体积更小、更快更智能，同时确保稳健性、安全性、防护能力和高质量，从而满足用户的高标准要求。 


IAR Embedded Workbench有20多种不同的版本，以匹配支持不同类型的处理器。还支持超过14000种器件，包括中国MCU和SoC供应商的产品。在与Arm合作之外，IAR一直在与RISC-V等其他架构合作。我们与IP和工具供应商（比如Codasip）合作以进行定制化处理器设计。


而且，IAR本身，也是拥有AI功能的。最新版本的状态机设计解决方案IAR Visual State增加了对Windows和Linux的跨平台支持，并支持自动生成C、C++、C#或Java代码。


同时，IAR还积极与中国本地厂商合作，共同构建嵌入式领域的生态系统。只今年上半年就先后与国民技术、先楫半导体、兆易创新等多家厂商达成合作。


  • 6月13日，IAR发布集成开发环境IAR Embedded Workbench for Arm9.40版，已全面支持国民技术N32系列产品，其中包括基于M4内核的N32G452、N32G455、N32G457、N32G4FR、N32WB452、N32G432、N32G435、N32L436、N32L406、N32G43x、N32G40x系列MCU和N32A455系列车规MCU，以及基于M0内核的N32G031、N32G032、N32G003系列MCU，方便全球客户基于N32进行产品开发；


  • 6月14日，IAR与国产领先高性能MCU厂商先楫半导体（HPMicro）共同宣布达成战略合作协议：IAR最新的Embedded Workbench for RISC-V版本将全面支持先楫HPM6000高性能RISC-V MCU系列，这是IAR首次支持高性能通用RISC-V MCU产品系列；


  • 7月13日，IAR与业界领先的半导体器件供应商兆易创新（GigaDevice）联合宣布，最新发布的IAR Embedded Workbench for Arm 9.40版本已全面支持兆易创新基于Arm® Cortex®-M7内核的超高性能MCU微控制器——GD32H737/757/759系列，为开发人员提供高效的工具链；


  • 7月26日，IAR宣布与国内专业RISC-V处理器IP及解决方案公司芯来科技达成战略合作：经 TÜV SÜD 认证的IAR Embedded Workbench for RISC-V功能安全版将全面支持芯来科技NA系列车规级处理器内核；


  • 10月11日，IAR与普冉半导体宣布达成合作，全面支持普冉半导体32位Arm® Cortex® - M0+/M4系列微控制器；


  • 10月18日，IAR宣布与中科芯达成生态合作，全面支持其CKS32系列MCU的应用开发。


当AI飞临，就连IAR这样的工具链企业都加入到了战争之中，可见AI革命已经渐深，当边缘设备都具备了AI，我们的生活或许又会发生翻天覆地的新改变。


参考文献

[1] IAR爱亚系统：全新合作联盟：IAR与Edge Impulse联手为全球客户提供AI与ML整合功能.2023.10.26.https://mp.weixin.qq.com/s/0qrToqFVcX8tsfJVmSt-VA

[2] 柴火创客空间：人工智能的下一轮革命？关于TinyML的一切.2022.3.3.https://mp.weixin.qq.com/s/k2f20Ob8ZUu6NmN9ALduCQ

[3] strongerHuang：IAR支持中文了，keil还会远吗？.2023.7.4.https://mp.weixin.qq.com/s/z8mfxGD0lDWTOyUJUu2WbQ

[4] 麦克泰技术：IAR支持8500多种ARM芯片！.2023.5.23.https://mp.weixin.qq.com/s/a4JYZsxs-uDrdQOZT3QnQg

[5] 嵌入式资讯精选：运用Edge Impulse实现MCU机器学习，试试吧~.2021.12.21.https://mp.weixin.qq.com/s/R7AX95bRUajizn39LP4XvQ

[6] IAR官网：https://www.iar.com/news/

[7] AI电堂：MCU巨头们都下场边缘AI了.2023.7.18.https://mp.weixin.qq.com/s/ToTgg9s-c3w4LGEa_LQydg


本文来自微信公众号：电子工程世界（ID：EEworldbbs），作者：王兆楠、付斌