芯耀
819
作者：彭昭（智次方創(chuàng)始人、云和資本聯(lián)合創(chuàng)始合伙人）
近期，微型機器學習TinyML領域取得了里程碑式的進展，跨越了一個重要的分水嶺。這一技術的成熟度和發(fā)展?jié)摿Χ紝⑦~上新的臺階。
其中最具代表性的事件是3月11日高通宣布收購Edge Impulse。
Edge Impulse是TinyML領域的代表性公司，此次收購預計將在數(shù)周內(nèi)完成。在此之前，該公司曾發(fā)布了一份題為《邊緣AI終極指南：邊緣智能業(yè)務轉型手冊》的報告，這份報告對于理解TinyML的發(fā)展趨勢和商業(yè)價值有重要參考意義。
在我此前的多篇文章中，例如《從LLM大模型到SLM小模型再到TinyML，這個領域有望增長31倍并催生新的商業(yè)模式》，我曾對TinyML進行過深入的介紹和分析。
TinyML作為一種優(yōu)化機器學習模型的技術，使其能夠在資源受限的設備（如微控制器）上高效運行。盡管這些模型的體積小巧，運算高效，但卻足以勝任語音識別、傳感器數(shù)據(jù)分析等任務。與運行大型語言模型LLM等AI技術的芯片相比，TinyML設備的成本更低，功耗更小，但性能表現(xiàn)依然出色。
TinyML的崛起，將極大地推動端側AI和邊緣智能的發(fā)展。
當前，人們對生成式AI的認知正在發(fā)生微妙的轉變。過去，人們普遍認為模型參數(shù)越多，性能就越好；而現(xiàn)在，越來越多的人開始認識到，小模型也能發(fā)揮出巨大的潛力。
隨著AI工具庫變得越來越強大，編程方式也變得越來越簡單（例如使用自然語言），AI技術的使用正變得更加平民化。此外，業(yè)界正在努力將推理過程盡可能地靠近數(shù)據(jù)源，因此邊緣AI正受到越來越多的關注。
鑒于此，本文將深入探討高通收購Edge Impulse的意義，分析值得關注的邊緣AIoT平臺，并提煉《邊緣AI終極指南》中的精華內(nèi)容，以期為讀者全面解析TinyML的技術趨勢和商業(yè)前景。
Edge Impulse并入高通，簡化邊緣AI開發(fā)流程
高通公司于3月11日宣布收購邊緣AI技術公司Edge Impulse。
此次收購將整合Edge Impulse的邊緣AI開發(fā)平臺，增強高通在AIoT領域的能力，推動高通在工業(yè)自動化、智慧醫(yī)療等領域的智能化滲透。
Edge Impulse是一家成立僅6年的公司，由芬蘭企業(yè)家扎克·謝爾比與荷蘭工程師揚·瓊布姆于2019年共同創(chuàng)立。
兩位創(chuàng)始人在ARM公司從事物聯(lián)網(wǎng)系統(tǒng)工作時相識，他們共同發(fā)現(xiàn)了一片藍海市場—TinyML微型機器學習。他們意識到，隨著微控制器計算能力的發(fā)展，已經(jīng)能夠直接在板上運行特定領域的人工智能模型。如果將人工智能從云端轉移到邊緣，將有無數(shù)的應用場景受益。
自成立之初，Edge Impulse的使命就是簡化邊緣設備的機器學習開發(fā)流程，幫助開發(fā)者快速構建和部署嵌入式AI應用，推動智能設備的普及。
Edge Impulse構建的AIoT平臺，可以大大縮短為傳感器、微控制器和攝像機等小型設備創(chuàng)建機器學習模型所需的時間。
Edge Impulse為開發(fā)人員提供了一套完整的工具，可以自動收集數(shù)據(jù)、簡化模型訓練、提供高級優(yōu)化功能，并支持一鍵部署到多種類型的硬件，從MCU微控制器到CPU中央處理器、GPU圖形處理器和NPU神經(jīng)網(wǎng)絡處理器。
目前，Edge Impulse的平臺已支持超過17萬開發(fā)者，覆蓋25萬個機器學習項目，客戶包括全球頂級芯片供應商（如意法半導體、恩智浦）和終端企業(yè)。
迄今為止，Edge Impulse已籌集了5430萬美元的資金。2021年，該公司在B輪融資中獲得了3400萬美元，估值達到2.34億美元。兩年后，該公司報告的收入為1470萬美元。
高通收購Edge Impulse可以彌補其在端側和邊緣AI領域的技術短板，并加速向AIoT轉型。
Edge Impulse的平臺能夠與高通的芯片組和軟件架構形成互補，幫助開發(fā)者在低功耗設備上快速部署AI應用。
據(jù)悉，預計本次收購將于數(shù)周內(nèi)完成。收購完成后，高通將能夠為開發(fā)者提供更高效的AI開發(fā)工具，加速物聯(lián)網(wǎng)應用的商業(yè)化進程。在工業(yè)、醫(yī)療和零售等領域，邊緣AI的普及將推動智能化轉型，提升運營效率和決策能力。
上圖展示了兩者結合后的優(yōu)勢，Edge Impulse平臺與高通的邊緣AI工作流程和高通AI Hub、Foundries.io等工具配合使用，可以更廣泛地訪問新模型、測試環(huán)境和部署選項。
在一篇博文中，Edge Impulse創(chuàng)始人謝爾比介紹了并入高通的意義。
對Edge Impulse用戶而言，這意味著邊緣人工智能將變得更加簡單、易于使用。與高通的合作將加速對功能強大的Dragonwing處理器的計算機視覺、音頻、語音識別和生成式人工智能的支持。除了支持高通的硬件，Edge Impulse還將繼續(xù)支持來自廣泛合作伙伴的邊緣硬件，包括MCU、CPU、GPU和NPU。用戶可以像往常一樣，使用Edge Impulse將模型部署到自己喜歡的硬件上。
對高通而言，Edge Impulse將為其物聯(lián)網(wǎng)戰(zhàn)略方針增添重要組成部分。無論經(jīng)驗水平如何，用戶都可以從完整且直觀的邊緣AI開發(fā)工作流程中受益。從數(shù)據(jù)準備和AI實驗，到在各種邊緣硬件（包括Dragonwing處理器）上優(yōu)化和部署AI模型，用戶都可以立即開始嘗試。此外，企業(yè)和工業(yè)應用可以利用全新Edge Impulse與高通AI Hub的集成，分析并提升針對高通硬件的模型性能，加速高性能物聯(lián)網(wǎng)設備的創(chuàng)新。
TinyML設備：麻雀雖小五臟俱全的開發(fā)挑戰(zhàn)
TinyML模型運行于微控制器芯片，這類芯片常見于洗衣機、冰箱、汽車安全氣囊等各種設備中。
最初設想的TinyML消耗的電量非常少（不到1毫瓦），因此設備可以使用紐扣電池運行一年或更長時間，并且?guī)缀蹩梢杂肋h使用太陽能供電。雖然目前尚未廣泛達到這一閾值，但TinyML設備已經(jīng)可以使用AA電池運行數(shù)周甚至數(shù)月。
芯片本身價格低廉，可從多家制造商處購買。因此，大多數(shù)TinyML設備的價格從幾美元到幾十美元不等，具體取決于其功能的強大程度。
這些設備通常不僅包括芯片，還包括攝像頭和傳感器，用于檢測圖像和聲音，以供AI模型進行分析。目前工程師們使用的TinyML軟件、硬件和數(shù)據(jù)集都是開源的，這意味著它們可以被自由訪問和修改。
盡管TinyML設備看似簡單，但開發(fā)起來卻充滿挑戰(zhàn)。
首先，它需要多種技能的專業(yè)知識，包括硬件、軟件和機器學習，很少有人能夠全面掌握，其次，結合所有這些技能也需要時間。因此，能夠簡化開發(fā)、有效部署的端側和邊緣AI開發(fā)平臺成為了必選項。
Edge Impulse提供了《邊緣AI終極指南：邊緣AI業(yè)務轉型手冊》，其中包含了關于邊緣AI如何改變業(yè)務的關鍵要點，以及如何利用這項突破性技術的實用見解。
全球邊緣人工智能的增長和預測顯示，預計到2033年，全球邊緣AI市場規(guī)模將從2023年的190億美元增至約1630億美元。
為邊緣AI提供支持的軟件和硬件市場也在不斷增長。邊緣AI軟件解決方案正在成為現(xiàn)代數(shù)字基礎設施不可或缺的一部分。這個不斷增長的市場涵蓋了各種工具和平臺，旨在實現(xiàn)從物聯(lián)網(wǎng)傳感器到工業(yè)設備等邊緣硬件的AI推理和訓練。邊緣AI軟件的全球市場規(guī)模預計將從2023年的11億美元增長到2028年的41億美元。
在硬件方面，根據(jù)Markets and Markets的數(shù)據(jù)，到2029年，全球邊緣AI硬件市場價值預計將達到547億美元。
邊緣設備和處理器構成了邊緣AI實現(xiàn)的支柱，支持在各種應用中進行本地處理和決策。這些設備包括專用的AI加速器和神經(jīng)處理單元NPU，以及針對邊緣計算優(yōu)化的更通用的片上系統(tǒng)SoC。
《邊緣AI終極指南》還提供了如何評估邊緣AI的準備情況、如何制定邊緣AI的發(fā)展路線圖，以及如何測算投資回報率等內(nèi)容，具有參考價值。
邊緣AI成熟度評估清單可以幫助組織評估是否已為成功的邊緣AI之旅做好準備。此清單將指導評估實施和擴展邊緣AI計劃所必需的關鍵要素。
邊緣AI路線圖旨在指導完成規(guī)劃、實施和優(yōu)化邊緣AI戰(zhàn)略的關鍵步驟。通過探索有效的邊緣AI路線圖的關鍵組成部分，組織可以更好地構建未來。
測算ROI也是關鍵步驟之一，因為許多組織將面臨邊緣AI戰(zhàn)略的關鍵決策：自建還是購買。在邊緣AI的早期，DIY方法通常是唯一的選擇，需要公司組裝復雜的組件、工具和資源。然而DIY也是一種具有挑戰(zhàn)性的方法，需要廣泛領域的專業(yè)知識才能實現(xiàn)。
感興趣的朋友可以點擊鏈接下載：
https://pages.edgeimpulse.com/the-ultimate-guide-to-edge-ai
邊緣AIoT平臺巡禮：高通、英偉達、谷歌等巨頭參與角逐
隨著邊緣AI的不斷發(fā)展，支持AIoT的新型平臺也應運而生。
任何旨在支持AIoT連接的平臺都必須有效地結合人工智能和物聯(lián)網(wǎng)平臺領域的功能。這頗具挑戰(zhàn)性，因為人工智能的特點是軟件的快速迭代和更新，而物聯(lián)網(wǎng)的特點是設備的資源受限、分散部署、而且需要在無人干預的情況下運行多年。
在一份新報告《AIoT需要什么樣的平臺？》中，Transforma Insights確定了支持AIoT所需的軟件平臺必備功能。
雖然許多功能已經(jīng)存在，然而，現(xiàn)有的物聯(lián)網(wǎng)平臺通常尚未針對支持分布式人工智能進行優(yōu)化，而人工智能平臺通常沒有考慮到物聯(lián)網(wǎng)環(huán)境的所有約束。目前能夠兼顧物聯(lián)網(wǎng)和人工智能的AIoT平臺仍屬少數(shù)。
通過收購Edge Impulse，高通將成為邊緣AIoT平臺的有力參與者之一。
其他知名的邊緣AIoT開發(fā)平臺還包括：
英偉達Jetson
Jetson是一個強大的邊緣AIoT應用平臺，提供一系列針對AI和深度學習任務量身定制的硬件和軟件解決方案。它以緊湊的外形提供高性能計算能力，使其成為機器人、智能城市和醫(yī)療保健等應用的選擇。
谷歌Coral
Coral致力于將AI處理擴展到邊緣設備。為此，它提供了Coral Dev Board和USB Accelerator等模塊，以及用于AI推理的TPU。谷歌Coral與TensorFlow Lite配合使用，使開發(fā)人員能夠更輕松地部署模型。
AWS IoT Greengrass
AWS IoT Greengrass是一種將AWS云服務擴展到邊緣設備的技術，使它們能夠在本地對其生成的數(shù)據(jù)采取行動。它支持機器學習推理、數(shù)據(jù)處理和設備之間的安全通信。
Microsoft Azure IoT Edge
Microsoft Azure IoT Edge是一項完全托管的服務，通過在IoT設備上直接部署和運行AI、Azure服務和自定義邏輯，在本地提供云智能。它采用了一系列開發(fā)應用程序，并且還與Azure機器學習兼容以進行模型部署。
英特爾OpenVINO
英特爾OpenVINO（開放式視覺推理和神經(jīng)網(wǎng)絡優(yōu)化）工具包通過其設計加速了英特爾硬件上的AI工作負載。它專注于深度學習模型，并能夠分發(fā)到各種邊緣設備。OpenVINO支持計算機視覺和自然語言處理應用程序，因此，它也可以被視為醫(yī)療保健、零售和工業(yè)自動化等行業(yè)進行AI開發(fā)的多功能工具。
IBM Edge應用程序管理器
IBM邊緣應用程序管理器是用于安裝和運行基于AI的邊緣設備應用程序的全套解決方案。此工具是自我管理的，用戶可以在出現(xiàn)新版本或更新時進行部署。IBM的Edge Cluster Manager平臺提供了各種用例場景，例如工業(yè)自動化、能源管理和遠程生產(chǎn)力工具。
索尼Spresense
Spresense是一款專為邊緣計算應用而設計的小型開發(fā)板。它由多核微控制器構建，支持多個AI框架，因此非常適合音頻處理、計算機視覺操作和其他AI用途。
寫在最后
隨著邊緣AI的迅速發(fā)展，TinyML正迎來一個全新的時代。
高通對Edge Impulse的收購，不僅彰顯了行業(yè)巨頭對TinyML和AIoT的高度重視，更預示著邊緣AIoT平臺競爭的加劇。未來，隨著5G、IoT等技術的進一步普及，邊緣AI將在更多領域大放異彩。
最后，值得一提的是隨著TinyML已成為許多嵌入式邊緣用例的常態(tài)，TinyML基金會進行了品牌重塑。該基金會已更名為Edge AI基金會，以便更好地與生態(tài)系統(tǒng)合作伙伴一起，實踐在邊緣提供可擴展、低功耗AI的承諾。
參考資料：
1.Our Next Chapter: Edge Impulse is Joining Forces with Qualcomm Technologies，作者：Zach Shelby，來源：Edge Impulse
2.The Ultimate Guide to Edge AI，來源：Edge Impulse
