從可穿戴、智能家居到具身智能，邊緣 AI 猛踩油門，Arm 軟硬生態大招鋪路

智東西

作者 | 云鵬

編輯 | 漠影

當前，隨著 AI 技術與各類設備的加速融合，AI 早已不再局限于云端，而正在向邊緣和端側加速落地。據 SHD Group 預測數據，到 2030 年，邊緣 AI SoC 市場營收或達千億美元規模。

從應用層面來看，邊緣 AI 能帶來時延、安全、能效、成本和穩定性等多方面優勢，但也在技術和生態層面帶來諸多挑戰。

舉例來說，智能攝像頭正通過本地運行更復雜的計算機視覺算法，工業傳感器也更多在本地處理更復雜的 AI 模型，這類設備的本地運行模式，確實能帶來更低時延與成本；但隨著設備側數據量持續攀升，工作負載達到新量級，數據安全的重要性也被提升到了空前高度。

在這樣的背景之下，物聯網廠商迫切需要新的 AI 算力底座幫助他們進行快速創新和擴展，行業正呼喚技術層面更高效、生態層面更完善的新解法。

近年來，作為計算平臺領域重要玩家之一的 Arm，對 AI 的發展一直保持著敏銳嗅覺，其諸多重要策略均直指 AI 給各領域帶來算力挑戰。從數據中心、汽車、手機、PC 到 IoT，基于 Arm 生態的 AI 計算平臺已經無處不在。

聚焦邊緣 AI 領域，Arm 于今年二月發布了全球首個專為物聯網及邊緣 AI 工作負載優化的 Armv9 邊緣 AI 計算平臺，推動物聯網行業加速邁入 AI 時代。如今，該計算平臺將正式通過 Arm 技術授權訂閱模式中的 Arm Flexible Access 模式開放獲取，為邊緣 AI 產業發展進一步注入新動力。

一、底層架構創新下放，Arm 新平臺直指物聯網 AI 融合痛點

縱觀當前 AI 技術的發展，AI 大模型 " 小型化 " 趨勢突出，越來越多的優秀小模型開始擁有更為出色的 AI 性能；與此同時，Agent 智能體浪潮涌起，Agent 成為各類垂類專業模型的 " 大管家 "，調度各類設備、統籌各類邊緣和端側數據，高效處理復雜的現實任務。

物聯網設備的 AI 化已經成為一種必然，正如 Arm 所指出的，下一波 AI 計算創新浪潮將在邊緣側展開，在那些讓智能更貼近數據產生源頭的設備、接口與系統中蓬勃發展。

在這樣的確定性之下，如何讓物聯網設備可以更好地在邊緣側落地 AI，已成為十分迫切的問題。整體來看，Armv9 在物聯網領域的下放，提供了智能邊緣設備大規模部署所需的高性能與高能效，其內置的安全機制還能兼顧數據安全，而架構本身的靈活性與可擴展性，更為后續發展預留了充足空間。

首先，AI 時代最核心的是 AI 性能。Arm 最新的邊緣 AI 計算平臺將性能拉滿——通過集成增強的 Armv9 的 Neon 和 SVE2 向量處理技術，在 ML 性能方面，Cortex-A320 相較于前代超高效 CPU（Cortex-A35）提升了高達 10 倍的 ML 計算能力，標量性能提升了 30%；相較于去年推出的基于 Cortex-M85 的平臺，新平臺的 ML 性能提高了 8 倍之多。目前新邊緣 AI 計算平臺已經可以支持參數量超 10 億的端側 AI 模型。

Arm 物聯網事業部硬件產品管理高級總監 Lionel Belnet 在與智東西等媒體的交流中提到，Arm 在邊緣 AI 的 Armv9 產品矩陣可從超高能效的 Cortex-A320 一路展開到最新發表的超高性能 C1-Ultra，達到邊緣 AI 全場景的覆蓋。

能效方面，Arm 架構本身以低功耗著稱，而 Armv9 邊緣 AI 計算平臺中包含了 Armv9 架構的超高能效 CPU —— Arm Cortex-A320，它的能效比較 Cortex-A520（Arm 的高效 Armv9.2 CPU）提升了 50%，進一步降低了功耗。

需要指出的是，能效對應的是企業成本，這對物聯網這種對功耗要求嚴苛的行業至關重要，這也是 Arm 架構在該領域廣受歡迎的原因。

另外一個至關重要的點是安全性。為了應對大量數據在邊緣側的采集、計算帶來的數據隱私安全的風險，Arm 將 Armv9 的一系列先進安全技術下放到邊緣 AI 市場，如指針驗證（PAC）、分支目標識別（BTI）和內存標記擴展（MTE），給邊緣側的關鍵應用與數據安全提供了扎實的防護。

值得一提的是，在出色 AI 能力、高安全性的基礎上，Armv9 架構的高擴展性、靈活性同樣給物聯網廠商們帶來了開發層面的極大便利。

此外，邊緣 AI 普及面臨的最主要障礙之一就是軟件開發和部署的復雜性，這正是 Armv9 邊緣 AI 計算平臺軟件生態系統發揮優勢的關鍵所在。

今年初 Arm 將開源 AI 庫 Arm KleidiAI 擴展到了物聯網領域，迄今已與幾乎所有主流物聯網 AI 框架進行集成。簡單來說，Arm KleidiAI 可以讓開發者無縫地利用到 Armv9 架構的先進功能和靈活性，簡化邊緣 AI 開發流程。

根據官方數據，在 Llama.cpp 上運行微軟 Tiny Stories 數據集，KleidiAI 的集成給新的 Cortex-A320 可以帶來 70% 的性能提升，同時 KleidiAI 兼容 Linux、Zephyr 等操作系統，靈活性大幅提升。

可以說，從性能、能效、安全到開發生態，新的 Armv9 邊緣 AI 計算平臺給物聯網擁抱 AI 提供了新解法，讓物聯網賽道的廠商和開發者們能夠更快抓住 AI 新機遇，加速邊緣 AI 的落地。

二、進一步降低技術落地門檻，Arm 生態 " 朋友圈 " 加速擴容

做好了物聯網邊緣 AI 落地一攬子解決方案還不夠，Arm 還進一步降低先進技術獲取門檻，直接將 Armv9 邊緣 AI 計算平臺，Cortex-A320 與 Ethos-U85，正式引入 Arm 技術授權訂閱模式中的 Arm Flexible Access 方案之中。

直觀來看，Arm 從市場切入路徑、成本結構、創新效率等方面給廠商帶來價值，讓技術更好地 " 落到實處 "，讓所有中小企業能更好獲益，加速實現 AI 普惠。

憑借這一模式，Synaptics、樹莓派、Weeteq、Hailo 及 SiMa.ai 等合作伙伴已成功打造出具有開創性的邊緣 AI 技術，在物聯網諸多細分領域加速落地。

根據官方數據，目前基于 Arm Flexible Access 方案的合作伙伴已經實現超 400 次成功流片，活躍成員數量超過 300 家。在落地中國后，已有超過 70 家國內客戶采用了該技術授權模式，進行產品創新開發。

結語：邊緣 AI 風暴狂涌，Arm 技術生態迸發巨大潛力

當前，邊緣 AI 的發展，促使行業對硬件和軟件異構性、順暢開發和規模化安全性三方面的需求猛漲，邊緣 AI 計算創新勢在必行。

Armv9 架構的諸多特性、出色的 AI 能力基礎、完善的軟件和生態支撐，都給行業各路玩家帶來了新的可能性，新的 Arm 邊緣 AI 計算平臺無疑會成為新一輪物聯網創新的催化劑。

展望未來，AI 向邊緣、端側的轉移已經成為行業確定趨勢，邊緣 AI 正在加快各種技術設備的數字化轉型。在這一未來趨勢下，Arm 依靠硬核技術創新底色、靈活的技術獲取模式以及深厚的開放軟件生態系統，無疑展現出巨大潛力，成為物聯網玩家在 AI 時代搏浪的堅實基座。