Arm 控股有限公司(納斯達克股票代碼：ARM，以下簡稱“Arm”)今日發布 Arm®v9 邊緣人工智能 (AI) 計算平臺，該平臺以全新的 Arm Cortex®-A320 CPU 和領先的邊緣 AI 加速器 Arm Ethos™-U85 NPU 為核心，可支持運行超 10 億參數的端側 AI 模型。
Arm 高級副總裁兼物聯網事業部總經理 Paul Williamson 表示：“AI 的革新已不再局限于云端。隨著世界的互聯和智能化水平的日益提升，從智慧城市到工業自動化，在邊緣側處理 AI 工作負載不僅帶來顯著的優勢，其必要性更是不可或缺。專為物聯網打造的 Armv9 邊緣 AI 計算平臺的推出，標志著這一發展趨勢邁入了重要的里程碑。”
Armv9 邊緣 AI 計算平臺——在邊緣集成效率、安全和智能
OEM 廠商正面臨著前所未有的壓力，迫切需要快速推出解決方案，以應對物聯網應用不斷攀升的計算需求，這些需求包括自動駕駛車輛在工廠環境中的精準導航、智能攝像頭通過軟件升級靈活調整功能，以及構建能夠提供更自然AI 交互體驗的人機界面。
為了快速創新和擴展，OEM 廠商需要在合適的位置靈活執行 AI 工作負載，以實現更強大的安全性和更高的軟件靈活性，Armv9 技術正是能在大規模應用中滿足這些需求的理想之選。Arm 此次發布的計算平臺集成了全新的超高能效 Armv9 CPU——Cortex-A320 和支持 Transformer 算子網絡的 Ethos-U85 NPU，打造出全球首個專為物聯網優化的 Armv9 邊緣 AI 計算平臺。相較于去年推出的基于 Cortex-M85 的平臺，新的邊緣 AI 計算平臺的機器學習 (ML) 性能提高了八倍。
Arm 技術的廣泛應用，使得合作伙伴現在能夠在從云端到邊緣側的各種計算場景中部署強大的 Armv9 技術。從授權該技術以構建 SoC 芯片的合作伙伴，到構建下一代設備的 ODM 和 OEM 廠商，該平臺受到了包括亞馬遜云科技(AWS)、西門子、瑞薩電子、研華科技和 Eurotech 在內的多家業界領先合作伙伴的支持。
全新 Cortex-A320 為下一代智能物聯網設備奠定安全基礎
新型邊緣 AI 計算平臺的推出標志著邊緣計算發展的重要里程碑。Cortex-A320 為物聯網帶來了先進的 AI 功能和開發者優勢，將 Armv9 架構的功能擴展到高能效設備，并提供全面的軟件支持。
Cortex-A320 充分發揮了 Armv9 架構的優勢，如針對 ML 性能的 SVE2。相較于前代產品 Cortex-A35，Cortex-A320 的 ML 性能提升了十倍，標量性能提升了 30%。
該平臺所采用的 Armv9.2 架構還為最小的 Cortex-A 設備帶來了高級的安全功能，例如指針驗證 (PAC)、分支目標識別 (BTI) 和內存標記擴展 (MTE)。這些功能至關重要，因為邊緣設備通常在暴露的環境中運行并處理敏感數據。
隨著邊緣 AI 在 Arm 平臺上持續集成，這一全新產品的加入使 Arm 現已能為物聯網提供最為先進的 Armv9 Cortex 處理器系列，覆蓋從極致性能到成本和能效受限的設備。
將 Arm Kleidi 擴展到物聯網
邊緣 AI 普及面臨的最主要障礙之一是軟件開發和部署的復雜性，這正是 Armv9 邊緣 AI 計算平臺軟件生態系統發揮優勢的關鍵所在。Arm 將 Arm Kleidi 擴展到物聯網，這是一套面向 AI 框架開發者的計算庫，旨在優化基于 Arm CPU 的 AI 和 ML 工作負載，無需開發者額外操作。KleidiAI 已集成到常見的物聯網 AI 框架中，如 Llama.cpp 和 ExecuTorch 或 LiteRT(通過 XNNPACK)，加速了 Meta Llama 3 和 Phi-3 等關鍵模型的性能。例如，在 Llama.cpp 上運行微軟的 Tiny Stories 數據集時，KleidiAI 為新的 Cortex-A320 帶來了高達 70% 的性能提升。
這些提升至關重要，因為在當今快節奏的技術環境中，產品的上市速度往往決定其成敗。新的邊緣 AI 計算平臺確保了與更高性能 Cortex-A 處理器在軟件層面的無縫兼容。這種可擴展性使開發者能夠打造可隨需求變化而靈活調整的解決方案。借助龐大的 Armv9 生態系統，以及與 Linux 等功能豐富的操作系統和 Zephyr 等實時操作系統的兼容性，開發者擁有了前所未有的靈活性。他們可以充分利用現有的工具和知識，以及軟件復用的優勢，從而加快產品上市時間，并降低總體擁有成本。全球范圍內有 2,000 多萬活躍的 Arm 開發者，這為未來的技術創新提供了巨大潛力。
展望未來
展望未來，顯然 AI 的未來趨勢將轉向邊緣，而全新 Arm 邊緣 AI 計算平臺將成為新一輪物聯網創新的催化劑。Armv9 架構的特性、先進的 AI 功能和全面軟件支持的結合，為 OEM 廠商和開發者創造了新的可能性。
該平臺能夠支持基于智能體的 AI 應用上運行經過調優的大語言模型 (LLM) 和小語言模型 (SLM)，從而開辟全新類別的邊緣應用場景。在未來的場景中，智能決策將更接近數據采集源頭，這不僅能顯著減少延遲，還能有效提升隱私保護水平。
這不僅僅是一次漸進式的進步，它代表著行業對邊緣計算和 AI 處理方式的根本性變革。這是行業首次迎來專為物聯網應用優化的 Armv9 CPU，將超高能效與先進 AI 能力結合，實現了前所未有的突破。
###
合作伙伴證言：
“邊緣 AI 的發展步伐日益加速，Arm 物聯網計算架構方面的進步將為邊緣智能帶來新的可能性。作為邊緣計算和邊緣 AI 領域的領先企業，研華科技認為這一創新代表著 Arm 生態系統向前邁出了重要一步，它將助力各行各業打造出更智能、更高效、更安全的 AI應用。這一創新將激發邊緣計算市場的行業繁榮和技術突破。”
研華科技嵌入式物聯網部門總裁 張家豪
“全新的 Arm 邊緣 AI 計算平臺為我們的客戶實現在 Armv9 技術上運行 AWS IoT Greengrass 的輕量級設備運行時環境—— Nucleus Lite，從而讓邊緣設備以最低的內存需求高效運行。這兩項技術的無縫集成為開發者提供了優化的解決方案，支持構建現代邊緣 AI 應用，例如精準農業中、智能制造和自動駕駛的異常檢測。”
亞馬遜云科技物聯網技術負責人 Yasser Alsaied
“隨著物聯網市場的不斷擴展，Eurotech 將繼續為客戶提供最新邊緣 AI 應用所需的性能、安全性和高效的解決方案。Arm 的全新邊緣 AI 計算平臺為我們提供了構建下一代多樣化物聯網設備的基礎，Armv9 讓我們能夠將安全性能、能效和軟件靈活性提升到全新水平。”
Eurotech 首席技術官Marco Carrer
“瑞薩電子致力于在真正可擴展的計算平臺上，通過多樣化的用例和日益智能化的工作負載，服務于廣泛的 AI 物聯網細分市場。我們對最新的 Armv9 Cortex-A320 CPU 感到興奮，它不僅在AI/ML 高性能和安全性方面表現出色，還顯著優化了功耗和面積效率。這一突破有助于我們加快創新步伐，進一步提升效率和可擴展性。”
瑞薩電子嵌入式處理部副總裁 Daryl Khoo
“西門子致力于在邊緣應用中釋放 AI 潛能�；� Armv9 架構的全新邊緣 AI 計算平臺有助于我們將高度安全、高性能和高能效的 AI 創新產品組合擴展到所有客戶，涵蓋一系列工業、智能基礎設施和移動應用。”
西門子集成電路與電子研究及預開發部門副總裁Herbert Taucher
推薦閱讀
2月21日，第十二屆朝陽國際人才創業大會(ITEC)創新峰會在北京市朝陽區嘉瑞文化中心盛大舉行。中共北京市委常委、組織部部長游鈞，北京市副市長、朝陽區委書記文獻>>>詳細閱讀
本文標題：Arm 推出專為物聯網優化的邊緣 AI 計算平臺及Kleidi for IoT, 賦能開發者加速邊緣 AI 創新
地址：http://www.tjyalang.cn/a/guandian/yejie/315102.html
網友點評
精彩導讀
科技快報
品牌展示