選對運(yùn)用軟件的方法，使 AI 創(chuàng)新如虎添翼

正如 Arm 工程部軟件高級(jí)副總裁 Mark Hambleton 在 《2025 年芯片新思維》報(bào)告 中所說：人工智能 (AI) 的未來發(fā)展離不開軟硬件的協(xié)同。

然而，在由 Arm 贊助的新 CIO 報(bào)告中所述，開發(fā)者工作流程的碎片化限制了開發(fā)者創(chuàng)建和擴(kuò)展新 AI 應(yīng)用的速度，而這也是目前其所面臨的最大挑戰(zhàn)之一。

報(bào)告下載鏈接： https://www.arm.com/resources/white-paper/why-software-is-crucial

Arm 深知軟件對于釋放 AI 的真正潛力至關(guān)重要，因而從基礎(chǔ)架構(gòu)和整個(gè)技術(shù)棧入手，致力于簡化 AI 開發(fā)流程，并支持新 AI 應(yīng)用和工作負(fù)載實(shí)現(xiàn)無縫性能加速。

基礎(chǔ)架構(gòu)

Arm 持續(xù)發(fā)展自身架構(gòu)，作為軟硬件之間的重要接口。如今，從云端到邊緣側(cè)的廣泛市場中，Armv9 架構(gòu)已成為智能手機(jī)、數(shù)據(jù)中心、高性能計(jì)算和汽車應(yīng)用等領(lǐng)域的現(xiàn)代技術(shù)基礎(chǔ)。

Arm 不斷為最新的架構(gòu)引入新的功能，例如此前推出的 可伸縮矩陣擴(kuò)展 (SME) 和 可伸縮向量擴(kuò)展 (SVE2) ，有助于在各類應(yīng)用中加速生成式 AI 和常見機(jī)器學(xué)習(xí) (ML) 工作負(fù)載。SME 借由在通用指令集中引入復(fù)雜矩陣處理能力，使開發(fā)者能夠在其 AI 應(yīng)用中實(shí)現(xiàn)出眾性能，并無縫遷移到不同的生態(tài)系統(tǒng)。由此不僅擴(kuò)大了運(yùn)行 AI 工作負(fù)載的硬件范圍，還顯著提升了用戶體驗(yàn)。

CPU 對開發(fā)者的價(jià)值

上述架構(gòu)特性都集成到了 Arm 的 CPU 中，使之成為軟件開發(fā)者首選的目標(biāo)平臺(tái)。因?yàn)?Arm CPU 廣泛應(yīng)用于從云端到邊緣側(cè)的各種應(yīng)用，適合作為大多數(shù) AI 推理工作負(fù)載的直接目標(biāo)平臺(tái)，被廣泛應(yīng)用于數(shù)十億臺(tái)設(shè)備中，例如當(dāng)今的智能手機(jī)，以及全球的云端和數(shù)據(jù)中心。通過選擇 Arm CPU 作為目標(biāo)平臺(tái)，開發(fā)者能夠以更多類型的數(shù)據(jù)格式運(yùn)行更廣泛的軟件，而無需為專用 NPU 開發(fā)多個(gè)版本的代碼。

CPU 為開發(fā)者提供了所需的一致性，避免了定制硬件解決方案所帶來的碎片化和效率低下。

正如 Hambleton 在《2025 年芯片新思維》報(bào)告中指出：AI 框架的互操作性是開發(fā)者的核心訴求。因此開發(fā)者通常默認(rèn)選擇 CPU 后端，因?yàn)?CPU 的普遍性確保了更廣泛的兼容性。

此外，推動(dòng) AI 工作負(fù)載擴(kuò)展的因素不僅限于架構(gòu)的進(jìn)步。

在 CIO 報(bào)告中，Arm 工程部機(jī)器學(xué)習(xí)工程副總裁 Nick Horne 表示，AI 已經(jīng)從依賴云端的龐大模型演變?yōu)榭稍谶吘墏?cè)或端側(cè)運(yùn)行的更小、更高效的模型。他指出：如今，有些出色的模型可在你隨身攜帶的設(shè)備上運(yùn)行并提供高質(zhì)量的結(jié)果，某些情況下甚至能夠完全在 CPU 上運(yùn)行。

對開源不變的承諾

Arm 與開源社區(qū)廣泛合作，致力于推動(dòng) AI 的普及，為開發(fā)者提供便捷途徑，使開發(fā)者能夠輕松獲取來自廣泛 Arm 生態(tài)系統(tǒng)合作伙伴的硬件，及時(shí)利用其中的最新架構(gòu)特性和性能。

Horne 在 CIO 報(bào)告中強(qiáng)調(diào)了這一方法為開發(fā)者帶來的優(yōu)勢。他指出：采用具有良好硬件抽象的開源 AI 框架，能夠顯著避免對靈活性的影響。

如此一來，開發(fā)者無需受限于特定硬件、云服務(wù)提供商或軟件平臺(tái)。

Kleidi 助力輕松加速 AI

Arm Kleidi 很好地體現(xiàn)了上述優(yōu)勢的實(shí)際應(yīng)用效果。Kleidi 提供開發(fā)者支持技術(shù)、資源和微內(nèi)核庫，能夠?yàn)樵?Arm CPU 上運(yùn)行的模型輕松實(shí)現(xiàn) AI 工作負(fù)載加速。由于 Kleidi 庫已集成到主流的開源 AI 框架和運(yùn)行時(shí)中，包括 Google 的 MediaPipe 、Meta 的 ExecuTorch 和 PyTorch 、llama.cpp，騰訊的 Angel ，以及阿里巴巴的 MNN 。開發(fā)者無需額外工作即可獲得性能優(yōu)化，從而節(jié)省時(shí)間、精力和成本。Kleidi 現(xiàn)已集成至 Arm 技術(shù)覆蓋的所有市場，包括移動(dòng)端、云、數(shù)據(jù)中心、 汽車 和物聯(lián)網(wǎng)領(lǐng)域。

與行業(yè)領(lǐng)先的生態(tài)系統(tǒng)合作

從更廣泛的層面來看，Arm 通過行業(yè)領(lǐng)先的軟件生態(tài)系統(tǒng)，與眾多合作伙伴開展協(xié)作，致力于安全、大規(guī)模地部署 AI。例如，Arm 與 GitHub 就 GitHub Runners 項(xiàng)目開展合作，使開發(fā)者能夠更高效地在云端測試和部署訓(xùn)練好的模型。近期， 面向 GitHub CoPilot 的 Arm 擴(kuò)展程序 為開發(fā)者提供了完全集成的原生 Arm 工作流，包括準(zhǔn)確的代碼生成、測試用例創(chuàng)建和錯(cuò)誤修復(fù)功能。

此外，Arm 還通過各種舉措推動(dòng)底層軟件和固件部署的簡化和加速，實(shí)現(xiàn)順暢的軟件開發(fā)。Linaro OneLab、Trusted Firmware 和 PSA Certified 等項(xiàng)目促進(jìn)了各方協(xié)作，并為快速發(fā)展的邊緣側(cè) AI 和高性能物聯(lián)網(wǎng)領(lǐng)域的安全軟件部署和支持提供了藍(lán)圖。在汽車行業(yè)，Arm 發(fā)起的面向嵌入式邊緣的可擴(kuò)展開放架構(gòu) (SOAFEE) 致力于提供基于標(biāo)準(zhǔn)的框架，以實(shí)現(xiàn)軟件的規(guī)模化復(fù)用，從而縮短開發(fā)周期，滿足了 軟件定義汽車 (SDV) 應(yīng)用中對更多 AI 的空前需求，同時(shí)提升了駕駛體驗(yàn)。

開放標(biāo)準(zhǔn)推動(dòng)創(chuàng)新

最后，缺乏標(biāo)準(zhǔn)化實(shí)踐可能會(huì)阻礙創(chuàng)新，并可能在未來給開發(fā)者制造復(fù)雜難題。開放標(biāo)準(zhǔn)使開發(fā)者和研究人員可以在不同平臺(tái)之間無縫切換，同時(shí)專注于訓(xùn)練、量化和部署，通過模型的持續(xù)創(chuàng)新創(chuàng)造價(jià)值。

借助軟件加速 AI 創(chuàng)新

為了讓 AI 技術(shù)充分發(fā)揮潛力，軟件開發(fā)流程需要簡化、加速并開放。Arm 技術(shù)及其生態(tài)系統(tǒng)通過專注于開放標(biāo)準(zhǔn)、硬件抽象并與不斷演變的框架保持兼容，助力實(shí)現(xiàn)面向未來的 AI 開發(fā)。開發(fā)者因而能夠在不同硬件上無縫創(chuàng)建和部署 AI 應(yīng)用、模型和工作負(fù)載并提升性能，從而基于 Arm 平臺(tái)為 AI 時(shí)代打造更優(yōu)質(zhì)的軟件。