AI加速器為Raspberry Pi 5帶來低功耗生成式AI

EdgeCortex 宣布，其行業(yè)領(lǐng)先的 AI 加速器模塊 SAKURA-II M.2 現(xiàn)已可用于基于 Arm 的平臺，包括 Raspberry Pi 5 和 AETINA Rockchip 平臺。該模塊為邊緣 AI 計算應(yīng)用提供高性能和高效率，同時使實時生成式 AI 功能大眾化。

SAKURA-II M.2 模塊的設(shè)計注重低功耗和高 AI 吞吐量，使開發(fā)人員能夠直接在緊湊、經(jīng)濟(jì)實惠的平臺上運行高級深度學(xué)習(xí)模型，例如 Raspberry Pi 5 和其他基于 Arm 的平臺，而無需依賴云基礎(chǔ)設(shè)施。嵌入式 Arm 平臺的生成式 AI 功能有望推動下一波智能自主系統(tǒng)的發(fā)展。

EdgeCortex 創(chuàng)始人兼首席執(zhí)行官 Sakyasingha Dasgupta 博士表示：“將我們的低功耗 AI 加速技術(shù)帶給 Raspberry Pi 5 用戶，為世界各地的創(chuàng)新者和企業(yè)打開了一扇大門，讓他們能夠快速構(gòu)建更智能、更快、更高效的邊緣 AI 驅(qū)動設(shè)備和系統(tǒng)。

“將 Raspberry Pi 5 與 EdgeCortex 的 SAKURA-II 配對，為邊緣的實時生成 AI 提供了一個非常高效和可擴(kuò)展的平臺”，Novo Tellus Capital Partners 的風(fēng)險合伙人兼 Lantronix 和 Tessolve 的董事會成員 Sailesh Chittipeddi 說。同樣引人注目的是 SAKURA-II 能夠加速各種基于 Arm 的系統(tǒng)，使下一代物聯(lián)網(wǎng)和邊緣應(yīng)用工程師能夠在各種應(yīng)用中部署高性能 AI，而不會產(chǎn)生傳統(tǒng)數(shù)據(jù)中心硬件的成本或功耗負(fù)擔(dān)。

該模塊帶有 Raspberry Pi 5 和其他支持 Arm 的平臺，能夠以最小的延遲和功耗在設(shè)備上直接執(zhí)行最新的生成式 AI，包括視覺轉(zhuǎn)換器、小語言模型和視覺語言模型 （VLM） 等高級 AI 模型。此外，SAKURA-II 和 Raspberry Pi 以傳統(tǒng)產(chǎn)品的一小部分成本提供強(qiáng)大的邊緣 AI，從而減少基礎(chǔ)設(shè)施需求并實現(xiàn)經(jīng)濟(jì)高效的擴(kuò)展。

該模塊針對 Arm 進(jìn)行了優(yōu)化，可從 Arm 處理器無縫卸載 AI 工作負(fù)載，從而實現(xiàn)性能和效率的平衡。開發(fā)人員可以使用帶有經(jīng)過認(rèn)證的 Raspberry Pi 5 和其他 Arm 平臺的生產(chǎn)就緒型 SAKURA-II M.2 模塊，從原型快速擴(kuò)展到生產(chǎn)。

這種組合非常適合在 SWaP-C 受限環(huán)境中實現(xiàn)自主 AI，非常適合無人機(jī)、機(jī)器人、智能農(nóng)業(yè)和安全，這些領(lǐng)域需要高效的設(shè)備端智能。

借助這些 Arm 平臺，EdgeCortix 正在為開發(fā)人員和硬件創(chuàng)新者的廣泛生態(tài)系統(tǒng)提供支持，以構(gòu)建經(jīng)濟(jì)高效、生產(chǎn)就緒的邊緣 AI。這使初創(chuàng)公司和企業(yè)能夠在不依賴云的情況下部署智能應(yīng)用程序，以最低的功耗要求在設(shè)備上運行生成式 AI。