高通攜手Meta利用Llama 2賦能終端側AI應用

·       高通計劃從2024年起，在旗艦智能手機和PC上支持基于Llama 2的AI部署，賦能開發者使用驍龍平臺的AI能力，推出激動人心的全新生成式AI應用。

·       與僅僅使用云端AI部署和服務相比，終端側AI部署能夠助力開發者以顯著降低的成本，提升用戶隱私保護、滿足用戶安全偏好、增強應用可靠性，并實現個性化。

2023年7月18日，圣迭戈——高通技術公司和Meta正在合作優化Meta Llama 2大語言模型直接在終端側的執行，無需僅依賴云服務。能夠在智能手機、PC、VR/AR頭顯和汽車等終端上運行Llama 2一類的生成式AI模型，將支持開發者節省云成本，并為用戶提供更加私密、可靠和個性化的體驗。

因此，高通技術公司計劃支持基于Llama 2的終端側AI部署，以賦能打造激動人心的全新AI應用。這將支持客戶、合作伙伴和開發者構建智能虛擬助手、生產力應用、內容創作工具和娛樂等用例。這些由驍龍^?賦能的全新終端側AI體驗，可在沒有網絡連接的區域、甚至是飛行模式下工作。

高通技術公司高級副總裁兼技術、規劃和邊緣解決方案業務總經理馬德嘉表示：“我們十分贊賞Meta對于AI技術采取的開放且負責的策略。高通技術公司致力于推動創新，通過將生成式AI引入終端側，將為各種規模的開發者降低開發門檻。為了將生成式AI有效地規模化擴展至主流市場，AI需要同時在云端和邊緣終端上運行，比如智能手機、筆記本電腦、汽車和物聯網終端。”

Meta和高通技術公司長期合作，共同推動技術創新，打造下一代頂級終端體驗。雙方目前在支持Llama生態系統方面的合作，覆蓋了研究和產品工程技術工作。憑借終端側AI的領導力，高通技術公司在支持Llama生態系統方面具備獨特優勢。公司擁有領先的邊緣側布局，其行業領先的AI硬件和軟件解決方案賦能了數十億智能手機、汽車、XR頭顯與眼鏡、PC和物聯網等終端，為生成式AI的規模化擴展提供了廣闊機遇。

高通技術公司計劃從2024年起，在搭載驍龍平臺的終端上支持基于Llama 2的AI部署。現在開發者可以開始使用高通AI軟件棧面向終端側AI進行應用優化。高通AI軟件棧是一套支持在驍龍平臺上更高效處理AI的專用工具，讓輕薄的小型終端也能支持終端側AI。欲了解更多信息更新，請訂閱我們的月度開發者簡訊。