高通與Meta合作，將Llama 2 AI應用直接在裝置上執行

高通，全球知名的半導體和電信設備公司，近日宣布將與Meta攜手推動大型語言模型Llama 2在各種裝置上的運行，此舉將使AI應用不再完全依賴雲端服務。根據高通的規劃，該公司將從2024年開始在頂級智慧型手機和個人電腦上推出基於Llama 2的AI解決方案。該公司表示，直接在裝置上運行生成式AI模型如Llama 2，將有助於開發者降低雲端成本，同時也將為使用者提供更為安全、可靠且個性化的使用體驗。

因此，高通計劃直接在裝置上部署基於Llama 2的AI，以推進新一代的AI應用。此舉將使其客戶、合作夥伴和開發人員能夠創建各種新型應用，例如虛擬智慧助理、生產力應用程式、內容創造工具和娛樂應用等。這些基於Snapdragon平台的全新AI體驗，可以在無網路環境、甚至飛行模式下運行。

高通資深副總裁兼技術、規劃和邊緣解決方案業務總經理 Durga Malladi表示：「我們欣賞Meta在AI領域上的開放與負責任的策略。我們致力於推進創新，透過將生成式AI引入裝置，我們有望為開發人員降低使用門檻。我們相信，為了將生成式AI有效擴展至主流市場，AI需要能在雲端和邊緣裝置如智慧型手機、筆記型電腦、汽車及物聯網裝置上共同運行。」

Meta和高通的長期合作已促進了許多技術創新，並帶來了新一代的頂級裝置體驗。兩家公司現正共同支持Llama生態系的發展，涵蓋研究和產品工程的各個領域。高通公司在裝置上的AI領導地位使其在支持Llama生態系方面具有獨特的優勢。目前，高通的AI硬體和軟體解決方案已被部署在數十億的邊緣裝置上，包括智慧型手機、汽車、XR頭戴式裝置、眼鏡、個人電腦及物聯網裝置等。該公司預計將在2024年開始在裝載Snapdragon平台的裝置上提供基於Llama 2的AI支援