高通技術公司在巴塞隆納世界行動通訊大會（MWC）發表高通在人工智慧（AI）方面的最新進展。從全新Qualcomm AI Hub，到尖端的研究突破，和展示一系列支援AI的商用裝置，高通技術公司正為開發者提供強大支持，徹底革新搭載Snapdragon和高通平台的廣泛裝置的使用者體驗。
高通技術公司資深副總裁暨技術規劃與邊緣解決方案業務總經理Durga Malladi表示：「藉由用於智慧型手機的Snapdragon 8 Gen 3和用於 PC 的Snapdragon X Elite，高通促成裝置上AI的大規模商業化。現在透過Qualcomm AI Hub，我們將支持開發者充分利用這些尖端技術的潛力，打造出令人愛不釋手且由AI支援的應用程式。Qualcomm AI Hub為開發者提供完善的AI模型庫，使他們能輕鬆快速地將預先最佳化的AI模型整合到應用程式之中，實現更快、更可靠和更有隱私的使用者體驗。」
Qualcomm AI Hub：開發者打造裝置上AI出色效能的途徑
全新的Qualcomm AI Hub包含一個預先最佳化的AI模型庫，可在搭載Snapdragon和高通平台的裝置上無縫部署。這個模型庫提供包括Whisper、ControlNet、Stable Diffusion和Baichuan 7B在內，超過75個熱門的AI和生成式AI模型供開發者使用。這些模型都已經針對裝置上AI的出色效能、更低的記憶體利用率和更好的能源效率進行了最佳化，適用於不同的外形規格，並封裝在各種運行時間環境中。每款模型都經過最佳化處理，充分利用高通AI引擎（NPU、CPU 和 GPU）中所有核心的硬體加速，使推論速度快4倍。AI 模型庫自動處理從來源框架到熱門運行時間環境的模型轉換，並直接與高通AI引擎指引（Qualcomm AI Engine direct）軟體開發套件（SDK） 配合使用，接著配合硬體達到硬體感知最佳化（hardware-aware optimization）。開發者可將這些模型無縫整合至其應用程式中，縮短上市時間，並且充分發揮實現裝置上AI所帶來的優勢，包括即時性、可靠性、隱私性、個人化和節省成本等。
預先最佳化的模型現已於Qualcomm AI Hub、GitHub和Hugging Face上提供。Qualcomm AI Hub 會持續將新模型加入模型庫，並即將支援其他平台和作業系統。只要立即註冊，開發者就能在基於高通技術公司平台的雲端託管裝置上自行運行模型，並優先存取Qualcomm AI Hub提供的新功能和AI模型。
Hugging Face共同創辦人暨執行長Clement Delangue表示：「我們很高興在Hugging Face上託管高通技術公司的AI模型。這些熱門的AI模型已針對裝置上的機器學習進行了最佳化調整，可立即在Snapdragon和高通平台上使用，將可支援新一代行動裝置開發者和邊緣AI應用，使AI更為普及與可負擔。」
尖端AI研究進展
Qualcomm AI Research首次在Android 智慧型手機上運行，展現大型語言和視覺助理（Large Language and Vision Assistant，LLaVA）模型功能，這是一款具有超過70億個參數的大型多模態模型 （LMM），可以接受包括文字和圖像在內的多種類型資料輸入，並能與 AI 助理生成關於圖像的多輪對話。這個LMM在裝置上以反應靈敏的代碼（token）速率運行，從而增強隱私性、可靠度、個人化和成本。具有語言理解和視覺理解能力的LMM可支援許多使用案例，例如辨識和討論複雜的視覺模式、物件和場景。
Qualcomm AI Research還首次展示了在Android智慧型手機上的低秩調整（Low Rank Adaptation，LoRA）。使用LoRA運行Stable Diffusion讓使用者可以根據個人或藝術偏好創造出高品質的客製化圖像。LoRA 減少了AI模型的可訓練參數數量，實現更優秀的效率、可擴充性、和客製化的裝置上生成式 AI使用案例。除了可為不同的藝術風格微調語言視覺模型（LVM），LoRA 還可廣泛運用於如大型語言模型等各種客製化的 AI 模型，打造量身定製的個人助理、改善語言翻譯等更多應用。
Qualcomm AI Research也在Windows PC 上展示全球首見在裝置上使用超過70億個參數的 LMM ，此模型可以接受文字和音訊輸入（例如：音樂、交通聲音等），然後生成有關此段音訊的多輪對話。
在巴塞隆納世界行動通訊大會上橫跨各種裝置類別實現生成式AI
• 智慧型手機：我們將展示一系列搭載Snapdragon 8 Gen 3 行動平台的旗艦級商業化AI智慧型手機，包括榮耀 Magic6 Pro、OPPO X7 Ultra，以及小米14 Pro；每一支裝置都搭載了令人興奮的全新生成式AI功能，例如AI生成的圖像擴張（小米）、AI驅動的影片創作與日曆創建（榮耀）、和圖像物件消除（OPPO）
• PC：新款Snapdragon X Elite及其所配備每秒45兆次的NPU是專為裝置上 AI所打造，將徹底改變我們與 PC 的互動方式。高通技術公司運用熱門的免費圖像編輯器GIMP和 Stable Diffusion外掛程式，展示只要以文字輸入想要的圖像，生成式 AI 就能在 7 秒內創造出圖像——這比x86的競爭對手快 3 倍
• 汽車：運用本身領先業界的AI軟硬體解決方案，高通也透過Snapdragon數位底盤平台展示傳統和生成式AI能力，為駕駛和乘客提供更強大、更有效、更具隱私、更安全和個人化的體驗。
• 消費者IoT：我們將展示在 Snapdragon 平台運行的Humane 的AI Pin，讓使用者能夠將AI以對話式、無螢幕的全新型態隨身攜帶到任何地方。
• 連接能力：全新Snapdragon X80 數據機射頻系統整合了第二代 5G AI 處理器，以強化蜂巢式網路效能與覆蓋範圍，改善延遲和能源效率。我們還推出了高通FastConnect 7900 行動連接系統，這是首款搭載AI最佳化的Wi-Fi 7系統，運用AI能力，實現適應性強、高效能、低延遲和低功耗的本地無線連網，在業界樹立全新標竿。
• 5G基礎設施：高通技術公司將展示三項具突破性、基於AI的網路管理強化功能，包括適用於無線接取網路（RAN）工程師的生成式AI助理，以簡化網路和切片管理任務；基於AI的開放式RAN應用程式（rApp）可降低網路能耗；以及基於AI的5G網路切片生命週期管理套組。
欲了解更多高通技術公司在AI的創新和展示，請造訪我們的網站或前往我們在巴塞隆納世界行動通訊大會的攤位體驗（Fira Gran Via 3 號展館，攤位編號：3E10 ）。
關於美國高通公司
高通正在實現一個人與萬物智慧連結的世界。高通統一的技術藍圖讓我們能有效地擴展包括先進的連網能力、高效能低功耗運算、裝置上智慧等更多推動行動革新的技術，至新一代橫跨產業的連結智慧裝置。高通的創新以及我們的Snapdragon平台家族，為帶來更大的福祉，將協助實現雲端邊緣的融合、產業轉型、加速數位經濟以及革新我們體驗這個世界的方式。美國高通公司包括技術許可業務（QTL）和我們絕大部分的專利組合。高通技術公司（QTI）是美國高通公司的全資子公司，與其子公司一起營運我們所有的工程、研發活動以及所有產品和服務業務，其中包括半導體業務QCT。Snapdragon和高通品牌產品是高通技術公司和/其子公司的產品。高通專利技術經高通公司授權。
