通信界訊 聯發科最新發布的一代旗艦級 5G 生成式 AI 移動芯片天璣 9300，其創新的全大核架構設計與最新的 AI 處理器 APU 等聯發科特色技術的合并，為生成式 AI 應用提供了強大的動力，以實現引人入勝、豐富多樣的生成式 AI 體驗。同時，聯發科也與大量的 AI 企業在業內進行深入合作，共同在移動平臺上構造了一個充滿活力的 AI 生態。
全新第七代 AI 處理器 APU 790，為生成式 AI 而生 隨著用戶對生成式 AI 應用需求日益增長，端側生成式 AI 便捷、安全性等優勢便凸顯出來。當然，部署端側 AI 大語言模型需要強大的 AI 算力支撐。
天璣 9300 搭載聯發科第七代 AI 處理器 APU 790，為生成式 AI 而設計，擁有硬件級的生成式 AI 引擎，可以實現更加高速且安全的邊緣 AI 計算，深度適配 Transformer 模型進行算子加速，速度是上一代的 8 倍。
同時 APU 790 的性能和能效得到顯著提升，整數運算和浮點運算能力提升至前一代的 2 倍，蘇黎世 ETHZv5.1 AI-Benchmark Mobile Soc 跑分 2109 分，AI 性能成功霸榜，功耗更是降低了 45%。在強大的 AI 性能支持下，1 秒以內即可生成圖片。天璣 9300 強悍的 AI 算力、創新的全大核 CPU 架構和 Immortalis-G720 GPU 都為端側運行生成式 AI 打下堅實的性能基礎。
同時，基于億級參數大語言模型的特性，聯發科開發了混合精度 INT4 量化技術，結合聯發科特有的內存硬件壓縮技術 NeuroPilot Compression，可以更高效地利用內存帶寬，大幅減少 AI 大模型占用終端內存，為端側運行 AI 大語言模型突破手機內存限制，助力更大參數模型在端側落地。
基于以上，天璣 9300 首次在 vivo 旗艦手機端側落地 70 億參數 AI 大語言模型，處理速度可達 20 Tokens 每秒。不僅如此，聯發科突破了行業極限，已經與 vivo 成功在端側運行了 130 億參數的大語言模型。甚至，天璣 9300 已率先實現在移動芯片上成功運行 330 億參數的 AI 大語言模型，領跑業界。
天璣 9300 還支持多模態生成式 AI 大模型，打造出“文生詩”“文生圖”“文生趣圖”等豐富有趣的端側體驗。
可見，天璣 9300 的 AI 算力和端側生成式 AI 能力已領先行業，足以讓用戶隨時隨地 AI 創造力全飆。
與云側生成式 AI 解決方案不同，由于硬件環境的差異，部署端側生成式 AI 也需要考慮手機內存、存儲容量、負載上限等因素。為此，聯發科率先提出了先進的解決方案。
APU 790 支持生成式 AI 模型端側技能擴充技術 NeuroPilot Fusion，它可以基于基礎大模型持續在端側進行低秩自適應（LoRA，Low-Rank Adaptation）融合，在混合式 AI 的賦能下，可以基于 1 個基礎大模型，通過云端訓練，在端側完成 N 個功能的融合，賦予基礎大模型更全面、更豐富的生成式 AI 應用能力。
比如基于 AI 模型端側技能擴充技術的“圖生 GIF 動圖”功能，用戶可以根據一張照片更換不同的風格甚至表情，玩出個人專屬風格的表情包，秒變表情包小達人。
AI 開發平臺 NeuroPilot 加速端側生成式 AI 生態布局基于強大的 AI 算力和先進的內存硬件壓縮技術、AI 模型端側技能擴充等技術，天璣 9300 的 APU 790 將端側生成式 AI 的速度和廣度提升到了全新的水平。同時，為加速生成式 AI 在端側部署和普及，聯發科也憑借其 AI 開發平臺 NeuroPilot 構建了豐富的 AI 生態，從底層硬件到工具鏈、模型中心以及開發生態，助力生態快速、高效地部署端側生成式 AI 應用。
AI 開發平臺 NeuroPilot 支持 Android、Meta LIama 2、文心一言大模型、百川智能百川大模型等前沿主流 AI 大模型。
更為重要的是，NeuroPilot 擁有一套完整且先進的工具鏈，除了 NeuroPilot Compression 低秩自適應融合，還有 Speculative Decoding 推測解碼加速和模型優化與轉化技術。
聯發科的天璣開發者中心還可提供端側生成式 AI 落地一站式開發者資源，分享端側模型部署案例提升開發效率。目前已有 20 多個生成式 AI 合作伙伴加入生態共建。
聯發科還攜手業界合同伙伴打造精彩的生成式 AI 應用體驗。虹軟的生成式 AI 超級分辨率技術基于天璣 9300 APU 邊緣計算能力，相比前代，性能可提升 30%。在 25 倍放大的拍攝時，利用生成式 AI 超級分辨率技術，可以拍出細節更真實的圖像效果。
極感科技的生成式 AI 語意搜索技術也基于天璣 9300 APU 邊緣計算能力，對比前代，性能可提升 260%。比如在手機的相冊中搜索照片，描述照片的內容即可在毫秒內精準搜到對應的照片。而且在斷網狀態下也能搜索，隱私也不會泄露。
Morpho 的視頻通話實時數字分身生成技術，同樣基于天璣 9300 APU 邊緣計算能力，對比前代，性能提升 26%。一般的虛擬人像生成器需手動選取容貌樣式花費時間。但基于視頻通話實時數字分身生成技術，用戶操作容易，僅需打開攝像頭單幀圖片即可瞬間生成數字分身。
基于天璣 9300 APU 邊緣計算能力，慧鯉生成式 AI 防眩光技術性能可提升 60%。在此技術加持下，無論是室外還是室內，在拍攝時如有眩光，只要輕松一暗即可消除眩光干擾。
可以看到，在 AI 端云融合的趨勢下，天璣 9300 在 AI 算力、生成式 AI 用戶體驗和生態方面展現出全面的優勢，為新一代旗艦級端側生成式 AI 體驗樹立了新的標桿，強大生成式 AI 就要用天璣。
同時，聯發科等生成式 AI 的領先者們正通過不斷地技術革新和適當的生態布局，大力推動混合式 AI 計算，并為端側生成式 AI 部署設計出了一套獨自且高效的方法，全力以赴推進生成式 AI 在端側的普及，旨在讓更多的用戶享受到端側 AI 的個性化服務，帶來全新的全方位智能體驗，實現科技成果惠及全社會。
