国产6699视频在线观看_女人爽到喷水的视频大全_亚洲欧美日韩国产视频亚洲欧美综合日韩久久_中文字幕无码久久东京热_av电影中文一区

 
首頁 > 綜合 >
 
 

端側(cè)AI大模型紛至沓來,手機(jī)要被顛覆?

2023-08-29 10:37:29  來源:5G通信網(wǎng)


(資料圖片)

飛象網(wǎng)訊(高靖宇/文)近年來手機(jī)產(chǎn)業(yè)發(fā)展進(jìn)入創(chuàng)新瓶頸期,手機(jī)廠商正試圖尋找新的差異化出路。特別今年以來,隨著ChatGPT的橫空出世和全民級應(yīng)用發(fā)展趨勢,眾多手機(jī)廠商紛紛入局AI大模型賽道,其中不乏榮耀、OPPO、vivo、小米、華為等國產(chǎn)手機(jī)巨頭。

榮耀將把AI大模型引入端側(cè),賦能YOYO智慧助手,打造更加個人化、人性化,隱私保護(hù)更周全的端側(cè)個人模型;小米將小愛同學(xué)升級大模型,小米手機(jī)端側(cè)大模型已初步跑通;OPPO、vivo 也計劃在系統(tǒng)中整合AI 大模型能力。

除了手機(jī)廠商外,高通、聯(lián)發(fā)科等芯片巨頭也在探索將AI大模型植入端側(cè)。這預(yù)示著,部署AI大模型的手機(jī)終端就要來了。

手機(jī)巨頭搶跑“AI 大模型”賽道

8月4日,華為對外發(fā)布HarmonyOS 4,將AI大模型能力內(nèi)置在了系統(tǒng)底層。華為常務(wù)董事、終端BG CEO余承東介紹,HarmonyOS 4由華為盤古大模型提供底層支持,希望給用戶帶來智慧終端交互、高階生產(chǎn)力效率、個性化服務(wù)的全新AI體驗變革。

在8月14日晚舉辦的小米年度演講中,雷軍表示,小米AI大模型最新一個13億參數(shù)大模型已經(jīng)成功在手機(jī)本地跑通,部分場景可以媲美60億參數(shù)模型在云端運(yùn)行結(jié)果。小米旗下人工智能助手小愛同學(xué)已開始升級AI大模型能力,在發(fā)布會當(dāng)天開啟邀請測試。

榮耀是最早布局AI的手機(jī)廠商之一,根據(jù)趙明的描述,其AI能力的進(jìn)階主要分為三個階段:第一階段是從0到1提出概念,將需求場景化,比如相機(jī)可以直接識別綠植、天空,AI能夠?qū)D像進(jìn)行對應(yīng)的優(yōu)化;第二階段,AI有了上下文理解與學(xué)習(xí),基于位置、時間對消費(fèi)者習(xí)慣進(jìn)行整合式機(jī)器的決策;第三階段就是把AI引入端側(cè)。

“之所以提出端側(cè)大模型的概念,是因為網(wǎng)絡(luò)側(cè)大模型存在局限性?!痹谮w明看來,大模型的學(xué)習(xí)能力的確很強(qiáng),但我們需要劃分個人隱私以及人類知識庫之間的邊界。每個人都有自己的獨(dú)立空間,它應(yīng)該完全地被保護(hù),這也是端側(cè)大模型的價值所在。

OPPO、vivo 也逐漸開始在大模型領(lǐng)域發(fā)力。OPPO推出了基于 AndesGPT 打造的全新小布助手即將開啟大型體驗活動。據(jù)介紹, AndesGPT 是 OPPO 安第斯智能云團(tuán)隊打造的基于混合云架構(gòu)的生成式大語言模型。升級后的小布助手將具備 AI 大模型能力,擁有更強(qiáng)的語義理解對話能力。此外,vivo將在今年10月左右推出新的OriginOS 4.0系統(tǒng),新系統(tǒng)將內(nèi)置AI大模型。

端側(cè)運(yùn)行AI大模型,手機(jī)芯片頂?shù)米幔?/STRONG>

作為推動手機(jī)物種進(jìn)化的先進(jìn)技術(shù),與單純在云端部署生成式 AI 應(yīng)用和服務(wù)相比,手機(jī)終端側(cè)部署生成式 AI 在節(jié)約服務(wù)器成本、保護(hù)用戶信息安全、提升實時性和實現(xiàn)個性化用戶體驗等方面帶來了更加廣闊的應(yīng)用前景。

同時,在手機(jī)端部署AI大模型仍然面臨不小的挑戰(zhàn),手機(jī)芯片能否支撐龐大的算力消耗,是現(xiàn)有芯片性能所無法滿足的。以網(wǎng)絡(luò)側(cè)大模型ChatGPT為例,按其在今年1月的獨(dú)立訪客平均數(shù)1300萬計算,其對應(yīng)芯片需求為3萬多片英偉達(dá)A100 GPU圖形處理器。

目前,高通等芯片廠商,正在針對AI大模型端側(cè)部署研發(fā)專用的芯片。目前,高通正在將AIGC嵌入下一代高端芯片驍龍8 Gen3中,該芯片將于今年10月底在夏威夷舉行的高通驍龍峰會上首次亮相。

在Asghar的實驗室中,高通芯片能夠處理70億個參數(shù)的AI模型,雖然遠(yuǎn)遠(yuǎn)低于OpenAI GPT-3模型的1750億個參數(shù),但應(yīng)該適合移動搜索。

早在今年2月份,高通就已經(jīng)發(fā)布了全球首個運(yùn)行在安卓手機(jī)上的圖片生成軟件Stable Diffusion的終端演示,該手機(jī)搭載了驍龍8 Gen2芯片。在設(shè)備上使用生成式AI有很多好處。比如,所搜索記錄和個人數(shù)據(jù)是保密的,不會通過遠(yuǎn)程服務(wù)器中轉(zhuǎn)。本地AI也比云端更快,而且可以在飛機(jī)上等缺少手機(jī)服務(wù)的地區(qū)工作。

除了芯片端,為了在手機(jī)上高效運(yùn)行大模型,研究人員和開發(fā)者致力于將模型進(jìn)行壓縮和輕量化處理,通過剪枝、量化、分解等技術(shù),以減小模型的大小和計算量,同時保持較高的性能。此外,、開發(fā)者也在針對手機(jī)場景設(shè)計專用的AI模型。這些模型通常在快速響應(yīng)、低功耗和小尺寸等方面進(jìn)行了優(yōu)化。

在業(yè)內(nèi)看來,目前AI大模型在手機(jī)端側(cè)的應(yīng)用還在起步階段,但卻是未來必爭的技術(shù)高地。根據(jù)IDC預(yù)測,到2026年,中國市場中近50%的終端設(shè)備的處理器將帶有AI引擎技術(shù)。這意味著,手機(jī)廠商擁有AI大模型的能力將變得越來越重要。對于用戶而言,在AI大模型的賦能下,未來手機(jī)演進(jìn)將迎來更多體驗層的“質(zhì)變”性創(chuàng)新。

關(guān)鍵詞:

  
相關(guān)新聞
每日推薦
  • 滾動
  • 綜合
  • 房產(chǎn)