- 從智能手機(jī)到智能體,端側(cè)AI的故事才剛剛開始
- 2025年09月29日來源:證券時(shí)報(bào)
提要:端側(cè)AI是將AI模型部署在終端設(shè)備上,讓終端設(shè)備具備本地的智能處理能力,無需依賴云端服務(wù)器就能完成一些AI任務(wù)。與之相對(duì)應(yīng)的是云側(cè)AI,云側(cè)AI是指將人工智能的模型訓(xùn)練和推理任務(wù)放在云端服務(wù)器進(jìn)行處理。
近日,高通發(fā)布了年度旗艦芯片,公司相關(guān)負(fù)責(zé)人在演講中,頻頻提到一個(gè)關(guān)鍵詞——端側(cè)AI(人工智能)。
端側(cè)AI是將AI模型部署在終端設(shè)備上,讓終端設(shè)備具備本地的智能處理能力,無需依賴云端服務(wù)器就能完成一些AI任務(wù)。與之相對(duì)應(yīng)的是云側(cè)AI,云側(cè)AI是指將人工智能的模型訓(xùn)練和推理任務(wù)放在云端服務(wù)器進(jìn)行處理。
從名稱上就可以感受到端側(cè)與云側(cè)兩種AI處理模式的差異。在端側(cè)處理,省去了信息在終端與云端的交互時(shí)間,處理速度更快,同時(shí),個(gè)人數(shù)據(jù)也只保留在本地,不存在云端泄漏的風(fēng)險(xiǎn),更有利于數(shù)據(jù)安全。不過,端側(cè)處理的不足也是顯而易見的,特別是在計(jì)算資源與存儲(chǔ)能力方面,端側(cè)要明顯遜色,相比云端部署的大模型,端側(cè)往往只能部署單一應(yīng)用的小模型。
那么,為什么端側(cè)AI成為芯片大廠關(guān)注的焦點(diǎn)?
按照高通公司總裁兼CEO安蒙的說法,UI(用戶界面)現(xiàn)在已經(jīng)是以人為核心,能適應(yīng)用戶的需求,并在端側(cè)進(jìn)行處理。同時(shí),用戶體驗(yàn)的核心已轉(zhuǎn)向智能體AI,這一變革正在重塑社會(huì)對(duì)所有智能終端的認(rèn)知:無論是智能手表、無線耳機(jī)還是智能眼鏡,它們不再只是手機(jī)功能的延伸,而是開始直接與智能體交互。他判斷,智能手機(jī)不會(huì)消失,但是將迎來以智能體AI為核心的時(shí)代,包括智能手機(jī)在內(nèi)的不同品類的智能終端將共同定義全新的移動(dòng)體驗(yàn)。
記者從業(yè)內(nèi)了解到,一些端側(cè)AI應(yīng)用已經(jīng)嶄露頭角。例如,當(dāng)你想要利用AI為你制作一份旅游計(jì)劃表時(shí),傳統(tǒng)的AI會(huì)為你提供一份大眾化攻略,但通過端側(cè)AI,它可以自動(dòng)識(shí)別你的日歷表中哪些日期、哪些時(shí)段已經(jīng)安排了其他行程,在制作攻略時(shí)會(huì)主動(dòng)避開這些時(shí)段,從而提供更合理的出行建議。
無獨(dú)有偶,聯(lián)發(fā)科剛剛在發(fā)布旗艦芯片時(shí)對(duì)端側(cè)AI功能著墨不少。該公司聲稱,其最新發(fā)布的旗艦芯片率先支持Bitnet 1.58 bit推理框架,端側(cè)AI能力獲得了史詩級(jí)的提升,大幅減少AI計(jì)算、圖像識(shí)別及自然語言處理能力運(yùn)算對(duì)于云的需求,讓以往需要依賴云端才能做到的4K超高分辨率文生圖、128K長(zhǎng)文本處理、AI寫真等功能得以在端側(cè)實(shí)現(xiàn)。
記者注意到,為了支撐端側(cè)AI,高通還提到了計(jì)算架構(gòu)的變化。安蒙稱,需要構(gòu)建一個(gè)全新的計(jì)算架構(gòu)體系,包括操作系統(tǒng)、軟件、芯片都需要重新設(shè)計(jì)以支持這些新體驗(yàn)。他認(rèn)為,在由智能體主導(dǎo)的未來,智能體擁有豐富的情境理解能力,能記住用戶的習(xí)慣,還能理解用戶看到的內(nèi)容,而高通正面向這樣的需求打造全新的處理器。
值得一提的是,除了消費(fèi)級(jí)的終端,未來工業(yè)級(jí)的終端也將具備AI能力。在業(yè)內(nèi)人士看來,各行各業(yè)中采用的大量傳感器會(huì)產(chǎn)生海量數(shù)據(jù),這些數(shù)據(jù)往往尚未被充分利用,攝像頭就是典型的例子,它們遍布各個(gè)角落,是否可以讓每一個(gè)攝像頭都具備AI能力,使其能夠基于輸入的數(shù)據(jù)流進(jìn)行分析并做出決策?
因此,端側(cè)AI的故事才剛剛開始,不僅僅是如今的智能手機(jī)、智能手表以及智能汽車,甚至未來每一臺(tái)工業(yè)級(jí)邊緣終端、各行各業(yè)的傳感器——無論是制造工廠、配送中心,還是零售場(chǎng)景,這些領(lǐng)域中的傳感器都將具備AI能力。
當(dāng)然,強(qiáng)調(diào)端側(cè)AI的能力并不意味著云側(cè)AI不重要。未來,最好的局面是,無論在終端還是云端進(jìn)行AI處理,二者都將無縫協(xié)同,實(shí)現(xiàn)邊緣側(cè)“云+端”的協(xié)同,這將使推理計(jì)算等任務(wù)得到更高效的分配。
版權(quán)及免責(zé)聲明:
1. 任何單位或個(gè)人認(rèn)為南方企業(yè)新聞網(wǎng)的內(nèi)容可能涉嫌侵犯其合法權(quán)益,應(yīng)及時(shí)向南方企業(yè)新聞網(wǎng)書面反饋,并提供相關(guān)證明材料和理由,本網(wǎng)站在收到上述文件并審核后,會(huì)采取相應(yīng)處理措施。
2. 南方企業(yè)新聞網(wǎng)對(duì)于任何包含、經(jīng)由鏈接、下載或其它途徑所獲得的有關(guān)本網(wǎng)站的任何內(nèi)容、信息或廣告,不聲明或保證其正確性或可靠性。用戶自行承擔(dān)使用本網(wǎng)站的風(fēng)險(xiǎn)。
3. 如因版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)谖恼驴l(fā)后30日內(nèi)進(jìn)行。聯(lián)系電話:01083834755 郵箱:news@senn.com.cn




