正在加載數據...
        1. 高端制造|生態環保|汽車|房地產|家居建材|家電|服裝|時尚前沿|健康|醫藥|教育培訓|能源化工|文旅

          航旅交運|食品飲品|科技|互聯網|手機通信|電子|商業|金融保險|證券|安防|人工智能|鄉村振興|綜合

        2. 當前位置:南方企業新聞網>要聞> 科技>正文內容
          • 將大模型部署在芯片上,阿里云如何重塑AI手機新體驗?
          • 2024年04月07日來源:中國家電網

          提要:面對繁榮的市場,全球的手機制造商都已經開始行動了起來,摁下了AI大模型研發競賽的快進鍵,手機成為了AI落地的第一戰場。

          在這個智能手機幾乎成為人體延伸的時代,一場靜悄悄的革命正在悄然發生——AI(人工智能)技術的飛速進步開始重新定義我們與手機的互動方式。

          IDC(國際數據公司)預測,未來幾年將會有一個顯著的轉折點:2024年,全球AI智能手機的出貨量將達到1.7億部,而到了2027年,僅中國市場的AI手機出貨量就將達到1.5億部。顯而易見,AI不再是遙不可及的未來技術,而是已融入我們生活的現實力量。

          面對繁榮的市場,全球的手機制造商都已經開始行動了起來,摁下了AI大模型研發競賽的快進鍵,手機成為了AI落地的第一戰場。

          挑戰也隨之接踵而來。

          如何構建AI手機?過去的做法是將大模型部署在云端,完全依靠云端算力運行,但這樣的方式往往難以滿足用戶即時響應和高度個性化的需求。

          事實上,這一技術演進背后所隱藏的挑戰還包括如何在資源有限的手機上運行越發復雜的AI模型,以及如何解決網絡延遲和數據同步等問題。

          尋找一份完備的解決方案成為了通信行業的當下共識。

          在這一關鍵時刻。阿里云與聯發科近日聯合宣布了端云協同技術,成功將“通義千問”大模型在部署在SoC上,首次實現了在手機芯片端對大模型的深度適配。

          這一創新不僅保證了即便在斷網的情況下,用戶依然能享受到順暢的AI服務,更預示著在端云協同技術的推動下,AI智能手機的用戶體驗躍進到“自由王國”,即AI隨時隨地皆可使用,滿足用戶在復雜場景下對AI功能的需求。

          創新的背后,凝結了阿里云與聯發科在模型瘦身、工具鏈優化、推理加速等多個方面的深度合作成果,跨越了從底層芯片到上層操作系統及應用開發的多重挑戰,展現了軟硬件一體化深度適配的巨大潛力。

          這場端側AI技術的探索,不僅開辟了Model on Chip(芯片上模型)商業化落地的新航道,更為全球手機廠商提供了新的解決方案,預示著智能手機行業即將邁入一個全新的AI時代。

          新趨勢——Model on Chip

          將龐大的人工智能大模型優化并部署到手機處理器上,克服傳統上手機對云端算力的依賴,這項創新不僅使得如自然語言處理、圖像識別等高級AI功能能在手機上得以直接運行,還顯著提升了執行效率,同時在用戶體驗和數據隱私保護方面實現了質的飛躍。

          通義實驗室業務負責人徐棟對此指出:“端側AI作為大模型應用落地的關鍵,面臨軟硬件適配和開發環境不足等挑戰。阿里云與聯發科的合作成功克服了這些難題,通過底層硬件到上層應用的全面技術攻關,將大模型有效部署至手機芯片,引領了端側AI在Model on Chip部署的新趨勢。”

          據了解,“通義千問”18億參數的開源大模型超越了以往模型,在性能和資源使用效率上取得了顯著進步,僅使用1.8G內存就能處理高達2048個token的推理,展現了其低成本、易部署及對商業化極為友好的特性。

          觀察人士認為,這項技術的創新打破了以往的局限,讓大模型深度適配手機芯片成為了可能。究其背后的技術原理,阿里云的將其落地的產品化思維功不可沒。

          http://upload.cheaa.com/2024/0407/1712450846772

          首先,在進入小小的手機之前,大模型需要“瘦身”。通過量化、參數剪枝和知識蒸餾等多種技術手段減小模型體積。

          量化是將模型的浮點數參數轉化為更高效的低位寬整數形式,減少存儲和計算資源的需求;參數剪枝則是通過移除非核心參數來縮減模型規模;知識蒸餾是利用一個小型但高效的模型模仿復雜大模型的行為,既能實現模型的輕量化,又能保持其性能。

          其次,量化后的模型雖然體積縮小,但可能會出現性能損失。所以還需要各種優化精心調整,進一步提升模型性能,確保其在手機上的高效運行。

          最后,經過優化后的大模型,還需要進一步提升其潛能,逐步增強模型能力,更好地適應終端應用的具體需求。

          阿里云的這項端云協同技術,因為融合了云計算與邊緣計算的優勢,相較于傳統方法,帶來了低延遲、 隱私保護、離線能力、節省帶寬和實時處理這五大優勢。對于自動駕駛、智能制造等未來應用場景來說,這一技術顯得至關重要。

          端云協同重塑手機AI

          可以預見的是,端云協同技術已經徹底改變了AI手機的計算效率。例如,智能語音助手能夠快速處理簡單請求,如天氣查詢,而復雜任務則依托云端的強大算力完成,從而提供高效、靈活的用戶體驗。

          在隱私保護方面,端云協同技術通過在設備端處理敏感數據,大幅提升了數據安全性和隱私性。比如,在健康監測應用中,個人健康數據會首先在本地被加密處理,只有必要的信息才會被安全傳輸至云端,有效降低了泄露風險。

          根據最新數據預測,伴隨著端側AI模型和硬件技術的不斷進步,預計到2024年,AI智能手機的市場種類和數量將迎來顯著增長。市場滲透率預計將達到6.4%,并有望在2025年實現翻倍,增至19%。

          http://upload.cheaa.com/2024/0407/1712450867127

          這一趨勢在2024年的移動世界大會上得到了明顯體現,榮耀、OPPO、vivo等手機品牌紛紛展示了他們的最新AI手機,突出了AI技術在提升用戶體驗上的諸多應用。而隨著阿里云端云協同技術的下放,智能手機市場的競爭格局必然會因此產生重大變革——誰能拒絕一款能在本地運行AI大模型的手機呢?

          與此同時,端云協同技術也為手機應用的創新提供了強大的動力和廣闊的平臺。開發者能夠借助這一技術開發出更多創新型應用,滿足用戶的個性化需求,從而加速推動手機應用市場的活力和生態繁榮。

          結語

          這場由端云協同技術驅動的變革,不僅預示著手機性能和應用將邁入一個前所未有的新紀元,也象征著人類與AI深度的融合又進了一步。由此,我們也站在了全新的技術發展高速路上,目睹著手機從傳統的通訊、娛樂工具,逐步演變為集AI智慧于一身的全能伙伴,可以預見的是,隨著與AI技術的進一步融合,手機的未來,也將變革出無限的可能。



          版權及免責聲明:
          1. 任何單位或個人認為南方企業新聞網的內容可能涉嫌侵犯其合法權益,應及時向南方企業新聞網書面反饋,并提供相關證明材料和理由,本網站在收到上述文件并審核后,會采取相應處理措施。
          2. 南方企業新聞網對于任何包含、經由鏈接、下載或其它途徑所獲得的有關本網站的任何內容、信息或廣告,不聲明或保證其正確性或可靠性。用戶自行承擔使用本網站的風險。
          3. 如因版權和其它問題需要同本網聯系的,請在文章刊發后30日內進行。聯系電話:01083834755 郵箱:news@senn.com.cn

          責任編輯:周峰菊
          相關新聞更多
            沒有關鍵字相關信息!
          文章排行榜
          官方微博