“華米OV”的新戰場：手機大模型
2023.10.26 15:17
· 來自北京
· 5.0萬閱讀
雲端協同，模型“瘦身”。
圖片來源@視覺中國
文丨光錐智能，作者｜劉俊宏，編輯丨王一粟
大模型重塑一切的風，吹到了手機行業。
在見識了大模型重塑IT基礎設施、營銷、辦公、自動駕駛等行業后，深陷於手機行業銷量和技術雙周期“低谷”的手機廠商們，急迫且高調地湧入大模型+手機的賽道。
走在前面的是華為和小米。今年8月，華為和小米先後宣布自家手機助手接入大模型。一時間，手機助手也擁有了類似ChatGPT一般的深度對話、自然語言理解以及編程能力。
然而，這樣依賴雲端的大模型部署方式，在使用上需要用戶等待太久，並且消耗大量帶寬和算力資源，對話也經常不流暢。
於是，在手機端部署大模型，形成端雲協同的大模型的方案，成了所有手機廠商們的一致選擇。
為了把大模型塞進手機，OPPO、vivo、小米紛紛先後推出手機端十億參數級別的“輕量版大模型”。芯片廠商聯發科和高通也根據大模型的需求推出了更適合AI計算的手機SoC（系統級芯片）。
在11月即將到來的OPPO和vivo開發者大會後，“華米OV”們將再次在手機大模型上齊聚一堂。
如今，如何用好大模型的能力，雖然手機廠商還在初級階段，但已經在許多方向上有了共識，比如：如何壓縮模型、如何雲和端協同、如何在底層打通大模型和系統、應用的能力等。
在硬件進化多年之後，手機也再次走到了軟件定義手機的新節點，這更考驗手機廠商的研發實力。也正因為如此，最近手機廠商也紛紛發布和升級自己的自研操作系統，以求在軟件體驗上勝出一籌。
可以預見，一波大模型手機的新賣點就在路上，而隨着大模型對算力要求的提升，能否拉動起一波新的換機潮，把手機廠商們從寒冬中拉出來？
聚焦大模型，“華米OV”的新戰場 中國的手機廠商們喜歡“抱團作戰”，在進軍大模型上也不例外。
“華米OV”各就各位后，大模型在手機上的落地到底怎麼樣？即將進入到“實踐檢驗真理”的時刻。
首先是近在眼前的vivo開發者大會。早在九月，vivo 執行副總裁、首席運營官胡柏山就宣布即將發布自研大模型，並且會和新機一起跟大家見面。
不過，可能是“新聞太大，憋不住”，才一個月過去，vivo副總裁、全球AI研究院院長周圍，開始在微博上不斷“劇透”即將推出的大模型的信息和能力。
其中，即將發布的vivoLM（vivo大模型）一共分為5個版本，按照參數量又分成十億（1B/7B）、百億（66B）和千億（130B/175B）三個級別。其中，7B的版本是vivoLM 將對外開放的版本。
在具體的能力上，大模型是很好的文本生成助理，同時也是很好的知識獲取入口。周圍認為，“文本生成助理，除了普通的生文、總結、擴寫，它甚至能幫你寫SWOT分析。同時它也是很好的知識獲取入口，只要問對問題，它就可以用人人都能聽懂的語句解釋很多專業領域的知識，比你在搜索引擎里淘金要高效的多，真正的‘旦用難回’。”
按照這個描述，大模型當下與手機的結合可能更接近一個智慧助手的形象。
10月11日，OPPO宣布基於AndesGPT大模型打造的新版AI助手——新小布1.0開啟了第一輪公測。
OPPO對手機大模型的應用展望，也是助理形象。“今天AIGC真的像一個人在跟你對話，這是最超出想象的一個體驗。所以，未來的手機一定是你的超級助理。”在關於AIGC和大模型技術的顛覆性上，OPPO高級副總裁、首席產品官劉作虎在近日的採訪中表示。
比起“OV”在11月的“趕場”，華為和小米已經在各自的手機助手上開始了應用。
8月4日，在華為開發者大會上，華為常務董事、終端BG CEO、智能汽車解決方案BU CEO余承東宣布推出大模型加持的全新小藝，更新的功能還是主要體現在智慧交互，能夠完成自然語言理解的設備控制、文案內容輔助、圖片二次創作等功能。
在小米這邊，8月14日小米開啟了小愛大模型的邀請測試，覆蓋大量手機機型和部分智能音箱。升級版的小愛具有理解上下文、更高質量的問答、生成式內容輸出等能力，基本上相當於把文心一言、訊飛星火這種大模型App的能力直接嵌入到了手機中。但與App不同的是，這種嵌入會更加底層，交互也更多種多樣。
大模型如何裝進手機里？ 把大模型裝進手機，犹如把大象裝進冰箱，有三步。
首先，手機行業雖然在大模型應用的具體架構和路徑上看法不同，但“雲端+終端”的協同設計思路已經達成了共識。
在數據中心，大模型動輒幾百億、上千億的參數，訓練時對應上萬張GPU的硬件需求，完整的大模型根本不可能塞進手機“消費級”的硬件裏面。
而純雲端的方案下，用戶在等待網絡通信的時間、雲計算傳輸時間、判斷反饋時間的疊加下，等待時間太長，體驗非常差。光是結合大模型的輸入法推薦詞的耗時都要長達兩秒，根本沒法用在實時聊天場景中，更別提在地庫、電梯、老辦公樓這些信號較弱的地點了。
再加上，想提供更多的智能輔助，勢必也會接觸到更多用戶信息。這些信息全上傳雲端，那麼隱私等信息安全也無法保證，而就算信息安全能夠支持，這些信息全部上傳雲端，當前存量龐大的智能硬件所產生的天量數據，將對本就GPU硬件吃緊的廠商們帶來進一步的網絡帶寬、存儲等各方面硬件上的壓力。
想知道購買電動車哪裡補助最多?台中電動車 補助資訊懶人包彙整iphone維修 中心擁有專業的維修技術團隊，同時聘請資深iphone手機維修專家，現場說明手機問題，快速修理，沒修好不收錢住家的頂樓裝太陽光電 聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。網頁設計 一頭霧水該從何著手呢? 回頭車 貨運收費標準宇安交通關係企業，自成立迄今，即秉持著「以誠待人」、「以實處事」的企業信念台中搬家公司 教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪？台中大展搬家線上試算搬家費用，從此不再擔心「物品怎麼計費」、「多少車才能裝完」台中搬家 公司費用怎麼算?擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司好山好水露營車 漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪，彈性的出遊方案，行程跟出發地也可客製廣告預算用在刀口上，台北網頁設計 公司幫您達到更多曝光效益；電動車補助
正如高通高級副總裁Alex Katouzian所言，“隨着連接設備和數據流量加速增長，疊加數據中心成本攀升，（我們）不可能將所有內容都發送到雲端。”
如此一來，要想讓移動終端（手機）擁有大模型的能力，就勢必要在端側安排端側大模型來“接應”。
雲端和終端的分層，是端雲協同的第一步。
“模型訓練需要巨大的算力，一定都會在雲端進行。而手機端的應用，其實是推理。在推理的時候，模型可以只激活一部分的模塊、一部分的神經元來計算， ”小米技術委員會 AI 實驗室大模型團隊負責人欒劍表示。
另外，雲端和端側的大模型具體的應用場景也有所不同。
例如在手機上可以執行一些簡單的任務，比如寫作、建議、文生圖等。另一些涉及到複雜的知識體系和實時性的信息，不太適合數據採集和學習的，例如訂票、訂酒店等操作，可以調動雲端的能力。
接下來，是改造手機SoC，在原本的硬件平台基礎上添加適合大模型的GPU、NPU（神經網絡處理器）、APU（加速處理器）等硬件。
在新款旗艦芯片上，針對大模型的搭載，高通和聯發科都有相對應的升級。例如在10月25日新鮮出爐的驍龍8Gen3上，NPU性能提升98%，並且還給了兩個低功耗的NPU單元。令人驚喜的是，驍龍8Gen3支持100 億參數的模型。這意味着，當前高通的新硬件裝下手機廠商們的大模型綽綽有餘。
另一邊，與vivo和OPPO深度合作的聯發科，在其即將推出的天璣9300芯片上也集成了新的AI處理器。
不過，硬件上的升級還遠遠不夠。要想把大模型“塞進”巴掌大的手機里，還需要對大模型“瘦身”。
在參數層面，手機廠商們普遍選擇十億級別的大模型落地。例如小米的13億、vivo的10億和70億、OPPO的70億等。參數量的減小，有效降低了大模型在側端佔用的存儲空間，避免了千億級的大模型，光是參數就要佔據幾百G存儲空間的尷尬。
在參數精簡后，廠商們還需進一步調整模型，來讓小參數同樣能得出大參數的結果。
以華為的全新小藝為例，小藝是在華為盤古大模型的基礎上，針對終端消費者場景構建並精調的對話模型。在調整中，小藝重點學習了終端消費者可能產生的數據，如對話、設備操作，購物、吃穿用度等生活常識。在針對學習讓大模型“專精”后，華為在prompt（提示詞）和輸出格式做了逐字分析和壓縮，最終實現推理時延減半。
另一邊，當前的量化技術也在推動大模型變小。例如將模型從 FP32 縮小到 INT8。所謂 FP32，是一種單精度浮點數，可以表述小數點后 7 位，相當精確，但是運算開銷較大。INT8 就是 8 位整數，只佔用 1 個字節，運算開銷較小。這個過程，可以理解為把原本精細的計算部分模糊化，量化操作讓端側的大模型無需達到雲端的“盡善盡美”，也能給出合理的答案。
端雲協同、硬件升級、大模型壓縮，經過這三步，大模型基本就可以合格的裝進手機中。
但實際上，大模型真正跟系統和應用結合才剛剛開始，一個軟件驅動行業的新周期漸露曙光。
抓住大模型，抓住下一輪手機銷量排位賽 大模型進入手機，來自手機軟件能力的升級，變得前所未有的重要。
參考vivo大模型負責人周圍在微博的“劇透”。在大模型的用處中，vivo分為自然語言處理、圖像處理、推薦系統、人工智能安全、自動化決策和模型訓練優化五個大類。
對於手機廠商布局端側大模型的動作，欒劍表示：“首先我覺得從手機廠商來說，一定會探索這種可能性。如果不探索的話，未來有可能在這個領域落後”。
而在用戶側的感知上，以生成圖像、圖像識別的圖像處理和商品推薦、音樂推薦的推薦系統為例，大模型的加入，將給智能手機帶來智能化的新高度。
前者可以對應當前手機的AI優化攝影功能。區別於之前妙鴨相機這種小程序，大模型接入后的攝影將不再局限自動P圖、建議拍攝位置等功能，可以實現自然語言調整圖片內容，甚至還能建議你，自拍擺什麼姿勢最好看。
而後者推薦系統將有望打破音樂、購物、出行、餐飲、長短視頻等一系列APP的“封閉”壁壘，實現不需要打開對應APP就全方位接收推薦算法。
這樣一來，大模型或許將改變APP的“勢力割據”，重塑應用軟件的生態也不是沒有可能。
更為關鍵的是，大模型將會和手機廠商自研的操作系統深度結合，提供系統級的體驗。
而手機軟件體驗上的差異，將解決當下手機廠商“硬件大同小異，只能外觀找不同”的同質化問題。
消費者挑選更智能的手機，將不需要看評測、對比拍攝樣張、看跑分、看溫度表現等等產品之間的細微差別。大模型的PK，手機產品將直接表現為“智力水平”的高低，這也正是為何手機廠商們當前開始熱衷大模型“打榜”的原因之一。
從AI 定義汽車，到AI定義手機、PC，大模型的注入將在一定程度上重塑手機市場的銷量格局。
當前手機廠商們“下餃子”式的入局大模型，還只是個開始，後續應用落地、模型迭代、優化體驗等環節，眼見着將成為手機行業玩家們的新一輪“無限遊戲”。
而來自軟件層面“看得見，摸得着”的智能化體驗，也將對過去手機發布會關於“攝像頭如何來之不易”、“性能參數又贏蘋果”、“手機殼材質太極限了”這些內容的大侃特侃，注入全新的內容活力。
更重要的是，大模型倒逼手機算力的提升，也將帶來一波換機潮。
過去，因硬件配置過剩，出現了一台手機用5年的“手機釘子戶”，大模型的升級體驗或許將給其一個無法拒絕的換機理由，從而為手機行業帶來銷售層面的增長。
https://www.tmtpost.com/6760396.html