應用

技術

物聯網世界 >> 物聯網新聞 >> 物聯網熱點新聞
企業(yè)注冊個人注冊登錄

鄔賀銓:端側大模型+智能體將引發(fā)通信終端模式變革

2024-12-24 10:04 通信世界網

導讀:通信終端模式發(fā)送變革

12月23日,在2025中國信通院深度觀察報告會上,中國工程院院士鄔賀銓講道,端側大模型+智能體將引發(fā)通信終端模式變革。

一是終端形態(tài)多樣化。手機、PC、眼鏡等可穿戴設備、傳感器/工業(yè)模組、機器人、網聯車等。

二是終端功能智能化。從智能終端到AI終端,從通信終端到智能體/具身智能,還可離線使用。

三是人機交互多模化。自然語言、觸摸屏、手勢、唇形、眼神等,從GUI(圖形用戶界面)到VUI(語音界面)并發(fā)展為Agent UI(智能體界面),APP存在感和獨立性將被弱化,轉而成為系統(tǒng)背后的服務工具。

四是內容供應個性化。獲取信息的方式從瀏覽到對話,內容的產生從對外檢索到用戶生成(在終端內生成與云端協(xié)同生成),提問與獲得的信息態(tài)轉換(文生圖與文生視頻),從內容預制到內容定制,千人千面。

五是通信連接多元化。從點到點(含接力、流量分擔與冗余并發(fā))到P2MP/MP2P(包括多歸屬、多切片),智能網聯車PC5/Uu接口分別實現V2V和V2N連接,以多歸屬/多切片實現多傳感器與車聯網多設備互聯,AR視頻會議將異地參會者視頻組成MP2MP連接。

六是計費模式差異化?;隗w驗從流量計費到服務質量計費,計費單元從帶寬到Token或算力,計費方式從包月、流量包到預訂計時等。

鄔賀銓介紹,端側大模型+智能體也會對網絡技術產生兩大影響。

一方面是大上行與高突發(fā)。根據Speedtest數據,2024年10月,我國固寬百兆和千兆接入分別占94.8%和30.4%,固寬下行平均220Mbps,但上行僅44Mbps。采用專線接入可提高上行能力,但因平時無需高帶寬而利用率低且成本高。采用彈性無損智算IP網可支持10GE/100GE用戶接入,按流量時長計費。與此同時,2024年10月,我國5G用戶占移動用戶的55.6%,移動網下行平均140Mbps,但上行也僅23Mbps。對此,需要采用5G-A的大上行技術來適應。

另一方面是云邊端協(xié)同,云與端間需要大帶寬低時延高可靠傳輸。具體體現在模型參數及梯度(端側訓練的模型參數上傳到云上,對云上大模型進行全局參數更新,再下發(fā)到端側調整本地參數,反復迭代全局尋優(yōu));傳輸模型訓練或推理的原始數據;傳輸在終端中生成的視頻等。對此,可采用RDMA無損高吞吐廣域網,輔以負載均衡精準流控,支持海量樣本快速入算和存算分離拉遠訓練服務。

此外,鄔賀銓提到,AI終端及其應用推動網絡技術創(chuàng)新,也將帶動軟硬件產業(yè)及新型信息服務業(yè)的發(fā)展。他認為AI終端將成為人工智能技術落地應用的切入點,數字經濟發(fā)展賦能的新增長點,以及傳統(tǒng)產業(yè)數字化轉型的著力點。

面向未來,鄔賀銓表示,端側大模型+智能體將為更多的開發(fā)者投身人工智能技術開發(fā)展現廣闊的應用場景,帶動起AI技術的眾包時代,開拓產業(yè)的新生態(tài)。