近年來，大模型在圖片、音視頻等多模態(tài)領(lǐng)域的表現(xiàn)展露出了巨大潛能，算力、數(shù)據(jù)處理與存儲需求也呈現(xiàn)指數(shù)級暴增，讓智能計算體系的結(jié)構(gòu)發(fā)生了根本性變化，邊緣計算是伴隨物聯(lián)網(wǎng)設(shè)備大量出現(xiàn)而誕生的技術(shù)領(lǐng)域，其能否有效解決計算結(jié)構(gòu)變化所導(dǎo)致的問題成為業(yè)界關(guān)注的焦點。近期，特斯聯(lián)首席科學(xué)家楊旸博士，特斯聯(lián)高級副總裁劉斌博士接受采訪，共同探討邊緣側(cè)在大模型時代下的發(fā)展趨勢。

特斯聯(lián)首席科學(xué)家楊旸博士

特斯聯(lián)首席科學(xué)家楊旸博士在接受采訪時表示：“通信網(wǎng)絡(luò)有越來越多的數(shù)據(jù)無法上傳，很多重要的數(shù)據(jù)也被無效信息研磨，網(wǎng)絡(luò)阻塞也導(dǎo)致了越來越長的服務(wù)時延以及安全性隱患，因此，需要在本地加一層邊緣計算的節(jié)點，保證邊緣有智慧的單元，而無需所有數(shù)據(jù)都傳到云上處理。”他指出，當(dāng)前邊緣計算的需求十分旺盛，行業(yè)面臨的情況是用戶數(shù)量有限，但傳感器數(shù)量無限。因此，如何將這些海量數(shù)據(jù)在本地進行處理，成為了一個亟待解決的問題。

特斯聯(lián)高級副總裁劉斌博士也進一步解釋：“通信行業(yè)和計算行業(yè)融合的時候會遇到各種各樣實際的問題，針對這些問題我們可以分析、建模，做一些共性的研究，并進行結(jié)合產(chǎn)業(yè)的微調(diào)，為終端用戶創(chuàng)造價值。”他強調(diào)了邊緣計算在解決實際問題中的重要作用。

在現(xiàn)實場景應(yīng)用中，楊旸博士表示：“我們在現(xiàn)實場景中遇到的問題并不能完全依賴大模型解決。因此，我們需要在邊緣節(jié)點把大模型分拆，將部分大模型的能力部署到小模型或行業(yè)模型中。”他認為，這樣一來，就可以在邊緣節(jié)點處理本地數(shù)據(jù)驅(qū)動的模型。模型不需要很大，不需要高昂的成本來訓(xùn)練，只處理相對單一然而對用戶非常重要的數(shù)據(jù)，這就是大模型在邊緣側(cè)的應(yīng)用。

上海交通大學(xué)重慶人工智能研究院AI大模型中心副主任沈國陽博士則從另一個角度闡述了邊緣智能計算在未來的發(fā)展機遇：“諸多終端設(shè)備都需要邊緣智能計算來實現(xiàn)，比如虛擬現(xiàn)實設(shè)備、感知設(shè)備、可穿戴設(shè)備等等，市場中也會有愈來愈多的感知設(shè)備出現(xiàn)。”他認為，算力成本的下降也將加速邊緣側(cè)及端側(cè)大模型的出現(xiàn)。

最后，中國科學(xué)院重慶綠色智能技術(shù)研究院副研究員陳琳博士介紹了特斯聯(lián)與中科院重慶研究院合作打造邊緣智能計算重慶重點實驗室的機緣：“我們的合作可謂強強聯(lián)合。”他表示，特斯聯(lián)與中科院重慶研究院的合作聚焦于多個方向：聯(lián)合的人才培養(yǎng)、共同解決技術(shù)“卡脖子”問題、在具身智能等方向開展聯(lián)合研究、技術(shù)的產(chǎn)業(yè)化落地以及資本合作。