邊緣，一個相對遠離“中心”的概念。邊緣計算往往是部署在數(shù)據(jù)中心之外，接近于現(xiàn)場應(yīng)用端提供的計算，面對的市場更為分散。工業(yè)、零售、智慧城市都是邊緣計算中典型的場景。很多數(shù)據(jù)來不及或者不能夠集中上傳到云端，就需要在邊緣終端側(cè)完成計算和推理。

在英特爾發(fā)布Q2財報的前一天，2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層論壇上探討了未來邊緣計算的機遇。英特爾公司高級副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti提到，2030年全球邊緣市場將達到4450 億美元的規(guī)模，企業(yè)需求的推動將會轉(zhuǎn)化為經(jīng)濟發(fā)展的動能，因此，他認為邊緣的發(fā)展將成為下一個 10 年的巨大發(fā)展機遇，“邊緣已經(jīng)是現(xiàn)在人工智能最大的部署所在”。

這半年圍繞人工智能最熱的話題是大模型，在本次會議上也不例外，大家的共識是大模型的落地要和行業(yè)結(jié)合起來，并且針對性地去解決行業(yè)問題。

(資料圖片)

大模型的應(yīng)用有著不同的實施方法：可以在云端完成訓練，再在云端完成推理返回結(jié)果到前端的邊緣側(cè)，但這就意味著可能通信的時間較長；也可以在云端完成訓練，然后在邊緣側(cè)完成微調(diào)后再推理并給出結(jié)果。

“我們要檢測貓，現(xiàn)在可以做到什么程度呢？可以直接對著手機說一聲‘如果貓跑到沙發(fā)上，你就告訴我’。通過大模型對語音的理解、對畫面的分析，當貓跑到沙發(fā)上的時候，系統(tǒng)就可以向手機推送報警信息。”山東中維世紀科技股份有限公司高級副總裁王正彬分享了公司在智能家居產(chǎn)品有趣的案例應(yīng)用。

從依靠人工盯著視頻一幀幀分析，再到利用深度學習的發(fā)展通過重復(fù)檢測、人形檢測進行風險提示，大模型的發(fā)展讓視頻檢測和分析更為便捷。“早期人工智能模型是定向的，找到專業(yè)數(shù)據(jù)集定向訓練識別，現(xiàn)在大模型最大的特點是它有點通識的能力，有一些內(nèi)容好像沒有訓練就可以識別出來了，這是現(xiàn)在大模型和早期模型的區(qū)別。”他這樣向第一財經(jīng)解釋以前的AI模型和現(xiàn)在大模型的區(qū)別。

“現(xiàn)在更多的需求是需要對關(guān)鍵事件進行檢測，比如說一個人摔倒，我只檢測倒地的人形，不檢測正常的人形，通過大模型就可以很方便實現(xiàn)了，只有倒地的人檢測到才進行報警，這樣能大大減少誤報和干擾。”王正彬說。

據(jù)他介紹，從視頻接入、存儲、解碼、顯示以及智能分析，這些工作就是在邊緣進行處理的。但要想在邊緣側(cè)完成這種對大模型的部署和使用，還有一些限制。

“我們知道邊緣設(shè)備的算力、功耗、成本往往都是有限的，不像數(shù)據(jù)中心可以無限增加設(shè)備。那么如何可以在資源受限的情況下去部署大模型，完成推理工作，這當中有很多問題需要解決。如果你把大模型原封不動的放在邊緣側(cè)，對算力要求太高，很多設(shè)備是無法承受的，就需要根據(jù)特定行業(yè)的特定要求去做特定的優(yōu)化，使得簡化之后的模型既滿足特定行業(yè)對準確度、功能的要求，同時它的算力又能夠被一般的或者是專用的邊緣設(shè)備所承載。” 英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席 AI 工程師張宇說。

現(xiàn)實中仍有不少困難。在現(xiàn)場參與案例展示的工作人員告訴第一財經(jīng)，數(shù)字化轉(zhuǎn)型進程事實的推進速度不一，會造成新的技術(shù)無法落地應(yīng)用。“有一些工廠的設(shè)備、網(wǎng)絡(luò)能力都是比較陳舊的，那我們只能先推薦他們更換設(shè)備，我們作為軟件方案商還不會直接提供硬件。”

擁抱新技術(shù)有時更像是強者的游戲，讓跑得更快的人繼續(xù)在行業(yè)中領(lǐng)跑。這些應(yīng)用場景有些本就是在原來技術(shù)應(yīng)用上的升級體驗，而不是簡單地實現(xiàn)一個新功能的從無到有。這為比較人工智能發(fā)展階段的不同方案如何體現(xiàn)進步帶來了一定難度，因為有時難以用數(shù)字量化，體現(xiàn)的是管理流程和性能體驗的優(yōu)越性。

“在我們的經(jīng)驗當中看到人工智能部署超過一半都是失敗的。”Sachin Katti認為這主要有幾個原因，基礎(chǔ)設(shè)施的問題過于陳舊，難以把人工智能的大型模型部署到陳舊的設(shè)備上；第二個是數(shù)據(jù)，要去學會如何抓取孤立的數(shù)據(jù)，利用這些數(shù)據(jù)進行部署，他直言“這都是非常大的挑戰(zhàn)，很多人都因為這些挑戰(zhàn)而止步不前”。

“對于客戶來說，僅僅靠自己通過硬件去獲得邊緣價值是非常困難的。所以我們在交付給客戶硬件的時候，相應(yīng)地也會給客戶交付所需的軟件。我們的目的是希望通過這樣一套基礎(chǔ)設(shè)施，可以讓客戶更加容易部署我們的硬件，并管理好硬件。” Sachin Katti說。

他提到，英特爾為了抓住邊緣計算的機會繼續(xù)在三個方向上發(fā)力：在硬件上，英特爾在中國剛剛發(fā)布了專門面向大模型訓練的加速器Gaudi 2，還有其他的通用CPU處理器以及專用的獨立顯卡加速器；在軟件上，通過OpenVINO可以對在云端訓練之后的大模型進行優(yōu)化和壓縮，在最新的OpenVINO的版本中，已經(jīng)增加了對大模型Stable Diffusion的支持；此外，就是繼續(xù)發(fā)展生態(tài)合作伙伴。

“把人工智能部署到工廠產(chǎn)線的時間成本和人力成本還是偏高。如果在大模型上有更創(chuàng)新的想法，我們會和技術(shù)團隊、產(chǎn)品團隊共同配合，共同琢磨提煉，我們希望更快速把英特爾的技術(shù)方案帶進去。”英特爾市場營銷集團副總裁兼中國區(qū)總經(jīng)理王稚聰認為，業(yè)務(wù)的合作伙伴要捕捉中國經(jīng)濟在恢復(fù)過程中出現(xiàn)的新動能，新的產(chǎn)業(yè)崛起以及把技術(shù)代入到下一個發(fā)展階段。

然而，通向機遇的道路并非坦途。

2023年英特爾Q2財報顯示，第二季度營收為129.48億美元，與去年同期的153.21億美元相比下降15%；但實現(xiàn)了扭虧為盈，凈利潤為14.73億美元，去年同期的凈虧損為4.54億美元。從細分領(lǐng)域來看，盡管在過去一年里，網(wǎng)絡(luò)和邊緣業(yè)務(wù)曾是一直穩(wěn)定保持著同比增長，但這塊業(yè)務(wù)今年連續(xù)兩個季度下滑，本季度收入為14億美元，同比下降了38%，是分列的幾項中同比下降最快的。

“不光是對英特爾，你可以看一下整個半導體行業(yè)過去兩年大家的利潤都有20%-30%左右的下調(diào)。但是在近一段時間，我們看到經(jīng)濟正在逐漸復(fù)蘇，而且也有大量的需求，無論是云端還是隨著AI技術(shù)進一步的部署和使用，尤其是AI的需求，它不僅是對GPU和網(wǎng)絡(luò)的需求，包括對CPU的需求都是在不斷增加的在邊緣也會有一些需求。對英特爾來說，我們所做的就是要適應(yīng)市場的情況和變化。” Sachin Katti回應(yīng)第一財經(jīng)在內(nèi)的媒體采訪時說。

標簽：