人工智能在邊緣側(cè)的不斷擴(kuò)展，是駕馭數(shù)據(jù)洪流的關(guān)鍵環(huán)節(jié)之一，也是物聯(lián)網(wǎng)未來發(fā)展的重要趨勢。隨著人工智能如火如荼的發(fā)展，海量數(shù)據(jù)需要快速有效地分析和提取洞察，這也大大加強(qiáng)了對于邊緣計(jì)算的需求。

　　人工智能的發(fā)展離不開數(shù)據(jù)，因?yàn)樗枰罅康臄?shù)據(jù)進(jìn)行訓(xùn)練。在當(dāng)前這樣一個(gè)萬物智能互聯(lián)的時(shí)代，數(shù)據(jù)量的產(chǎn)生速度超出了一般人的想象。以智能攝像頭為例，隨著攝像頭的分辨率從1080P轉(zhuǎn)向4K，其一天所采集到的數(shù)據(jù)量將達(dá)到200GB。面臨同樣問題的還包括智能醫(yī)院、自動(dòng)駕駛和智能工廠，它們一天所產(chǎn)生的數(shù)據(jù)將分別超過3TB、4TB和1PB。有人做過這樣的預(yù)測，到2020年，一個(gè)互聯(lián)網(wǎng)用戶平均每天將產(chǎn)生的數(shù)據(jù)量大概是1.5GB。

　　英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官張宇博士

　　英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官張宇博士日前在邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟峰會主題演講中，分享了如何在網(wǎng)絡(luò)邊緣實(shí)現(xiàn)智能化的觀點(diǎn)。他認(rèn)為，人工智能在邊緣側(cè)的不斷擴(kuò)展，是駕馭數(shù)據(jù)洪流的關(guān)鍵環(huán)節(jié)之一，也是物聯(lián)網(wǎng)未來發(fā)展的重要趨勢。隨著人工智能如火如荼的發(fā)展，海量數(shù)據(jù)需要快速有效地分析和提取洞察，這也大大加強(qiáng)了對于邊緣計(jì)算的需求。

　　邊緣側(cè)趨向負(fù)載整合

　　“以前的數(shù)據(jù)很多都是結(jié)構(gòu)化數(shù)據(jù)，可以通過Excel表格或者簡單的關(guān)系型數(shù)據(jù)庫對其進(jìn)行維護(hù)和管理。但今后會有越來越多的非結(jié)構(gòu)化數(shù)據(jù)需要進(jìn)行處理并借此發(fā)現(xiàn)內(nèi)在關(guān)聯(lián)，這時(shí)就需要邊緣計(jì)算和人工智能技術(shù)。”但張宇并不認(rèn)為對邊緣計(jì)算的強(qiáng)調(diào)，就意味著邊緣計(jì)算將代替云計(jì)算，“在物聯(lián)網(wǎng)從互聯(lián)走向智能，再走向自治的過程中，兩者是協(xié)同互補(bǔ)的關(guān)系，并非彼此取代。”

　　在他看來，邊緣計(jì)算所處理的數(shù)據(jù)屬于局部數(shù)據(jù)，并不能形成對于全局的認(rèn)知，只有云計(jì)算平臺才能在后端對從各種不同邊緣采集到的數(shù)據(jù)進(jìn)行融會貫通。例如在智能交通領(lǐng)域，盡管智能攝像頭能夠通過各種方法能夠識別出行人、車型、顏色和車牌，但卻不了解車的軌跡;在今年的雙11活動(dòng)中，天貓商城的銷售峰值超過25億/秒，如果沒有云計(jì)算平臺的支持，這是很難想象的。

　　不過在2012年以前，人工智能在做圖像識別時(shí)的準(zhǔn)確度是低于人類的。下圖中，虛線代表人類識別水平，實(shí)線代表機(jī)器識別錯(cuò)誤率。可以看到，2012年以前機(jī)器識別的錯(cuò)誤率還是高于人類的，但呈逐漸下降趨勢，2012年之后，隨著AlexNet等神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，人工智能水平出現(xiàn)了質(zhì)的飛躍。

　　機(jī)器識別錯(cuò)誤率正在逐年下降

　　但人工智能同樣面臨很多挑戰(zhàn)，對計(jì)算和存儲資源的巨大消耗就是其中之一。以百度搜索為例，它每完成一次搜索，就需要完成千億億次的計(jì)算;如果再進(jìn)行推理，即使去處理一張224 X 224分辨率的圖片，像AlexNet、GoogleNet這樣的人工智能網(wǎng)絡(luò)，計(jì)算量也要超過10億次。

　　因此，張宇強(qiáng)調(diào)了在邊緣側(cè)趨向負(fù)載整合是物聯(lián)網(wǎng)演進(jìn)的一個(gè)必然趨勢。原來在不同設(shè)備上分立的負(fù)載會越來越多地通過虛擬化等技術(shù)，整合到一個(gè)單一的高性能的計(jì)算平臺上，來實(shí)現(xiàn)一個(gè)綜合的復(fù)雜的功能，各個(gè)功能子系統(tǒng)既能分享設(shè)備提供的計(jì)算，存儲，網(wǎng)絡(luò)等資源，同時(shí)還能具有一定的獨(dú)立性，避免彼此的相互影響，從而可以簡化系統(tǒng)架構(gòu)，降低系統(tǒng)總體。同時(shí)，負(fù)載整合實(shí)際上也為邊緣計(jì)算的實(shí)現(xiàn)以及為實(shí)施人工智能的應(yīng)用提供了條件。整合后的設(shè)備既是邊緣數(shù)據(jù)的匯聚節(jié)點(diǎn)，同時(shí)也是邊緣控制的中心，這為邊緣智能提供了處理所需的數(shù)據(jù)，同時(shí)也提供了控制的入口。因此英特爾認(rèn)為人工智能和負(fù)載整合的結(jié)合，會在今后的邊緣計(jì)算的系統(tǒng)里發(fā)生。

　　在邊緣側(cè)趨向負(fù)載整合是物聯(lián)網(wǎng)演進(jìn)的必然趨勢

　　構(gòu)建邊緣協(xié)同的端到端系統(tǒng)

　　在一個(gè)邊緣協(xié)同的端到端系統(tǒng)中，由于不同網(wǎng)源的功耗、計(jì)算性能和所能承擔(dān)的成本各不相同，因此在選取硬件架構(gòu)時(shí)往往會有特定要求。英特爾的做法是根據(jù)用戶需求提供不同架構(gòu)的解決方案，涵蓋至強(qiáng)處理器、至強(qiáng)融核處理器、Movidius/Nervana神經(jīng)網(wǎng)絡(luò)處理器和FPGA、網(wǎng)絡(luò)以及存儲技術(shù)等硬件平臺，以及多種軟件工具及函數(shù)庫，優(yōu)化開源框架，來讓他們進(jìn)行自主選擇。

　　張宇認(rèn)為，如果想將人工智能用到邊緣側(cè)，網(wǎng)絡(luò)優(yōu)化將是一個(gè)關(guān)鍵的技術(shù)。因?yàn)槟壳叭斯ぶ悄艿睦碚摶A(chǔ)并不完備，導(dǎo)致很多人工智能的方法是冗余的，急需優(yōu)化。

　　低比特、剪枝和參數(shù)量化是英特爾做網(wǎng)絡(luò)優(yōu)化的三大思路。所謂低比特，是指在傳統(tǒng)的深度學(xué)習(xí)領(lǐng)域，往往采用32比特單精度浮點(diǎn)來進(jìn)行參數(shù)表述，但在安防、機(jī)器學(xué)習(xí)和機(jī)器視覺實(shí)際應(yīng)用中卻并不需要如此高的精度，在不影響最終識別率的情況下，英特爾傾向?qū)?2比特的單精度浮點(diǎn)轉(zhuǎn)變成16比特的半精度，甚至是8比特、2比特的整數(shù)精度，從而降低存儲與計(jì)算負(fù)荷。

　　剪枝也是類似。如果把人工智能網(wǎng)絡(luò)比喻成一個(gè)樹枝，這棵樹的每個(gè)不同分杈實(shí)際上對應(yīng)的是不同的檢測特征。對于沒有效果的分支，用戶完全可以在優(yōu)化過程中把它剪掉，降低計(jì)算復(fù)雜度。而參數(shù)的量化是指可以根據(jù)參數(shù)的特征做聚類，用相對比較簡單的符號或數(shù)字來表述，從而降低人工智能對于存儲的要求。

　　如何界定行業(yè)的邊緣?

　　計(jì)算任務(wù)應(yīng)該放在邊緣還是放在云端去做?如何界定行業(yè)的邊緣?英特爾方面認(rèn)為邊緣計(jì)算的核心問題是如何根據(jù)不同行業(yè)的不同應(yīng)用需求，選擇不同的工作負(fù)載、成本和功耗方案去實(shí)施，并沒有一致性的答案。

　　以安防監(jiān)控為例，如果不考慮邊緣計(jì)算，最簡單的方式是前端攝像機(jī)捕捉到視頻信息，傳到作為中間節(jié)點(diǎn)的NVR做存儲、解碼和播放，然后把數(shù)據(jù)以流媒體方式壓縮后傳輸?shù)胶蠖恕５@種海量信息的傳輸對網(wǎng)絡(luò)帶寬和后端存儲形成了壓力，勢必導(dǎo)致一部分業(yè)務(wù)的運(yùn)行和計(jì)算前移。在這個(gè)需求下，用戶具體是做車輛、行人或路標(biāo)的檢測、跟蹤、分類、識別，這對于前端攝像機(jī)里部署的智能分析算法是有不同要求的。

　　但有一個(gè)共性的技術(shù)是需要理解和掌握的：即怎樣使計(jì)算架構(gòu)變得更容易被軟件定義?也就是說，不管何種業(yè)務(wù)類型都可以更靈活的在云端，在邊緣側(cè)，甚至在終端節(jié)點(diǎn)上運(yùn)行。如果沒有軟件定義的靈活性，要把工作負(fù)載從云端遷移到前端是非常困難的事情，芯片廠商必須要做這樣的考量。

　　“邊緣計(jì)算聯(lián)盟(ECC)并不是要實(shí)現(xiàn)完全統(tǒng)一的架構(gòu)，更多的是提供參考架構(gòu)。”張宇解釋說，參考架構(gòu)旨在定義一個(gè)邏輯框架，盡管不會細(xì)分到每種硬件需要怎樣的配置、執(zhí)行何種協(xié)議、實(shí)現(xiàn)何種功能等，但里面也有能夠適應(yīng)不同復(fù)雜度的系統(tǒng)。比如邊緣計(jì)算節(jié)點(diǎn)(ECN)概念就可能是一個(gè)單一設(shè)備、一個(gè)邊緣集群或者是一個(gè)邊緣云，可以根據(jù)不同用戶的使用場景實(shí)現(xiàn)不同的適配。但他同時(shí)也承認(rèn)，不同垂直行業(yè)的要求是不一樣的，如何把邊緣計(jì)算的理念和框架映射到垂直行業(yè)里，產(chǎn)生真正可落地的具體方案，這是挑戰(zhàn)，也是聯(lián)盟正在努力推進(jìn)的方向。此外，今后如何在架構(gòu)的升級中體現(xiàn)不同行業(yè)的特點(diǎn)與個(gè)性，也是今后工作的重心。

　　而作為聯(lián)盟驅(qū)動(dòng)創(chuàng)新的重要成果，《邊緣計(jì)算參考架構(gòu)2.0》在本屆峰會上正式發(fā)布，重點(diǎn)闡釋了邊緣計(jì)算的概念、特點(diǎn)、價(jià)值，分別從概念視圖、功能視圖、部署視圖三個(gè)維度全方位展現(xiàn)ECC邊緣計(jì)算參考架構(gòu)2.0，提出構(gòu)建模型驅(qū)動(dòng)的智能分布式開放架構(gòu)，實(shí)現(xiàn)架構(gòu)極簡，OICT設(shè)施自動(dòng)化和可視化，以及資源服務(wù)與行業(yè)業(yè)務(wù)需求的智能協(xié)同，通過全層次開放架構(gòu)推動(dòng)跨產(chǎn)業(yè)的生態(tài)協(xié)作，產(chǎn)品的快速孵化，為邊緣計(jì)算技術(shù)研發(fā)、應(yīng)用創(chuàng)新和產(chǎn)業(yè)發(fā)展提供方向指引。

　　把自己人搞得多多的，把敵人搞得少少的

　　邊緣計(jì)算同樣是一個(gè)巨大的生態(tài)系統(tǒng)，不可能有任何一家公司能夠完全覆蓋產(chǎn)業(yè)鏈里所有的上下游環(huán)節(jié)。本屆峰會上，ECC與工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟(AII)正式簽署戰(zhàn)略合作協(xié)議，宣布雙方未來將在研究報(bào)告/白皮書、試驗(yàn)平臺/測試床、技術(shù)標(biāo)準(zhǔn)、市場推廣等方面開展合作;與國際半導(dǎo)體照明聯(lián)盟(ISA)、車載信息服務(wù)產(chǎn)業(yè)應(yīng)用聯(lián)盟(TIAA)簽訂戰(zhàn)略合作協(xié)議，共同致力于推動(dòng)邊緣計(jì)算在智慧照明、智能車載領(lǐng)域的應(yīng)用創(chuàng)新、標(biāo)準(zhǔn)制定和商業(yè)落地。同時(shí)還宣布將與西安電子科技大學(xué)、中國自動(dòng)化學(xué)會邊緣計(jì)算專業(yè)委員會聯(lián)合舉辦“2018年邊緣計(jì)算技術(shù)研討會(SEC-China 2018)”，為相關(guān)領(lǐng)域?qū)W術(shù)界、產(chǎn)業(yè)界提供交流合作，成為發(fā)布領(lǐng)域相關(guān)前沿科研成果的平臺，大力推動(dòng)中國邊緣計(jì)算技術(shù)與產(chǎn)業(yè)的發(fā)展。

　　作為聯(lián)盟的重要一員，英特爾物聯(lián)網(wǎng)事業(yè)部首席戰(zhàn)略技術(shù)官兼首席高級工程師Brain McCarson對公司的定位是提供計(jì)算、通信、存儲所需要的芯片解決方案，以及圍繞芯片相關(guān)的底層軟件和中間件元素。

　　他特別提到了兩家合作伙伴：華為和沈陽自動(dòng)化研究所。其中，華為發(fā)布了基于英特爾處理器的邊緣網(wǎng)關(guān)產(chǎn)品AR550i，利用這個(gè)產(chǎn)品，華為在整個(gè)產(chǎn)業(yè)鏈就起到了ODM/OEM的角色，并將其帶給相應(yīng)的系統(tǒng)集成商和終端用戶;英特爾聯(lián)合沈陽自動(dòng)化研究所展示的邊緣計(jì)算測試床則是智能機(jī)器人，目的是驗(yàn)證基于深度學(xué)習(xí)的機(jī)器視覺方案在實(shí)際系統(tǒng)中的工作效果。該系統(tǒng)由英特爾實(shí)感技術(shù)實(shí)現(xiàn)3D視頻采集，基于英特爾邊緣計(jì)算參考平臺完成物體的檢測與識別，結(jié)果將控制機(jī)器人的手臂完成物體抓取的操作。

　　張宇認(rèn)為，無論是云計(jì)算還是邊緣計(jì)算都無法獨(dú)立存在，兩者之間是相輔相成的。英特爾的優(yōu)勢在于能夠完全覆蓋從云端計(jì)算到網(wǎng)絡(luò)通信基礎(chǔ)設(shè)施，再到終端的端到端系統(tǒng)。而從軟件生態(tài)上來說，目前而言，X86架構(gòu)處理器芯片的軟件兼容性優(yōu)勢依然非常明顯，絕大部分企業(yè)級應(yīng)用仍然運(yùn)行在X86架構(gòu)上。未來，隨著計(jì)算能力的進(jìn)一步釋放，英特爾將會在數(shù)據(jù)鏈路中扮演更重要的角色。

　　原文鏈接：http://www.eet-china.com/news/article/201712060626