邊緣計算(suàn)是數字世界中最令人(rén)興奮的(de)新概念之一。利用(yòng)占用(yòng)空間很少的(de)微型數據中心網絡，邊緣計算(suàn)使系統能夠實時(shí)收集并分(fēn)析重要數據，而不會增加現有基礎設施的(de)負擔。
在物(wù)聯網系統中，通(tōng)常以端到端的(de)方式，在特定的(de)高(gāo)度傳感器密集型環境中獲得(de)大(dà)量數據，且數據是在邊緣生成并處理(lǐ)的(de)，以降低延遲并減輕數據中心的(de)負載。此前，邊緣計算(suàn)的(de)重點是連接在物(wù)聯網上的(de)設備的(de)技術，比如工業機器人(rén)。
不過，随著(zhe)技術的(de)不斷發展，大(dà)數據、IoT 和(hé)AI的(de)組合帶來(lái)了(le)無限潛力，對(duì)于邊緣計算(suàn)的(de)需求已經從解決由IoT生成的(de)數據增長(cháng)而導緻的(de)數據長(cháng)距離傳輸的(de)帶寬成本問題，進化(huà)至處理(lǐ)實時(shí)應用(yòng)程序。在這(zhè)類組合中，邊緣計算(suàn)需要滿足低延遲、加速實時(shí)創建和(hé)支持應用(yòng)。
邊緣計算(suàn)有很多(duō)術語，包括“邊緣雲計算(suàn)”和(hé)“霧計算(suàn)”。“邊緣計算(suàn)”本身通(tōng)常被描述爲在本地服務器上運行的(de)應用(yòng)，旨在讓雲進程更靠近終端設備。“企業計算(suàn)”與邊緣計算(suàn)類似，但更傾向于準确地描述網絡功能，卻非描述計算(suàn)的(de)位置。“霧計算(suàn)”概念是由Cisco創造的(de)，許多(duō)人(rén)将其定義爲位于邊緣計算(suàn)空間上下(xià)的(de)計算(suàn)，甚至作爲邊緣計算(suàn)的(de)一個(gè)子集。作爲參考，端點設備和(hé)端點通(tōng)常被稱爲“邊緣設備”，以免與邊緣計算(suàn)相混淆。邊緣計算(suàn)可(kě)以采用(yòng)多(duō)種形式，包括小型聚合器、本地服務器或微型數據中心。微型數據中心可(kě)以按區(qū)域分(fēn)布在永久性或可(kě)移動的(de)存儲容器中。 一般來(lái)說，傳感器、攝像頭、麥克風以及一系列不同的(de)物(wù)聯網和(hé)移動設備從其所在位置收集數據，再發送到集中式數據中心或雲中。數據顯示，到2020年，全世界會有超過500億台智能設備實現連接。這(zhè)些設備每年将産生以澤字節(ZB)計算(suàn)的(de)數據，到2025年将增長(cháng)到150 ZB以上。這(zhè)些數據發送到雲會帶來(lái)一些重大(dà)問題。首先，150ZB的(de)數據會造成容量問題。其次，将大(dà)量數據從其原始位置傳輸到集中式數據中心代價高(gāo)昂。據估計，目前隻有12%的(de)數據得(de)到了(le)分(fēn)析處理(lǐ)，而隻有3%的(de)數據有助于産生有意義的(de)結果，剩餘97%的(de)數據在收集和(hé)傳輸之後，就被浪費了(le)。第三，存儲、傳輸和(hé)分(fēn)析數據能耗巨大(dà)。因此，我們需要找到一種有效的(de)方法來(lái)降低成本并減少浪費。引入邊緣計算(suàn)，在本地存儲數據，可(kě)以降低傳輸成本。同時(shí)，利用(yòng)AI功能也(yě)能夠消除數據浪費。例如，現在正在使用(yòng)中的(de)新型低功耗邊緣計算(suàn)服務器CPU，它們以GPU和(hé)ASIC或一系列芯片的(de)形式連接到AI加速 SoC。除了(le)解決容量、能源和(hé)成本問題外，邊緣計算(suàn)還(hái)可(kě)以提高(gāo)網絡可(kě)靠性，因爲應用(yòng)可(kě)以在發生普遍的(de)網絡中斷期間繼續運行，通(tōng)過清除某些威脅配置文件（例如全局數據中心拒絕服務 (DoS) 攻擊），可(kě)以提高(gāo)安全性。最重要的(de)是，邊緣計算(suàn)能夠爲實時(shí)場(chǎng)景（例如虛拟現實商場(chǎng)、移動設備視頻(pín)緩存）縮減延遲，同時(shí)在自動駕駛汽車、遊戲平台或快(kuài)節奏制造等環境中創造許多(duō)新的(de)應用(yòng)機會。5G基礎架構是邊緣計算(suàn)最具說服力的(de)驅動力之一。5G電信提供商發現，除了(le)傳統的(de)數據和(hé)語音(yīn)連接之外，他(tā)們還(hái)可(kě)以構建生态系統以托管獨特的(de)本地應用(yòng)。通(tōng)過将服務器置于基站旁邊，蜂窩流量提供商可(kě)以向第三方主機應用(yòng)開放其網絡，從而改善帶寬和(hé)延遲。Credence Research認爲，到2026年，整個(gè)邊緣計算(suàn)市場(chǎng)的(de)價值将爲96億美(měi)元左右。相比之下(xià)，Research and Markets分(fēn)析認爲，移動邊緣計算(suàn)市場(chǎng)将從今天的(de)幾億美(měi)元增長(cháng)到2026年的(de)超過27.7億美(měi)元。盡管電信行業可(kě)能是發展最快(kuài)的(de)增長(cháng)動力，但是據估計，它們僅會占據邊緣計算(suàn)市場(chǎng)總量的(de)三分(fēn)之一。這(zhè)是因爲web scale、工業和(hé)企業集團也(yě)将爲其傳統市場(chǎng)提供邊緣計算(suàn)硬件、軟件和(hé)服務，期望邊緣計算(suàn)也(yě)将開創新的(de)應用(yòng)機遇。比如目前大(dà)衆快(kuài)餐店(diàn)的(de)廚房(fáng)正朝著(zhe)更加自動化(huà)的(de)方向發展，以确保食品質量，減少員(yuán)工培訓，提高(gāo)運營效率并确保客戶體驗達到預期。Chick-fil-A 是一家連鎖快(kuài)餐企業，2018 年 他(tā)們宣稱：“通(tōng)過提高(gāo)廚房(fáng)設備智能化(huà)，我們能夠收集更多(duō)數據。通(tōng)過這(zhè)些數據，我們可(kě)以構建更多(duō)智能系統，進而拓展業務。”他(tā)們還(hái)指出，在邊緣計算(suàn)的(de)幫助下(xià)，許多(duō)餐廳現在可(kě)以處理(lǐ)的(de)業務量提高(gāo)到之前的(de)三倍。總體而言，成功的(de)邊緣計算(suàn)基礎架構需要結合本地服務器計算(suàn)功能、AI 計算(suàn)功能以及與移動/汽車/IoT 計算(suàn)系統的(de)連接（圖 1）。圖 1：邊緣計算(suàn)通(tōng)過使用(yòng)微數據中心來(lái)分(fēn)析和(hé)處理(lǐ)數據，從而使雲計算(suàn)過程更靠近終端設備用(yòng)實例了(le)解邊緣計算(suàn)
爲了(le)解使用(yòng)邊緣計算(suàn)帶來(lái)的(de)延遲改善優勢，羅格斯大(dà)學和(hé) Inria 使用(yòng) Microsoft HoloLens分(fēn)析了(le)邊緣計算(suàn)（或稱“邊緣雲”）的(de)可(kě)擴展性和(hé)性能。在案例中，HoloLens 讀取條形碼掃描儀，然後使用(yòng)建築物(wù)中的(de)場(chǎng)景分(fēn)割功能将用(yòng)戶導航到指定房(fáng)間，并在 Hololens 上顯示箭頭。該過程同時(shí)使用(yòng)了(le)映射坐(zuò)标的(de)小數據包和(hé)連續視頻(pín)的(de)較大(dà)數據包，以驗證邊緣計算(suàn)與傳統雲計算(suàn)相比延遲的(de)改善。HoloLens 先讀取二維碼，然後将映射坐(zuò)标數據發送到邊緣服務器，該服務器使用(yòng)了(le) 4 個(gè)字節加上标頭，花費了(le) 1.2 毫秒 (ms)，服務器找到坐(zuò)标，并通(tōng)知用(yòng)戶該位置，總共耗時(shí) 16.22 ms。如果将同樣的(de)數據包發送到雲，則大(dà)約需要80ms（圖 2）。圖 2：比較邊緣設備到雲服務器與邊緣設備到邊緣雲服務器的(de)延遲同樣，他(tā)們還(hái)測試了(le)在使用(yòng) OpenCV 進行場(chǎng)景分(fēn)割以将 Hololens 的(de)用(yòng)戶導航到适當位置時(shí)的(de)延遲。HoloLens 以 30 fps 的(de)速度流傳輸視頻(pín)，并在邊緣計算(suàn)服務器中以 3.33 GHz 的(de)頻(pín)率在配備 15GB RAM 的(de) Intel i7 CPU 上處理(lǐ)圖像。将數據流傳輸到邊緣計算(suàn)服務器需要 4.9 ms，處理(lǐ) OpenCV 圖像額外花費了(le) 37 ms，總計 47.7 ms。雲服務器上的(de)相同過程花費了(le)将近 115 ms，清楚顯示了(le)邊緣計算(suàn)降低延遲的(de)明(míng)顯優勢。該案例研究顯示了(le)邊緣計算(suàn)在降低延遲方面的(de)顯著優勢，但是未來(lái)還(hái)會有更多(duō)新技術可(kě)以更好地實現低延遲。5G 概述了(le)當今延遲少于 1ms 的(de)案例（圖 3），而 6G 已經在討(tǎo)論将其降低到 10 微秒 (µs) 的(de)問題。5G 和(hé) Wi-Fi 6 會增加連接帶寬，其中5G 預計将帶寬提高(gāo)到 10Gbps，而 Wi-Fi 6 已經支持 2Gbps 帶寬。AI 加速器聲稱場(chǎng)景分(fēn)割的(de)時(shí)間少于 20µs，這(zhè)與上述示例技術論文中引用(yòng)的(de) Intel i7 CPU 在大(dà)約 20ms 内處理(lǐ)每個(gè)幀的(de)速度相比，又有了(le)顯著進步。圖 3：與圖 2 中 10s 和(hé) 100s 的(de) Msps 相比，從 Hololens 到路由器以及從路由器到邊緣服務器的(de)帶寬改善高(gāo)達 10Gbps，另有 AI 處理(lǐ)的(de)改進（從 20ms 改善到 20us），往返延遲 < 1ms。顯然，如果邊緣計算(suàn)表現的(de)比雲計算(suàn)更具優勢，那麽将計算(suàn)全都轉移到邊緣設備中不是最好的(de)解決方案嗎？很不幸，目前并不是所有的(de)應用(yòng)程序都是如此（圖 4）。在 HoloLens 案例研究中，如果數據使用(yòng)的(de) SQL 數據庫太大(dà)，則無法存儲在耳機中。今天的(de)邊緣設備，特别是發生物(wù)理(lǐ)磨損的(de)設備，沒有足夠的(de)計算(suàn)能力來(lái)處理(lǐ)大(dà)型數據集。除了(le)計算(suàn)能力之外，雲或邊緣服務器上的(de)軟件比邊緣設備上的(de)軟件開發成本更低，因爲雲/邊緣軟件不需要壓縮到更小的(de)内存資源和(hé)計算(suàn)資源中。圖 4：比較雲計算(suàn)和(hé)邊緣計算(suàn)與端點設備。由于某些應用(yòng)程序可(kě)以根據基礎架構不同位置的(de)計算(suàn)能力、存儲能力、存儲器可(kě)用(yòng)性和(hé)延遲能力來(lái)合理(lǐ)地運行，因此無論是在雲中、在邊緣服務器還(hái)是在邊緣設備中，未來(lái)的(de)趨勢是混合計算(suàn)能力（圖 5），邊緣計算(suàn)是建立全球混合計算(suàn)基礎架構的(de)第一步。圖 5：安裝在 Hololens、邊緣服務器和(hé)雲中的(de) AI，使混合計算(suàn)架構能夠根據應用(yòng)需求優化(huà)計算(suàn)、存儲器和(hé)存儲資源。許多(duō)使用(yòng)邊緣計算(suàn)的(de)新服務都有低延遲需求，因此許多(duō)新系統都采用(yòng)了(le)最新的(de)行業接口标準，包括PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于PCIe的(de)NVMe以及其他(tā)基于新一代标準的(de)技術。與上一代産品相比，這(zhè)些技術都通(tōng)過改進帶寬來(lái)降低延遲。這(zhè)些邊緣計算(suàn)系統還(hái)增加了(le)AI加速功能。例如，某些服務器芯片通(tōng)過x86擴展AVX-512向量神經網絡指令 (AVX512 VNNI)等新指令提供AI加速。除此之外，大(dà)多(duō)數新系統中還(hái)添加了(le)自定義AI加速器。這(zhè)些芯片所需的(de)連接性通(tōng)常采用(yòng)帶寬最高(gāo)的(de)主機來(lái)實現加速器連接。例如，在具有多(duō)個(gè)AI加速器的(de)某種交換配置中，由于帶寬要求影(yǐng)響了(le)延遲，因此很多(duō)系統中采用(yòng)了(le)PCIe 5.0接口。除了(le)本地網關和(hé)聚合服務器系統之外，單個(gè)AI加速器通(tōng)常無法提供足夠的(de)性能，所以需要借助帶寬非常高(gāo)的(de)芯片到芯片SerDes PHY來(lái)擴展這(zhè)些加速器。最新發布的(de)PHY支持56G和(hé)112G連接。圖 7：常見服務器SoC位于邊緣，根據任務數量、功率、延遲和(hé)其他(tā)需求，具有不同的(de)處理(lǐ)器數量、以太網吞吐量和(hé)存儲能力。AI算(suàn)法正在突破内存帶寬要求的(de)極限。例如，最新的(de)BERT和(hé)GPT-2型号分(fēn)别需要345M和(hé)1.5B參數，爲了(le)滿足這(zhè)些需求，不僅需要高(gāo)容量的(de)内存能力，還(hái)需把許多(duō)複雜(zá)的(de)應用(yòng)放在邊緣雲中執行。爲了(le)實現這(zhè)種能力，設計人(rén)員(yuán)正在新的(de)芯片組中采用(yòng)DDR5。除了(le)容量挑戰之外，還(hái)需要存取AI算(suàn)法的(de)系數，以進行非線性序列中并行執行的(de)大(dà)量多(duō)次累加計算(suàn)。因此，HBM2e也(yě)成爲一種被迅速采用(yòng)的(de)新技術，有些芯片實現了(le)單芯片中的(de)數次HBM2e實例化(huà)。圖 8：通(tōng)用(yòng)AI SoC具有高(gāo)速、高(gāo)帶寬、内存、主機到加速器，以及高(gāo)速芯片到芯片接口，用(yòng)于擴展多(duō)個(gè)AI加速器。未來(lái)，邊緣計算(suàn)的(de)需求将集中在降低延遲和(hé)功率，确保有足夠的(de)處理(lǐ)能力來(lái)處理(lǐ)特定任務上。新一代服務器SoC解決方案不僅将具有更低的(de)延遲和(hé)更低的(de)功耗，而且還(hái)将納入AI功能，也(yě)就是AI加速器。但是很明(míng)顯，AI和(hé)邊緣計算(suàn)的(de)需求也(yě)在迅速變化(huà)，我們今天看到的(de)許多(duō)解決方案在過去兩年中已多(duō)次取得(de)了(le)進步，并将繼續加以改進。圖 9：新一代服務器SoC再加上AI加速器，将加快(kuài)邊緣計算(suàn)速度Futuriom曾在《5G，物(wù)聯網和(hé)邊緣計算(suàn)趨勢》中寫道，5G将成爲邊緣計算(suàn)技術的(de)催化(huà)劑，使用(yòng)5G技術的(de)應用(yòng)将改變流量需求模式，爲移動蜂窩網絡的(de)邊緣計算(suàn)提供最大(dà)的(de)推動力。
總的(de)來(lái)說，邊緣計算(suàn)是實現數據快(kuài)速連接的(de)一項重要技術，它将雲服務更靠近邊緣設備，降低延遲，爲消費者提供新的(de)應用(yòng)和(hé)服務；還(hái)将衍生出更多(duō)的(de)AI功能，将其擴展到雲以外。此外，它還(hái)将成爲支持未來(lái)混合計算(suàn)的(de)基礎技術。
