網絡邊緣人工智能——即在邊緣設備端部署AI模型進行本地化算法處理，而非依賴云端等集中式計算平臺——已成為人工智能領域發(fā)展最快的方向之一，受到業(yè)界高度關注。據測算，2024年網絡邊緣AI市場規(guī)模約為210億美元，預計到2034年將突破1430億美元。這一增長態(tài)勢表明各行業(yè)將持續(xù)加大基于AI的邊緣系統(tǒng)研發(fā)投入。

網絡邊緣AI的應用前景廣闊且充滿創(chuàng)新機遇，涵蓋自動駕駛汽車、智能家居設備、工業(yè)自動化機械等多個領域。但開發(fā)者在實踐中需要應對硬件限制、功耗優(yōu)化和處理復雜度等獨特挑戰(zhàn)。例如，設計人員必須確保嵌入式AI模型在保持緊湊體積的同時具備足夠算力，能夠直接在邊緣設備端解析實時情境信息。這要求系統(tǒng)在延遲控制、帶寬效率、運算精度和可持續(xù)性等性能指標上達到最優(yōu)平衡，同時還要保障數據隱私安全并降低網絡威脅風險。

網絡邊緣應用的演進正與情境智能的發(fā)展同步推進。情境智能旨在從數據所處的環(huán)境、關聯(lián)關系及交互場景中理解其含義，這就催生了情境邊緣AI。該技術通過在網絡邊緣設備端運行AI模型，使系統(tǒng)能夠處理環(huán)境數據、持續(xù)學習并優(yōu)化性能。例如，智能設備通過視覺、聽覺等多種感知模態(tài)理解周邊環(huán)境，這種對情境數據的高效處理能力，是實現(xiàn)網絡邊緣設備功能目標和提升用戶體驗的關鍵。隨著邊緣端處理的數據量激增，這些設備需要更高算力支撐。

現(xiàn)場可編程門陣列（FPGA）的靈活性、現(xiàn)場升級能力和互操作性，結合其低功耗、低延遲和并行處理能力，使其成為開發(fā)者克服挑戰(zhàn)并優(yōu)化情境邊緣AI應用的關鍵工具。

實現(xiàn)情境感知邊緣AI的挑戰(zhàn)

通過直接分析網絡邊緣設備上的情境數據，系統(tǒng)可以做出更智能的實時決策，推動用戶與設備之間建立更緊密的共生關系。例如，智能電腦顯示器可以利用視覺傳感器安全收集的用戶存在數據，在用戶轉向屏幕時打開，在用戶離開時關閉，從而優(yōu)化電源使用時長。智能蜂窩設備同樣可以利用面部或指紋識別技術，安全地檢查生物特征或用戶視覺數據，訪問用戶憑證，登錄安全應用程序。

雖然用戶已經開始期待借助情境邊緣AI實現(xiàn)這些無縫、個性化的體驗，但開發(fā)人員可能會面臨各種開發(fā)挑戰(zhàn)。這些挑戰(zhàn)包括：

1.復雜性

隨著企業(yè)嘗試進一步簡化人機界面，邊緣傳感器收集的情境數據也變得越來越復雜。這就要求AI模型和硬件既能處理更高的工作量，又能保持效率。網絡邊緣AI還需要靈活性，因為模型和硬件可能需要定期更新，以應對不斷變化的情境數據。邊緣人工智能還可能涉及TinyAI模型的使用，其壓縮算法更適合在網絡邊緣場景下實現(xiàn)高性能，包括可穿戴設備、環(huán)境監(jiān)測遠程傳感器、工業(yè)物聯(lián)網應用中的質量控制等。即便如此，TinyAI模型也需要足夠的電源和系統(tǒng)支持才能有效運行。

2.互操作性

為了獲得盡可能多的相關情境智能，邊緣網絡通常包括各種傳感器、處理器、網關和服務器。這些組件都需要有效地相互通信來支持實時結果。網絡邊緣設備必須能夠處理不斷增長的AI工作負載，同時還能與網絡中的其他設備（無論是現(xiàn)有組件還是第三方硬件和軟件）協(xié)同運行。如果沒有靈活的硬件，傳感器、邊緣設備和數據分析接收者之間的連接將變得不可靠。

3.功耗

先進的人工智能模型需要大量能源才能運行，研究人員預計，從2023年到2030年，人工智能相關的耗電量預計每年將增長高達50%。因此穩(wěn)定、節(jié)能地向模型輸送能源至關重要。如果在配置時不考慮效率，邊緣部署很可能會出現(xiàn)能源消耗過剩、成本上升，并導致網絡邊緣AI操作的執(zhí)行與結果之間出現(xiàn)較大延遲。

只有考慮到這些挑戰(zhàn)，并積極主動地加以克服，開發(fā)人員才能利用情境邊緣AI改善用戶體驗。

利用萊迪思FPGA輕松實現(xiàn)情境邊緣AI

克服復雜性、互操作性和功耗挑戰(zhàn)是一項多方面的工作，需要靈活應用硬件和軟件。針對AI優(yōu)化的低功耗萊迪思FPGA和面向工智能應用的解決方案集合Lattice sensAI?非常適合應對實施挑戰(zhàn)和實現(xiàn)情境感知邊緣AI應用。

萊迪思FPGA經配置可執(zhí)行特定的AI任務，使開發(fā)人員能夠根據不同的環(huán)境定制應用，并處理特定的邊緣數據。這有助于優(yōu)化邊緣AI應用，實現(xiàn)最高的效率和可靠性，同時保持FPGA的靈活性，支持不斷發(fā)展的AI模型。FPGA還配備了可定制的I/O接口，支持跨設備和環(huán)境（如攝像頭、雷達、環(huán)境傳感器）連接到各種邊緣人工智能應用，并實現(xiàn)更簡化的互操作性。

萊迪思sensAI解決方案集合還進一步支持和加強了這種定制化。萊迪思sensAI能夠采用在行業(yè)標準AI框架（如TensorFlow、Caffe和Keras）中訓練的模型，通過模型量化、修剪和稀疏性利用等技術，使其能夠在FPGA資源上運行。然后，萊迪思的神經網絡編譯器可以分析模型，并根據電路和片上網絡的類型提出最高效的運行建議。此外，萊迪思Propel和萊迪思Radiant設計軟件可用于創(chuàng)建合適的電路組合，以盡可能高能效的方式加速這些模型的運行。

萊迪思FPGA還極大降低了傳感器數據采集和處理之間的延遲，為用戶帶來更快的響應和更高的性能。在傳輸到AI模型或中央計算引擎之前，數據可以在FPGA上完成預處理和聚合任務，這有助于減少網絡邊緣設備的壓力，進而降低功耗。

各行各業(yè)都可以利用萊迪思FPGA克服資源限制、功耗、連接性和可擴展性方面的挑戰(zhàn)。這些可編程器件實現(xiàn)的實時數據處理和預測，對于工業(yè)設備、醫(yī)療設備、汽車和機器人領域的應用至關重要。FPGA的適應性可以量身定制人工智能解決方案，滿足各種環(huán)境的特定需求，確保最佳性能和可靠性。