網絡邊緣計算加速機器學習及推理

作者/Dirk Seidel 萊迪思高級市場營銷經理

隨著制造商采用工業4.0技術框架模型，基于機器學習的視覺系統對工業市場越來越有吸引力。在當今這個時代，制造商通過整合高級機器人、機器學習、機器視覺和工業物聯網（IIoT）來提高組織和生產績效。在“智能工廠”這個概念的推動下，工業4.0將引入信息物理系統（CPS）來監控智能工廠的物理進程并做出分散化的決策。這種模式將通過納入諸如大數據和分析、IT和物聯網融合、機器人技術的最新進展以及數字供應鏈的發展等概念，推動行業數字化轉型。最后，通過網絡進行人機交互，這些物理系統將成為工業物聯網（IIoT）的一部分。

網絡邊緣計算，即在網絡邊緣進行“機器學習推理”的能力（智能城市、智能工廠、智能汽車等），可最大限度地減少決策和分析的延遲，相比通過網絡將所有數據發送到數據中心進行分析，亦可減少網絡擁塞，增強用戶隱私（因為數據停留在本地設備上），并可在無網絡連接的情況下進行“推理”。盡管機器學習技術已存在幾十年，得益于計算能力的發展和成本降低，以及獲得可用于“訓練”的海量數據（如數字圖像、視頻、音頻等），近年來它才開始表現出比傳統算法更好的結果，使我們能夠構建更復雜，更深層次的卷積神經網絡（CNN）。

由于其并行處理架構，萊迪思FPGA非常適合網絡邊緣“推理”應用，能夠以最低1瓦的功耗實現最高的每秒運算（OPS）（與CPU和GPU相比）。使用FPGA提供的并行處理架構可顯著加速CNN處理。此外，由于我們還處于機器學習發展的早期階段，所以每天都有不斷改良的CNN架構正在研究和發布。因此，在全新的CNN架構和技術確定前，靈活和可編程的硬件架構（諸如FPGA所提供的架構）可助力實現輕松升級。

對于那些希望快速開發的設計人員來說，萊迪思為嵌入式視覺解決方案提供了一個易于使用的快速原型開發平臺。嵌入式視覺開發套件是一個包含三塊開發板的模塊化平臺，包括CrossLink VIP輸入橋接板、ECP5 VIP處理器板和HDMI VIP輸出橋接板。

·CrossLink VIP輸入橋接板具有2個MIPI CSI-2接口，可連接至2個Sony IMX HD攝像頭傳感器。

·ECP5 VIP處理器板配有ECP5 FPGA，專門優化用于支持預處理和后處理。處理器板還通過NanoVestor連接器和與HelionVision合作的高清圖像信號處理（ISP）IP支持外部圖像傳感器視頻輸入。

·基于Sil1136 IC，HDMI VIP輸出板可連接標準的HDMI顯示器。

三塊開發板組成的套件可為機器人、無人機、ADAS、智能監控和AV / VR系統等應用提供所需的設計靈活性和低功耗。