邊緣AI在智能攝像頭的機會

作者/Imagination副總裁Russell James

很多人認為是英偉達做的數據訓練非常成功。但隨著行業逐步加深，應用逐步增多，發現僅僅在服務器端還不夠的，端側可以做極大延伸。例如，安防從嵌入式視覺系統到視覺導向的自主系統，即過去紅外攝像頭，保安和監控人員要看一二十個小時，現在把人眼看的部分，通過算法和數據集中到服務器端，下一步希望減少服務器的負擔，在端側——攝像頭去做識別。這樣做的好處，首先是可以減少網絡帶寬，因為網絡存儲等成本非常高；其次是性能，端處理回傳會延時；第三是隱私性。

在智能攝像頭監控方面，可用于大規模的實時分析，例如用人臉識別來進行目標跟蹤，發現大型場館入口處的人的可疑行為等，另外還可對車隊和物體進行監控識別，以發現可疑的路徑和物體。

市面上有很多各種方案：1.CPU盡管什么都可以做，但處理神經網絡效率低，2.DSP最大的問題是有非常少的人員可以基于DSP去做編程，沒有標準化和可覆蓋。3.固定功能的硬化，一旦硬化后只能做一件事，遠遠不夠產業化。4.GPU，英偉達證明了非常適合處理AI（人工智能），GPU有標準化的編程方式，但功耗較大。那么，是否有功耗非常低又非常靈活的方案？為此，Imagination推出了第5種方案：“GPU+NNA（神經網絡加速器）”方案，特點是提供靈活的IP內核來達到高性能，特點是功耗低、帶寬較低的場景。

近日，Imagination推出了兩款PowerVR2NX神經網絡加速器（NNA）內核，適合智能監控等、移動、工業等場景。名為AX2185和AX2145的內核，設計目的是在極小芯片面積上以極低功耗實現神經網絡高性能計算。它們是基于Imagination革命性的神經網絡加速器（NNA）架構PowerVRSeries2NX設計的，該架構可以使“智能”從云端轉移至邊緣設備，從而實現更高的效率和實時響應。

PowerVR Series2NX架構是完全重新設計的，旨在為移動和嵌入式平臺中的高效神經網絡推理提供硬件加速。其靈活的位寬可基于每一層去支持權重和數據，這意味著PowerVR Series2NX可以保持高推理精度，同時降低帶寬/功耗要求。它是唯一支持16位到4位位寬的解決方案，可在較低的帶寬和功耗下實現更高的性能。

嵌入式視覺聯盟（Embedded Vision Alliance）創始人Jeff Bier評價道：“視覺智能為各種應用帶來了令人矚目的功能，但是其計算需求是具有挑戰性的。Imagination的兩款新型PowerVR Series2NX神經網絡加速器內核針對性能和內存帶寬進行了優化，為芯片設計人員提供了受其歡迎的選擇，可以支持他們在嵌入式設備和移動設備上部署高要求的、基于深度學習的計算機視覺算法?！?/p>