恩智浦i.MX 95系列推動邊緣AI創(chuàng)新

在本系列博文的第一部分，我探討了恩智浦i.MX 95系列如何將新功能安全技術(shù)應(yīng)用于工業(yè)環(huán)境、汽車領(lǐng)域及其他邊緣應(yīng)用。在接下來的文章中，我將進一步闡述i.MX 95系列如何賦能邊緣計算，實現(xiàn)先進的AI功能。

近年來，AI創(chuàng)新呈指數(shù)級增長。其中，大量關(guān)注點集中在基于云的生成式AI應(yīng)用(如ChatGPT)。然而，這些應(yīng)用的運行成本高，并伴隨高能耗問題。相比之下，邊緣處理通過本地化存儲數(shù)據(jù)和隱私信息，提供了一種快速、高效且安全的信息管理解決方案。恩智浦在邊緣處理領(lǐng)域擁有深厚的積累，而全新i.MX 95系列更是將這一能力提升到了新的高度。

i.MX 95系列具備強大的處理能力，適用于邊緣處理的傳統(tǒng)機器學(xué)習和生成式AI應(yīng)用。該系列集成了恩智浦eIQ^? Neutron NPU以加速機器學(xué)習，同時結(jié)合Arm^? Mali GPU與恩智浦自主研發(fā)的圖像信號處理器，驅(qū)動沉浸式3D圖形。這一強大且可擴展的配置適用于從視頻會議系統(tǒng)到工廠大型設(shè)備，為各類應(yīng)用場景提供卓越的處理能力。

i.MX 95系列的結(jié)構(gòu)圖包括SoC的功能及頂層規(guī)格

i.MX在AI應(yīng)用中的優(yōu)勢

以下是適合使用i.MX 95 MPU的AI/ML應(yīng)用：

●   視覺檢查和異常檢測：AI賦能的工廠設(shè)備可比人工更快、更準確地檢查物品。

●   語音命令：智能設(shè)備能夠識別大量詞匯，解析多個揚聲器同時播放的音頻，并準確處理各種口音的語音。

●   人臉與發(fā)言者追蹤：企業(yè)視頻會議應(yīng)用可追蹤發(fā)言者，確保其始終處于畫面焦點內(nèi)，以提升參與體驗。

●   背景噪聲消除：智能設(shè)備可去除背景噪聲并執(zhí)行回聲消除，以提升語音命令解析和用戶體驗。

●   人員監(jiān)測：智能家居與智能辦公安全系統(tǒng)可追蹤人員、物品及寵物。車載人員監(jiān)測功能還能審核駕駛員行為，識別注意力分散等風險。

●   患者監(jiān)測：醫(yī)療設(shè)備可監(jiān)測患者生命體征，并在必要時提醒醫(yī)護人員。

●   家居與樓宇自動化：借助邊緣AI，實現(xiàn)空調(diào)、家電、安防等設(shè)備的無縫互聯(lián)與智能控制。

i.MX 95系列不僅具備卓越的處理性能，而且具有高能效，在同類產(chǎn)品中脫穎而出。eIQ? Neutron NPU是一款強大且高效的AI推理引擎，在邊緣處理場景中提供具有競爭力的TOPS/W性能。此外，我們的Energy Flex多域架構(gòu)提供獨立的處理域，適用于功能安全、低功耗和實時應(yīng)用。這能夠?qū)崿F(xiàn)精細化動態(tài)功率控制和低功耗運行模式。即使SoC的大部分模塊處于斷電狀態(tài)，處理器仍能保持穩(wěn)定運行。

i.MX 95系列支持多種邊緣AI應(yīng)用，包括視覺檢查和異常檢測

邊緣AI賦能機器視覺

i.MX 95 SOC集成神經(jīng)處理單元(NPU)、圖像信號處理器(ISP)和視頻處理單元(VPU)，這些組件協(xié)同工作，提供卓越的邊緣機器視覺能力。無論是家庭控制面板、入口視頻監(jiān)控，還是工廠自動化，恩智浦eIQ Neutron NPU均支持先進的視頻處理技術(shù)。用戶可在NPU上運行高級AI模型，實現(xiàn)場景分割、實時視頻增強和去噪，確保高質(zhì)量的視頻畫面。

i.MX 95系列還支持并行處理多路視頻流，無需向云端發(fā)送信息。其內(nèi)置ISP通過兩個MIPI-CSI 4通道接口和MIPI虛擬通道，可支持多達8個原始攝像頭傳感器。此外，ISP還支持可同時捕獲可見光和紅外光的RGB-IR攝像頭，從而在低光條件下提升圖像質(zhì)量，并優(yōu)化人臉識別能力。

簡化開發(fā)流程

為了幫助客戶簡化開發(fā)流程，我們的eIQ^? AI軟件開發(fā)環(huán)境支持多個主流平臺，包括：

●   TensorFlow和LiteRT(fka TensorFlow Lite)

●   Pytorch/Executorch

●   ONNX和ONNX RT

該平臺還支持多種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包括CNN、MLP、RNN、LSTM、TCN和LLM/SLM。

為了進一步簡化神經(jīng)網(wǎng)絡(luò)部署，我們的eIQ AI/ML開發(fā)軟件集成了NVIDIA TAO Toolkit API，讓開發(fā)人員能夠輕松訪問豐富的預(yù)訓(xùn)練和微調(diào)的AI模型，并將其部署在i.MX 95處理器上。

我們的eIQ AI軟件環(huán)境為開發(fā)人員提供所需工具，以推動邊緣AI創(chuàng)新

此外，恩智浦還幫助開發(fā)人員輕松定制生成性AI模型，并針對邊緣應(yīng)用對其進行優(yōu)化。我們將在eIQ開發(fā)軟件中引入GenAI Flow，幫助客戶安全地基于域特定知識和私有數(shù)據(jù)訓(xùn)練AI模型。例如，用戶可以使用用戶手冊訓(xùn)練LLM，讓聊天機器人能夠回答用戶關(guān)于特定產(chǎn)品的問題。

從i.MX 95處理器豐富的AI功能，到恩智浦全面的開發(fā)工具套件，i.MX 95系列為智能家居、智能辦公室、汽車、工業(yè)環(huán)境及醫(yī)院等領(lǐng)域提供卓越的邊緣機器視覺功能。

此外，敬請關(guān)注本系列博文的第三部分，我將重點介紹i.MX 95系列如何提供先進的連接與信息安全功能。

作者：

Davis Sawyer    恩智浦半導(dǎo)體安全連接邊緣資深產(chǎn)品市場經(jīng)理

Toby Foster目前擔任恩智浦安全連接邊緣業(yè)務(wù)部資深產(chǎn)品市場經(jīng)理，專注于網(wǎng)絡(luò)應(yīng)用和Layerscape系列處理器的管理。他還擔任網(wǎng)絡(luò)處理器系統(tǒng)架構(gòu)師和應(yīng)用工程經(jīng)理。Foster先生擁有美國哈維穆德學(xué)院電氣工程學(xué)學(xué)士和碩士學(xué)位。