邊緣人工智能興起,物聯網未來可期
人工智能仿佛距離我們還很遙遠,但其實早已來到人們的日常生活當中。許多人在每天使用智能手機的語音文本轉換助手或者指紋識別等應用時,就會接觸到人工智能。在物聯網應用中,人工智能可以幫助識別物聯網邊緣設備的模式并檢測相關參數的變化。這些物聯網邊緣設備通常搭載傳感器,能夠感知溫度、壓力等環境因素的變化。
通常,簡單的嵌入式邊緣設備通過應用環境中的傳感器采集數據,并將數據傳輸到云端,由云基礎設施中的人工智能系統對數據進行分析和推理。但隨著物聯網實施過程中對實時決策的需求不斷增長,對連接和數據處理的需求也在增加,而且不可能總是將所有的數據都傳輸到云端進行人工智能處理。此文旨在探討在邊緣部署人工智能如何能夠提高物聯網的運作和實施效率并降低成本。
探索物聯網解決方案中的人工智能,解鎖無限潛能
人工智能技術包括機器學習、預測分析和神經網絡等多種技術。采集自邊緣設備的數據會被標記,然后由數據工程師準備好管道將其輸入數據模型。這些工程師擁有圍繞大數據創建軟件解決方案的專業技能。擅長數學、統計學以及C和C++等編程語言的數據科學家利用針對各種已知應用程序進行了微調的機器學習算法創建人工智能模型。這些模型最終以神經網絡、決策樹或推理規則集等不同的形式呈現。
機器學習分為監督學習和無監督學習兩種。無監督學習(只提供輸入變量,沒有相應的輸出變量)可以幫助開發者更透徹地解讀數據,而監督學習則是大多數實用機器學習的基礎。在監督機器學習的訓練階段,需要挖掘大量的數據流,以通過多重計算提取有用的模式或推論,從而做出預測。
在人工智能的應用階段,可以通過Tensorflow等標準框架,將自邊緣設備采集的數據輸入從可用數據模型中選出的模型。建模過程需要相當強大的數據處理能力,通常云站點和大型數據中心等核心節點位置才具備這樣的處理能力。
在部署階段,一切開始變得有趣。比如,邊緣設備可以從共享資源庫訪問與所選模型相關的軟件包,而不必過多依賴于云。在健康監測等領域,邊緣計算可以讓需要針對用戶進行無監督機器學習的可穿戴設備獲益頗多。此外,在未經事先學習的情況下,定制的應用程序若要實現迅速推理,通常需要極高的數據處理能力作為支撐,而這正是邊緣人工智能的專長所在。
在大多數情況下,由于受技術或能耗的限制,數據不可能全都傳輸到人工智能所在的云。例如語音或視頻識別等應用,需要立即對內容進行辨識并做出推論,而且不能出現通信延遲。在有些情況下,部署無法提供穩定的連接,因此需要一種可擴展的混合架構,將所需的模型構建在云上但推理任務在邊緣執行。這種方式只需將少量數據傳輸到核心節點位置,從而能夠優化帶寬效率并降低延時、提高響應速度。
如何部署邊緣人工智能
典型的邊緣人工智能模型的基本組成部分包括:用于捕捉傳感器數據的硬件和軟件,不同應用場景下的訓練模型所使用的軟件,以及在物聯網設備上運行人工智能模型的應用軟件。在邊緣設備上運行的微服務軟件負責根據用戶的要求啟動邊緣設備上的人工智能程序包。在邊緣設備內,用到的是在訓練階段確定的特征選擇和特征變換。這些模型可以定制為合適的功能組合,這些功能組合可以擴展為包含聚合和工程特性。
智能邊緣設備部署在帶寬窄且網絡連接斷斷續續的電池供電應用中。因而邊緣設備制造商正在構建這樣的傳感器,它們具有集成處理和存儲功能,采用BLE、Lora和NB-IoT等被廣泛使用的低速通信協議,占用空間小且功耗低。
讓物聯網富有智慧,邊緣人工智能優勢凸顯
雖然此類設計的復雜性可能會使邊緣設備變得昂貴,但它所帶來的裨益遠遠超出了相關成本。
除了實時快速響應之外,邊緣人工智能還具有諸多的顯著優勢,比如邊緣設備本身更高的安全性以及在網絡間往返傳輸的數據較少等。由于每個應用程序都構建了定制的解決方案,因而邊緣人工智能非常靈活。邊緣設備當中預置了推斷功能,因此對操作和維護技能的要求比較低。
在邊緣計算中,開發人員還可以將一些復雜的操作轉移到由本地網絡中的邊緣處理器(如路由器、網關和服務器)執行,從而將計算分布到整個網絡當中。由于數據在本地存儲以及智能也在本地引入,這些邊緣處理器具有良好的操作可靠性,這有助于在連接時斷時續或沒有網絡連接的區域進行部署。
一般而言,通過構建機器學習模型來解決挑戰是十分復雜的事情。開發者必須管理海量的模型訓練數據,選擇可以實施的最佳算法并管理訓練模型的云服務等。然后,應用程序開發者使用Python等編程語言將模型部署到生產環境當中。智能邊緣設備制造商將會發現,投入資源從零開始在邊緣實施人工智能異常艱難。
但是,安富利的SmartEdge Agile等設備為智能邊緣設備制造商們帶來了福音。SmartEdge Agile物聯網設備搭載了各種類型的傳感器,并且內置人工智能軟件棧。通過Brainium和微軟的Azure Sphere等相關開發平臺和軟件工作室,用戶能夠利用現成的人工智能算法數據庫實現監督和無監督機器學習,且無需編寫任何代碼就能將模型部署到設備。他們還可以創建多種小程序來實時查看傳感器給出的數值,并對這些數據進行保存以備將來使用。
的確,人工智能會讓本已十分復雜的物聯網空間變得更加復雜,而邊緣人工智能更是讓物聯網的復雜度翻倍。但是借助合適的平臺和合作伙伴的支持,開發者便可以駕馭這一復雜性,并實現遠遠超越語音識別和指紋識別的創新。
通常,簡單的嵌入式邊緣設備通過應用環境中的傳感器采集數據,并將數據傳輸到云端,由云基礎設施中的人工智能系統對數據進行分析和推理。但隨著物聯網實施過程中對實時決策的需求不斷增長,對連接和數據處理的需求也在增加,而且不可能總是將所有的數據都傳輸到云端進行人工智能處理。此文旨在探討在邊緣部署人工智能如何能夠提高物聯網的運作和實施效率并降低成本。
探索物聯網解決方案中的人工智能,解鎖無限潛能
人工智能技術包括機器學習、預測分析和神經網絡等多種技術。采集自邊緣設備的數據會被標記,然后由數據工程師準備好管道將其輸入數據模型。這些工程師擁有圍繞大數據創建軟件解決方案的專業技能。擅長數學、統計學以及C和C++等編程語言的數據科學家利用針對各種已知應用程序進行了微調的機器學習算法創建人工智能模型。這些模型最終以神經網絡、決策樹或推理規則集等不同的形式呈現。
機器學習分為監督學習和無監督學習兩種。無監督學習(只提供輸入變量,沒有相應的輸出變量)可以幫助開發者更透徹地解讀數據,而監督學習則是大多數實用機器學習的基礎。在監督機器學習的訓練階段,需要挖掘大量的數據流,以通過多重計算提取有用的模式或推論,從而做出預測。
在人工智能的應用階段,可以通過Tensorflow等標準框架,將自邊緣設備采集的數據輸入從可用數據模型中選出的模型。建模過程需要相當強大的數據處理能力,通常云站點和大型數據中心等核心節點位置才具備這樣的處理能力。
在部署階段,一切開始變得有趣。比如,邊緣設備可以從共享資源庫訪問與所選模型相關的軟件包,而不必過多依賴于云。在健康監測等領域,邊緣計算可以讓需要針對用戶進行無監督機器學習的可穿戴設備獲益頗多。此外,在未經事先學習的情況下,定制的應用程序若要實現迅速推理,通常需要極高的數據處理能力作為支撐,而這正是邊緣人工智能的專長所在。
在大多數情況下,由于受技術或能耗的限制,數據不可能全都傳輸到人工智能所在的云。例如語音或視頻識別等應用,需要立即對內容進行辨識并做出推論,而且不能出現通信延遲。在有些情況下,部署無法提供穩定的連接,因此需要一種可擴展的混合架構,將所需的模型構建在云上但推理任務在邊緣執行。這種方式只需將少量數據傳輸到核心節點位置,從而能夠優化帶寬效率并降低延時、提高響應速度。
如何部署邊緣人工智能
典型的邊緣人工智能模型的基本組成部分包括:用于捕捉傳感器數據的硬件和軟件,不同應用場景下的訓練模型所使用的軟件,以及在物聯網設備上運行人工智能模型的應用軟件。在邊緣設備上運行的微服務軟件負責根據用戶的要求啟動邊緣設備上的人工智能程序包。在邊緣設備內,用到的是在訓練階段確定的特征選擇和特征變換。這些模型可以定制為合適的功能組合,這些功能組合可以擴展為包含聚合和工程特性。
智能邊緣設備部署在帶寬窄且網絡連接斷斷續續的電池供電應用中。因而邊緣設備制造商正在構建這樣的傳感器,它們具有集成處理和存儲功能,采用BLE、Lora和NB-IoT等被廣泛使用的低速通信協議,占用空間小且功耗低。
讓物聯網富有智慧,邊緣人工智能優勢凸顯
雖然此類設計的復雜性可能會使邊緣設備變得昂貴,但它所帶來的裨益遠遠超出了相關成本。
除了實時快速響應之外,邊緣人工智能還具有諸多的顯著優勢,比如邊緣設備本身更高的安全性以及在網絡間往返傳輸的數據較少等。由于每個應用程序都構建了定制的解決方案,因而邊緣人工智能非常靈活。邊緣設備當中預置了推斷功能,因此對操作和維護技能的要求比較低。
在邊緣計算中,開發人員還可以將一些復雜的操作轉移到由本地網絡中的邊緣處理器(如路由器、網關和服務器)執行,從而將計算分布到整個網絡當中。由于數據在本地存儲以及智能也在本地引入,這些邊緣處理器具有良好的操作可靠性,這有助于在連接時斷時續或沒有網絡連接的區域進行部署。
一般而言,通過構建機器學習模型來解決挑戰是十分復雜的事情。開發者必須管理海量的模型訓練數據,選擇可以實施的最佳算法并管理訓練模型的云服務等。然后,應用程序開發者使用Python等編程語言將模型部署到生產環境當中。智能邊緣設備制造商將會發現,投入資源從零開始在邊緣實施人工智能異常艱難。
但是,安富利的SmartEdge Agile等設備為智能邊緣設備制造商們帶來了福音。SmartEdge Agile物聯網設備搭載了各種類型的傳感器,并且內置人工智能軟件棧。通過Brainium和微軟的Azure Sphere等相關開發平臺和軟件工作室,用戶能夠利用現成的人工智能算法數據庫實現監督和無監督機器學習,且無需編寫任何代碼就能將模型部署到設備。他們還可以創建多種小程序來實時查看傳感器給出的數值,并對這些數據進行保存以備將來使用。
的確,人工智能會讓本已十分復雜的物聯網空間變得更加復雜,而邊緣人工智能更是讓物聯網的復雜度翻倍。但是借助合適的平臺和合作伙伴的支持,開發者便可以駕馭這一復雜性,并實現遠遠超越語音識別和指紋識別的創新。