2017年有業界先進發聲可以說是人工智慧發展的元年，確實在各大產業中的領頭羊都在大力佈局AI技術希望能有擴增的具體應用。然而2018年更是AI的應用需求更是明確，原先由雲端運算的產品有轉向終端運算處理的趨勢，2018年可以說是人工智慧的邊緣運算年。
AI 與高度運算是密不可分的，連網設備現在解決網路頻寬有限、通訊延遲、缺乏網路覆蓋、資料隱私與機密…等需求，對終端AI運算能力的需求多過於雲端運算。除了演算法和大數據之外，作為AI三大要素之一的「運算能力」也變得非常重要。
AI 是一個演進的過程，過去人工智慧都要送上雲端來運算，遇到了頻寬、延遲和資訊安全等問題，人工智慧發展初期由雲端運算主導，但在上述的條件等限制因素下，運算任務需要轉移至終端裝置或就近的網路設備上，邊緣運算因而興起。2017年廠商紛紛發表關於邊緣運算的產品與概念，就整體而言，對於邊緣運算皆有一個共通目標：萬物聯網 (IoE) 時代隨之產生大數據 (Big Data)，僅仰賴中央伺服器集中處理，勢必面對不斷增長的網路傳輸負荷，再者，數據交由「遠在天邊」雲端伺服器集中決策，可能延遲關鍵時刻的反應時間， 所以產生了「邊緣運算」(edge computing) ，這概念被導入物聯網 (IoT) 傳輸架構，由就近的邊緣智能服務器進行初步分析工作，減少雲端運算資源運用，提升物聯網傳輸效率。 或是從資料分工角度來說，邊緣運算概念將具有時間敏感性 (就近與即時) 的資料，直接在終端設備輕度分析，以加速終端反應時間；原本大家所熟悉的雲端運算，主要針對需要歷時分析資料，以及長時間的儲存之數據進行儲存分析，「雲端」與「邊緣」依據資料特性分工運行，可提升整體運算效率，同時也可縮減通訊流量。
在工廠，以工業4.0為基礎之物聯網傳輸架構中，改採邊緣運算架構以生產設備狀態監控及預防維護為例，縮短機器學習預判時間，邊緣智能服務器針對設備數據採樣分析，以及零件時數統計，當設備出現異常狀態，或達到耐用時數設定，直接通知雲端管理平台進行預防性修復，減少突發狀況造成不法生產的龐大損失。「即時性」、「分散性」的運算需求已成顯學且被重視，透過邊緣端智慧設備，針對初步資料進行過濾、彙整以及運算，僅傳輸「關鍵」且「必須」的資料上雲端，不僅可提升傳輸效率，也可減少雲端傳遞過程產生的延遲性問題。現在改將機器學習模型就近放置在工廠設備前端來執行，只須0.1秒就能反應，兩者反應時間相差多達20倍。能有快20倍的反應速度，靠得就是把機器學習放到最靠近資料源的設備前端來分析，讓異常事件預警可以更接近即時，因為省下了資料兩地往返的等待時間，所以能更快處理，可以更即時現場判斷，甚至，因為在設備前端就可以執行機器學習模型，所以一旦網路斷線也無需擔心。
