資訊時代人們專注於雲端帶來的方便，或是利用 AI 創造變革。但享受科技的同時，我們往往忽略雲端設備所帶來的間接影響──巨量的能源消耗，以及產生的溫室氣體。

Google、Meta、蘋果和亞馬遜等大型科技公司使用的「超大規模」資料中心，每年平均消耗 20 至 100 兆瓦的電力，這些電力足以為多達 37,000 個家庭供電。隨著資料中心能源需求的成長，預計到 2030 年，資料中心佔全球總電力消耗將從 3% 躍升至 4%，企業必須尋找替代方案。

為了環境永續，「邊緣 AI」概念正在興起

為了環境的永續發展，一些公司開始推廣「邊緣 AI」的概念。所謂「邊緣 AI」的建置，不是在某個大型資料中心部屬小規模的電腦，而是將部分能源需求從雲端轉移出來，在現場、工廠或零售店建置本地運算的設備。

大多數邊緣設備的功耗遠低於資料中心或集中式運算設備，本地化處理方法也代表資料在更靠近生成或需要的地方進行處理，進而減少延遲並節省能源。

有哪些企業正在布局邊緣 AI？

SiMa.ai 是一間專門提供邊緣 AI 服務的新創公司，生產自己的拖放式無代碼 AI 應用軟體和 AI 邊緣設備晶片。在 2023 年 9 月推出了 Palette Edgematic 的服務。Palette Edgematic 提供無程式碼的視覺化程式設計工具，並且在由台積電製造的 MLSoC 晶片上運行程式。Palette 核心軟體可以自動產生程式碼，並將其部署到可遠端存取的邊緣 ML 用戶端裝置，讓 ML 邊緣開發變得非常簡單。

聯想（Lenovo）除了製造筆電和 PC 之外，在 2023 年 9 月推出全新 TruScale for Edge 和 AI 服務。全新的旗艦邊緣優化伺服器 ThinkEdge SE455 V3 非常適合大型且要求較高的 Edge-AI 和電信工作負載，具有一流的性能和內建可持續性的新功能。根據聯想的估算，未來有 75% 的運算將會走向邊緣。

邊緣 AI 還有分「厚邊緣」和「薄邊緣」

Splunk 是一家企業數據軟體公司，最近被思科（CISCO）以驚人的 280 億美元收購。Splunk 以「厚邊緣（thick edge）」和「薄邊緣（thin edge）」來幫客戶評估需求。

所謂「厚邊緣」是指上述提到聯想的那種伺服器設備，在現場或靠近數據收集的地方處理數據的解決方案。而「薄邊緣」是指安裝較小、功率較低的感測器和運算硬體來收集資料，而在雲端進行大部分的運算處理。Splunk 在 2023 年 7 月推出的 Edge Hub 就是專門為「薄邊緣」而設計。

邊緣 AI 具有吸引力的關鍵，在於其能夠緩解數位轉型浪潮所帶來的能源挑戰，企業可以充分利用人工智慧，同時保持輕碳足跡。這種 AI 部屬甚至可以使用本地收集的數據進行分析，進一步優化功耗。邊緣 AI 的發展不僅僅是技術轉變，這是朝著更永續和節能的運算領域邁出的重要一步。

本圖/文由「Techorange科技報橘」授權刊登，非經同意不得任意轉載。
原文出處：未來 75% 運算將走向邊緣！邊緣 AI 應聲崛起，原來還有分厚薄？