ADDY8315

資訊時代人們專注於雲端帶來的方便,或是利用 AI 創造變革。但享受科技的同時,我們往往忽略雲端設備所帶來的間接影響──巨量的能源消耗,以及產生的溫室氣體

Google、Meta、蘋果和亞馬遜等大型科技公司使用的「超大規模」資料中心,每年平均消耗 20 至 100 兆瓦的電力,這些電力足以為多達 37,000 個家庭供電。隨著資料中心能源需求的成長,預計到 2030 年,資料中心佔全球總電力消耗將從 3% 躍升至 4%,企業必須尋找替代方案

為了環境永續,「邊緣 AI」概念正在興起

為了環境的永續發展,一些公司開始推廣「邊緣 AI」的概念。所謂「邊緣 AI」的建置,不是在某個大型資料中心部屬小規模的電腦,而是將部分能源需求從雲端轉移出來,在現場、工廠或零售店建置本地運算的設備。

大多數邊緣設備的功耗遠低於資料中心或集中式運算設備,本地化處理方法也代表資料在更靠近生成或需要的地方進行處理,進而減少延遲並節省能源

有哪些企業正在布局邊緣 AI?

SiMa.ai 是一間專門提供邊緣 AI 服務的新創公司,生產自己的拖放式無代碼 AI 應用軟體和 AI 邊緣設備晶片。在 2023 年 9 月推出了 Palette Edgematic 的服務。Palette Edgematic 提供無程式碼的視覺化程式設計工具,並且在由台積電製造的 MLSoC 晶片上運行程式。Palette 核心軟體可以自動產生程式碼,並將其部署到可遠端存取的邊緣 ML 用戶端裝置,讓 ML 邊緣開發變得非常簡單。

聯想(Lenovo)除了製造筆電和 PC 之外,在 2023 年 9 月推出全新 TruScale for Edge 和 AI 服務。全新的旗艦邊緣優化伺服器 ThinkEdge SE455 V3 非常適合大型且要求較高的 Edge-AI 和電信工作負載,具有一流的性能和內建可持續性的新功能。根據聯想的估算,未來有 75% 的運算將會走向邊緣。

邊緣 AI 還有分「厚邊緣」和「薄邊緣」

Splunk 是一家企業數據軟體公司,最近被思科(CISCO)以驚人的 280 億美元收購。Splunk 以「厚邊緣(thick edge)」和「薄邊緣(thin edge)」來幫客戶評估需求。

所謂「厚邊緣」是指上述提到聯想的那種伺服器設備,在現場或靠近數據收集的地方處理數據的解決方案。而「薄邊緣」是指安裝較小、功率較低的感測器和運算硬體來收集資料,而在雲端進行大部分的運算處理。Splunk 在 2023 年 7 月推出的 Edge Hub 就是專門為「薄邊緣」而設計。

邊緣 AI 具有吸引力的關鍵,在於其能夠緩解數位轉型浪潮所帶來的能源挑戰,企業可以充分利用人工智慧,同時保持輕碳足跡。這種 AI 部屬甚至可以使用本地收集的數據進行分析,進一步優化功耗。邊緣 AI 的發展不僅僅是技術轉變,這是朝著更永續和節能的運算領域邁出的重要一步。

本圖/文由「Techorange科技報橘」授權刊登,非經同意不得任意轉載。
原文出處:未來 75% 運算將走向邊緣!邊緣 AI 應聲崛起,原來還有分厚薄?