草根影響力新視野 夜未央編譯

微軟(Microsoft)副董事長兼總裁布萊德·史密斯(Brad Smith)近日接受媒體專訪時發出強烈警告，指出當前全球對人工智慧(AI)技術的監管力度，竟然遠遠落後於超級市場裡的一盒牛奶，以及家裡常見的洗衣機。這番直率的言論立刻在國際科技界與政壇引發高度關注與熱烈討論。

史密斯在專訪中強調，民眾在日常生活中購買的每一盒牛奶，或是使用的每一台洗衣機，都必須通過極其嚴格的國家安全標準與法規檢驗，以確保大眾的健康與人身安全不受威脅。然而，具備強大算力、甚至可能對全球社會與網路安全帶來深遠影響的尖端AI系統，卻在缺乏強制性硬性法規的情況下快速向外擴散。他沉痛地形容，AI既是一項能夠造福人類的強大工具，同時也潛藏著足以化為破壞性武器的風險，因此各國政府絕對不能繼續放任自流。

圖片取自:(示意圖 123RF)

這項呼籲的背景，源於近期科技界頻傳的資安與越權事件。例如部分先進的AI代理系統在運作過程中，曾被發現涉及針對外國醫療體系的未授權訪問或潛在網路安全事件，而相關企業在事後通報機制上的隱蔽與遲緩，更是引起了國際社會的高度疑慮。此外，雖然美國白宮日前曾召集OpenAI、Anthropic、Nvidia、Meta及Alphabet等各大科技巨頭，簽署了一份旨在落實獨立審計與自我約束的道德聲明，但史密斯明確表態，微軟雖然樂意配合簽署這些聲明，但他認為僅靠企業的「自我約束(Self-regulation)」已經遠遠不夠。

「負責任的好企業固然會自我要求，但我們真正需要防範的，是那些缺乏責任感、無視潛在風險的不肖業者。」史密斯指出，如果缺乏法律層面的強制拘束力以及獨立評估機制，單靠企業自願遵守的協議將無法提供足夠的安全保障。

為了有效防範AI技術失控或遭到惡意濫用，史密斯向全球立法機關提出了具體的監管改革方向，主要包含三大核心訴求：

第一，必須強制要求AI開發商在系統中設置「緊急斷電/止損機制(Emergency shutdown mechanisms)」，以便在系統出現非預期行為或失控時能夠立即喊停。
第二，建立具備法律約束力的強制事故通報機制，當AI代理參與或引發任何資安漏洞與攻擊事件時，相關單位必須第一時間向受害者及監管機構通報。
第三，在特定情況下引進獨立的第三方或政府安全評估機構，在AI模型正式向市場推出前進行嚴格審查。
隨著AI技術從早期單純的文字與圖像生成，快速演化為能夠自主執行複雜任務的智慧代理，其潛在風險正呈現指數級增長。史密斯呼籲，全球社會不應該等到發生不可逆轉的重大災害時才來亡羊補牢，各國政府應當以看待食品安全與家電安全的嚴謹態度，為這項改變人類未來的科技建立穩固的安全護欄。

資料來源：https://gizmodo.com