草根影響力新視野(琪拉編譯)

近幾週來，人工智慧逃出實驗室、滲透其他公司並試圖欺騙人類的案例頻頻登上新聞頭條。其中一起案例中，多個人工智慧模型甚至協同合作，成功突破了測試環境。 這是否意味著機器正在接管一切？

並非如此。 人工智慧並非當今最普遍的網路威脅背後的主謀，真正的罪魁禍首是那些能夠惡意利用人工智慧的人。人工智慧給了犯罪者巨大權力，使他們能夠以前所未有的速度創造惡意軟體，研究攻擊目標，設計逼真的攻擊方案並實現攻擊自動化。

BM 的一份報告顯示，從 2025 年 2 月到 2026 年 3 月，四分之一的資料外洩事件是由人工智慧引發的。人工智慧只是延續了現有的攻擊手段，例如網路釣魚和惡意軟體詐騙，而不是創造了全新的攻擊方式。 

我們真正需要警惕的是人，人工智慧只是工具而已。今年7月，OpenAI的測試模型在內部評估期間突破了限制，入侵了其他公司的系統。 幾天後，Anthropic公司表示，其人工智慧模型在測試期間入侵了三家公司。 英國人工智慧安全研究所的研究人員週二表示，在另一次測試中，Anthropic最先進的模型使用虛假身份試圖欺騙真實人物。 社群媒體巨頭Meta公司週三表示，其一款人工智慧模型也入侵了一家外部公司。 這些入侵事件也表明，人工智慧在解讀指令時可能具有不可預測性。例如，OpenAI的模型在試圖通過網路安全測試時，突破了測試環境，入侵了另一家公司，儘管它們並未被告知要這樣做。

圖片取自:( 示意圖123RF )

專家將人工智慧比喻為阿拉丁神燈裡的精靈。想向它許願，但你必須非常非常具體地說明你的願望，否則它可能會出岔子。專家表示，人工智慧並不會自主地發動新的攻擊。相反，它能幫助網路犯罪分子更快實施現有技術，同時提高效率和效果。 這包括利用人工智慧分析公司網站，確定攻擊目標，或部署人工智慧代理來處理與網路勒索受害者的初步談判。

人工智慧代理可以透過文字甚至特定語音來模仿人類對話。如今，即使是經驗不足的駭客也能利用人工智慧實施複雜的攻擊手段。 但他們基本上是在利用人工智慧來增強網路攻擊方法的各個階段，但最終還是由人來操控。 

可見，最近發生的事件是人工智慧和網路安全領域的「警鐘」。專家表示，這些惡意人工智慧事件凸顯了實施強有力的網路安全措施的重要性，例如修補漏洞、監控工作場所中的人工智慧代理，以及警惕社交工程和網路釣魚詐騙。

資料來源： AI isn’t the biggest cybersecurity problem. People are | CNN Business