諾貝爾物理學獎得主傑佛瑞·辛頓（Geoffrey Hinton），近日接受國外媒體專訪，他不僅再度呼籲外界，必須正視 AI 為人類帶來的生存風險，也揭示了一套人類跟 AI 於未來有辦法和平共處，理想中的人機互動關係。

由於在機器學習與 AI 方面的基礎發明和創新，辛頓在 2024 年獲頒諾貝爾物理學獎。他的研究為如今人人可用的各種 AI 系統，奠定了最為關鍵的發展基礎，因為被業界尊為「深度學習之父」與「人工智慧教父」。

然而，隨著 ChatGPT 出現與隨之而來的 AI 發展浪潮，身為先行者的辛頓卻選擇停下腳步，不再親身推動 AI 技術發展，反而對其風險不斷發出警告。

人工智慧發展飆速，AI 教父卻逐漸悲觀

如今被尊為 AI 教父的辛頓，過去曾投入實驗心理學，直到後來才轉向電腦科學，並堅持研究神經網路技術，卻是直到近代才獲得矽谷科技圈接受，為 AI 領域的推廣取得關鍵突破。

只是過去幾年以來，人工智慧的快速演進卻使辛頓變得更加悲觀，他甚至毫不諱言指出，有一天 AI 可能將對人類社會造成嚴重破壞。

辛頓表示，當今的普通人在 AI 幫助下，很輕易就能製造出生化武器，而這種狀況實在太可怕；想像一下，未來若是連一個普通人都能生產出核彈，社會將面臨什麼樣的後果。

辛頓說，人類對自身心智的了解極其有限，可是在面對人工智慧系統時，我們仍可以清楚理解每個神經元的運作狀態；換言之，雖然人類對 AI 系統的了解程度，仍遠遠高於自身大腦，但這當中還是卻依舊保有許多未知。

當 AI 比人類更聰明，我們如何控制 AI？

現年 77 歲的辛頓，幾乎一生都沉浸在學術領域，因此當外界將他所催生的 AI 當成善良、和藹的個人助手時，辛頓本人卻有著完全不同的看法。

辛頓問：當 AI 助手比人類更聰明的時候，請問人類該如何保有「控制權」？

依人類目前所知的例子，唯一一個「智力較低者」有辦法控制「智力較高者」的案例，就是「嬰兒」與「母親」之間的關係，畢竟若嬰兒無法控制母親，他們就沒辦法繼續生存下去。

換句話說，辛頓認為人類在 AI 時代下「唯一的生存希望」，其實就是讓人工智慧成為我們的「母親」，因為母親會非常關心嬰兒，並且守護孩子的生命，關懷他未來的成長，這才是人類跟 AI 之間應該追求的互動關係。

由誰領導 AI 市場？辛頓沒有答案

辛頓進一步指出，自己曾經指導的一位研究生 Ilya Sutskever，就十分贊同這種「母嬰」式的 AI 發展策略。

Ilya Sutskever 為 OpenAI 共同創辦人之一，而離開該公司後，他決定投身創辦新團隊 Safe Superintelligence，強調以安全為前提發展超級人工智慧。

然而，辛頓也承認「安全」不見得能在商業化的 AI 競爭中獲得勝利，其他人如 OpenAI 執行長 Sam Altman，或者特斯拉執行長馬斯克等，皆更有可能贏下 AI 市場。

只不過，當辛頓被問及自己更信任哪個人時，他沉思了許久，最終只淡淡地說：若是從這兩個人之中挑選，就像是選擇讓自己「被槍擊」或「被下毒」一樣。

樂觀沒有實際意義，重點仍是面對問題

面對 AI 可能威脅未來人類生存，尤其是對年輕人造成衝擊的問題，辛頓表示自己的看法跟許多科學家預測相同，即未來 5 到 20 年期間，AI 可能就會擁有超越人類的能力。

然而，辛頓卻也不認為年輕人應該對這種局面保持樂觀與積極。他舉例，假設有一天外星人確定將於 10 年後入侵地球，此時社會大眾提出的問題就不會是「我們應該如何保持樂觀」，而是「我們究竟該如何應對？」

辛頓認為，若以假裝事情不會發生的態度，強迫人類繼續對 AI 發展保持樂觀，那麼這種樂觀其實就不應該維持下去。

另一方面，辛頓對於西方國家政府在 AI 安全方面的干預，亦不抱有任何希望，甚至大力批評美國政府缺乏監管人工智慧的興趣。辛頓強調，相較於美國政府的態度，中國對於 AI 的安全與風險就非常重視，因為當地許多政治決策者其實都是工程師，所以他們能夠充分理解。

失業是資本主義造成，不是人工智慧

回顧 2023 年，辛頓選擇離開了 Google，當時就有媒體指出，他決定辭職是為了更方便公開討論關於人工智慧的風險。

然而辛頓對此糾正，他選擇跟 Google 分手幕後原因有很多，一來是自己年紀大了，程式開發水準不如以往，二來是他早已投身工作長達 55年，覺得該是時候退休，所以方便談論 AI 風險並非主要理由。

當今許多科技巨頭與 AI 業內人士，認為人工智慧能夠解決飢餓、貧窮和疾病等重大問題，將人類社會的未來打造成「烏托邦」，但是對辛頓而言，由於自己的前後任妻子都因癌症去世，所以他對 AI 在醫療保健和教育方面的前景充滿期待，其他部分則相對不感興趣。

舉例來說，面對 AI 所帶來的工作權爭奪問題，辛頓就悲觀認為，富人會用 AI 取代人類，進而造成大規模失業，而企業的利潤將大幅上升，所以 AI 會讓少數人變得更富有，但大多數人卻變得更窮，不過本質上這並非人工智慧的錯，而是資本主義制度的問題。

雖然 Sam Altman 等人曾經建議，政府應該推動「無條件基本所得」（UBI）政策，緩解勞動力市場規模縮窄的問題，但辛頓指出，這種方法其實無法幫助人類維護自身尊嚴，因為人類必須從工作中贏得自我價值。

業界有不同觀點，推動 AI 樂觀主義

辛頓對於未來人類勞動力市場的悲觀，亦跟某些業內人士的觀點形成了強烈對比。例如數據分析公司 Palantir 執行長 Alex Karp 就指出，AI 事實上會讓人類工作的產出變得更有價值，也讓人類自身變得更有意義。

不久之前 Palantir 宣布啟動「AI 樂觀主義計畫」，特意針對人工智慧領域的「末日論者」，推出以職場 AI 應用為核心的行銷宣傳活動，透過一系列簡短的部落格文章，闡述 Palantir 旗下客戶對人工智慧的積極看法。

Palantir 的 AI 宣傳中甚至包含一份「宣言」，強調人工智慧的真正力量，並不在於將工作任務標準化、可取代化，而是在於「增強」人類員工的技能。

Alex Karp 說，許多人對 AI 將取代自身工作崗位的擔憂，本質上是一種不真實觀念下所產生的「怪異民粹主義」，這種現象必須得到糾正，同時 Palantir 有責任與能力，向社會展示 AI 真實的運作方式。

科技變化太快，預言未來「愚蠢至極」

最後，關於 AI 是否可能導致人類產生「認知卸載」，減少批判性思考與吸收資訊，甚至因為人工智慧而逐漸變得懶惰、缺乏創造力的問題，辛頓認為，只要我們能夠有效應用 AI，那麼它對於人類來說，就依然是個有價值的工具。

辛頓強調，人類正因為 AI 處於歷史的轉折點，許多令人驚嘆的事情正在發生，然而它既有可能會「驚人的好」，也有可能會「嚇人的壞」，雖然人類仍可以繼續預測未來，但最後所發生的事情，還是有機會跟大家想的完全不同。

辛頓說，將來會發生什麼事情根本沒人知道，因為人類對此本來就毫無頭緒，而那些刻意告訴你「未來會怎麼樣」的人，簡直可以說是「愚蠢至極」。

本圖/文由「Techorange科技報橘」授權刊登，非經同意不得任意轉載。
原文出處：【未來到底是什麼】AI 教父辛頓剖析風險，讓 AI 當「媽媽」成唯一希望？