草根影響力新視野(琪拉編譯)　

越來越多在人工智慧產業的人士都表示，人工智慧可能會毀滅整個人類。他們甚至指出，人工智慧可能在十年內導致人類滅絕。

上週，一位在人工智慧公司的員工宣布，由於公司的工作過於危險，他將離開公司。另一位人工智慧公司專家也表示，人工智慧在十年內導致人類滅絕的可能性超過10%。此消息一出，全世界都感到震驚。

即使是世界上最強大的軟體系統，究竟如何在十年內殺死83億有血有肉的人呢？並非所有人工智慧領域的專家都認同這種末日論調，部分原因是預測的細節非常匱乏。就像馬斯克說SpaceX的目標是在「5到7年內」將人類送上火星時，人們自然會提出一些後續問題：SpaceX是否有可用的火星探測器？沒有。它是否有火星著陸器或火星基地？但是科學論點需要可被證明，避免陷入宗教論證，你需要能夠證明或反駁它們。

末日預言家的一種推測是，人類將足夠強大的人工智慧系統可能會利用生物武器消滅人類。但是，人工智慧如何從電腦之間的惡意行為，例如入侵其他系統發展到在現實世界中製造和傳播超級病原體呢？人類可以想像的是，將有一個「超級智慧」的 AI 系統有可能說服人類幫助它開發致命病毒。

「現在已經有很多人類在和他們的 AI 系統溝通，討論他們在實驗室裡應該進行哪些實驗，我很容易想像，一個目前已經部署的 AI 系統，如果它更加智能、更具策略性，並且想要這樣做，它就能誘騙人類來開發並發布它。」專家說。而這些懂得自我改進的人工智慧程式可能「直接在自主生物實驗室中開始合成自己的生物體」。

圖片取自:(示意圖123rf)

但要研發出足以毀滅人類的病毒，需要的遠不止是讓大型語言模型設計出一種致命病毒。即便研究進展順利，病毒的製造和傳播也將是複雜而棘手的。有專家說這就像要人工智慧拼搭一個沒有說明書的樂高積木。這裡面涉及到順序、溫度、排列順序、環境——哪個部分先放，哪個部分後放，如果其中一塊積木放錯了位置，整個模型就會坍塌。它很可能根本無法成功，否則藥物設計將變得過於簡單。

此外，為了控制實驗室或組裝建造實驗室所需的實體設備，人工智慧系統需要克服重重障礙，才能製造出生物或化學武器，包括現實世界中現有的法規、法律和執法部門在控制所有這些供應鍊和風險的限制。

所以，訴諸於深不可測的人工智慧超級智慧的力量，是人工智慧研究人員用來過度簡化威脅的輕描淡寫。 反對此論點的專家說，這在閒聊或辯論中或許行得通，但當涉及到政策、立法和監管時，我們必須建立起一套有據可依的實證鏈，包括可衡量的後果和可衡量的證據。

資料來源:  https://edition.cnn.com