【TechOrange 編輯部導讀】
自 ChatGPT 爆紅後,大家也越來越常聽到 OpenAI 這間公司與執行長 Sam Altman 的名字。但最近該公司的首席技術長 Mira Murati 也開始漸漸出現在媒體上。她究竟是何方神聖?帶你快速認識她,以及這位站在第一線、最了解 ChatGPT 的技術長對 AI 的看法。
Google Trends 搜尋趨勢數據顯示,今年一月起,「ChatGPT」開始超越比特幣,成為全球最受矚目的熱門話題之一,而這股熱潮的背後推動者「OpenAI」是一間位於舊金山、員工數約 375 人的私營企業,起初幾年公司收益並不樂觀,直到最近 OpenAI 的最新市場估值已達到約 300 億元美金。
在近期與《時代》雜誌一場專訪中,OpenAI 技術長 Mira Murati 不諱言地談及 ChatGPT 最大的弱點、尚未完全發揮的潛力,以及監管部門建立 AI 責任框架的必要性。
OpenAI 首席技術長是何方神聖?
Mira Murati 1988 年出生於阿爾巴尼亞一座名為「Vlorë」的古城,父母都是阿爾巴尼亞人。2011 年 Murati 開始在高盛集團(Goldman Sachs)擔任實習生,並於隔年取得達特茅斯大學的機械工程學士學位;在 2018 年加入 OpenAI 工作團隊前,她曾任職於法國飛機零件商「Zodiac Aerospace」、矽谷虛擬實境新創「Leap Motion」、特斯拉,接任 OpenAI 技術長一職後便定居於美國舊金山市區。
優異的管理與技術專業之外,Murati 也以擁護 AI 監管規範的堅定立場聞名,在今年二月的訪談中,她向《時代》記者表達了對於 AI 濫用風險的憂懼。
ChatGPT 的最大挑戰:「以自信的語氣虛構事實」
當記者興奮地向 Murati 與 OpenAI 表達祝賀,因為 ChatGPT 在美國的醫學許可考試、華頓商學院的 MBA 考試、四所知名大學的法學院考試中均取得了及格分數,但 Murati 的答覆似乎持保留態度:「我們並沒有預料到大眾反應會如此熱烈,事實上,我們甚至對把公開這些消息有些猶豫。未來我更想知道 ChatGPT 將在哪些領域為人們帶來實質效益,而不僅僅是酷炫新奇。」
談及 ChatGPT 目前遭遇到的主要限制或挑戰,Murati 指出 ChatGPT 本質上是一個大型對話模型,也就是已經被訓練為預測下一個單詞的大型神經網路。
「我們選擇對話,是因為對話是與模型互動並給它反饋的一種方式。如果我們認為模型的答案是不正確的,可以反問『你確定嗎?我認為實際上…….』然後模型有機會與使用者來回交流,就像我們與另一個人交談一樣。」在這樣的設定基礎上,ChatGPT 的核心挑戰就類似於其他對話程式語言模型(Language Model for Dialogue Applications, LaMDA):它可能會以相當自信的語氣虛構事實。
「邪惡 AI」潛藏危險,需要社會大眾參與解決
當記者提及有些學校已禁用 ChatGPT,其他領域中也有越來越多的專業領袖警告 AI 的潛在風險,Murati 指出當 OpenAI 進行技術開發,推展方向是安全且可靠性高的通用智能和能力,不過當這項技術被開放給具備不同出身、知識與專業背景的社會大眾,「我們肯定會對他們使用技術的方式感到驚訝,無論是在積極或消極方面。」
◆ 延伸閱讀:ChatGPT 限制了我們解決問題的能力?美國華頓商學院教授反其道而行,要學生用 AI 寫論文!
換句話說,基於對話本質的生成式 AI 技術是雙向的,AI 塑造人類,人類也持續在塑造它:如何讓模型做人們想讓它做的事情?如何確保 AI 與人類的意圖保持一致,最終為人類服務?還有許多可預見的社會衝擊、倫理與哲學問題,這些都不是單靠技術背景工作者就能解決的,「我們需要引入不同視角與聲音,例如哲學家、社會科學家、藝術家和人文學科工作者」,Murati 強調。
OpenAI 首席技術長支持立法監管 AI,以防技術遭濫用
Murati 一向支持立法監管 AI,她相信 AI 可能會被濫用,或者被不良行為者使用,這些都需要透過責任框架的制定,以在全球範圍內防範這項技術的衍生問題,並確保能以符合人類價值觀的方式治理 AI 使用。
Murati 強調:「OpenAI 在塑造社會的方式上確實有代理權,因此我們必須負責任地把這項技術帶到公眾意識中;但是,我們只是一小部分人,這個系統需要更多技術範圍外的輸入,有賴監管者、政府和社會公眾共同參與。」
想更加認識 OpenAI 首席技術長 Mira Murati?觀看她接受 The Daily Show 採訪的影片,她在節目上談論了 OpenAI 的 AI 繪圖工具 DALL·E 2 的創造能力、使用 AI 引發的倫理和道德問題,以及人工智慧如何增強和塑造社會的想像力。
本圖/文由「Techorange科技報橘」授權刊登,非經同意不得任意轉載。
原文出處:【推動 ChatGPT 狂潮的她】年僅 35 歲的 OpenAI 技術長 Mira Murati 除了長相亮眼,經歷也很吸睛
Polygon recent comments