草根影響力新視野(琪拉編譯)
又有一位OpenAI主管安全問題的高階主管離職，引發了人們對該公司的擔憂。
雷克(Jan Leike)本週辭去領導公司「超級對齊」團隊的職務，他在 X 週五的一條帖子中表示，他不同意 OpenAI 領導層的“核心優先事項”，並且“已經達到了最後的臨界點”。
「對齊」或「超級對齊」是人工智慧領域中使用的術語，指訓練人工智慧系統在人類需求和優先事項範圍內運作的工作。雷克於 2021 年加入 OpenAI，去年夏天，該公司宣布他將共同領導超級對齊團隊，專注於「科學和技術突破，以引導和控制比我們更聰明的人工智慧系統」。
然而，雷克週五表示，近幾個月來，該團隊資源不足，而且一直在「逆風航行」。
他在 X 上表示：「有時我們在計算方面遇到困難，完成這項重要研究變得越來越困難。」他補充說，週四是他在這家新創公司的最後一天。他說：「建造比人類更聰明的機器本質上是一項危險做。但在過去的幾年裡，注重安全的文化和安全的流程已經讓位給開發閃亮的產品。」
圖片取自:(示意圖123rf)
執行長山姆奧特曼說： 「（我）非常感謝雷克對 OpenAi 的對齊研究和安全文化做出的貢獻，看到他離開我感到非常難過。」Altman 在 X 上說道。
Leike 週三宣布退出，發生在 OpenAI 進行更廣泛的領導層洗牌之際。在他辭職之前，OpenAI 聯合創始人兼首席科學家，也曾幫助領導超級對齊團隊的 蘇茨克維爾(Ilya Sutskever)也於最近宣布他將離開公司。
蘇茨克維爾表示，他將離開去從事一個「對我個人來說非常有意義的計畫」。但考慮到他在去年奧特曼戲劇性的解僱和回歸中發揮的核心作用，他的退出值得注意，當時他投票罷免了奧特曼的首席執行官和董事會主席職位。
過去他一直擔心奧特曼將人工智慧技術推向「太遠、太快」。但在奧特曼被趕下台幾天後，蘇茨克弗改變了主意，他簽署了一封員工信，呼籲整個董事會辭職並讓奧特曼回歸。
雷克說：[我相信我們的團隊應該要更多花時間在建造下一個世代人工智慧的模範上面。我們要注意隱私、社會影響、保密等等。這些問題我覺得很難達到！]
Polygon recent comments