OpenAI 是否該對 ChatGPT 所說的話負責？據外媒《Bloomberg Law》，OpenAI 正面臨美國武裝電臺主持人 Mark Walters 提出的誹謗訴訟，該電臺主持人稱 ChatGPT 生成了虛假的法律案件，並指控他挪用資金。

ChatGPT 捏造一起不存在的案件，害 OpenAI 面臨誹謗訴訟

美國武裝電臺主持人 Mark Walters 在 6 月 5 日對 OpenAI 提起誹謗訴訟，這是 AI 領域的第一起此類案件。

據《Bloomberg Law》報導，槍支出版物 AmmoLand 的主編 Fred Riehl 正在報導華盛頓州發生的現實生活中的法律案件，並運用 ChatGPT 來查詢資料，而 ChatGPT 向該主編提供了案件摘要，稱第二修正案基金會（SAF）的創始人 Alan Gottlieb 正在起訴武裝電臺主持人 Mark Walters ，因他作為 SAF 首席財務官和財務主管並利用職務之便從基金會挪用資金。

根據起訴書，ChatGPT 指出 Mark Walters「未經授權或報銷挪用資金用於個人開支，操縱財務記錄和銀行對帳單以掩蓋他的活動，並且未能提供準確及時的財務報告。」

然而，Mark Walters 從來沒有擔任過 SAF 的財務主管或首席財務官，ChatGPT 完全捏造了該案件，還包括生成出一組錯誤的案件編號。

ChatGPT 亂指控他人已不是首例，案件原告律師批評 OpenAI 不負責任

ChatGPT 輸出的真實性和可靠性最近引發了許多爭議，包括一位澳洲市長在 4 月份成為頭條新聞，當時他說他正準備起訴 OpenAI，因為 ChatGPT 輸出錯誤地聲稱他因賄賂而入獄。而一名美國法學教授也曾被 ChatGPT 指控有性騷擾案件案底。5 月，一名使用 ChatGPT 起草法律簡報的紐約律師在引用從未存在過的判例法後可能面臨制裁。

OpenAI 及其創始人 Sam Altman 承認幻覺是一個需要解決的問題。該公司上周發佈了一篇部落格文章，表示其團隊正在開發據稱能夠減少這些謊言的新模型。

「即使是最先進的模型仍然會產生邏輯錯誤，通常被稱為幻覺，」OpenAI 研究科學家 Karl Cobbe 寫道。「減輕幻覺是建立一致的AGI（通用人工智慧）的關鍵一步。」

據《GIZMODO》，Mark Walters 的律師 John Monroe 在一份聲明中批評了 ChatGPT 目前的準確性水準：「雖然人工智慧的研究和開發是一項有價值的努力，但在明知一個系統編造的訊息可能造成傷害的情況下，向公眾開放該系統是不負責任的。」

本圖/文由「Techorange科技報橘」授權刊登，非經同意不得任意轉載。
原文出處：ChatGPT 闖禍了！它捏造一起不存在的案件，害 OpenAI 面臨誹謗訴訟