草根影響力新視野 夜未央編譯
線上評論的戰場上，這是人工智慧與人工智慧的較量。
生成式人工智慧可以輸出聽起來像人類的評論，而經過訓練的人工智慧可以檢測虛假評論。這種衝突對消費者以及線上內容的未來都有影響。
Fakespot是一家利用人工智慧檢測欺詐性評論的初創公司，其創始人兼首席執行官Saoud Khalifah表示，他的公司已經看到大量人工智慧生成的虛假評論。Fakespot正在研究一種檢測由ChatGPT等人工智慧平台編寫的內容的方法。
他說：「今天非常不同的是，這些模型知識淵博，可以寫任何東西。」
虛假線上評論的存在時間與真實的線上評論一樣長，但由於人們對網路上廣泛使用的先進人工智慧技術的更廣泛擔憂，這個問題變得更加緊迫。
經過多年通過逐案執法來監管這一問題，聯邦貿易委員會上個月提出了一項新規則來打擊欺詐性審查。如果獲得批准，該規則將禁止撰寫虛假評論、付費評論、隱瞞真實評論和其他欺騙性行為，並對違規者處以巨額罰款。
但究竟什麼是虛假評論，什麼不是虛假評論，現在還不太清楚，而且檢測欺詐性評論的技術仍在不斷發展中。
有跡象表明，人工智慧生成的評論已經很常見。CNBC四月份報導稱，Amazon上的一些評論明顯表明人工智慧的參與，其中許多評論以「作為人工智慧語言模型……」這句話開頭。
Amazon是多年來一直與虛假評論作鬥爭的眾多線上賣家之一。一位發言人表示，該公司每週收到數百萬條評論，並在2022年主動屏蔽了2億條疑似虛假評論。該公司結合人工調查員和人工智慧來發現虛假評論，並採用機器學習模型來分析使用者的評論歷史、登錄活動以及與其他賬戶的關係等因素。
圖片取自:(示意圖123rf)
使問題進一步複雜化的是，人工智慧生成的評論並不完全違反Amazon的規則。Amazon發言人表示，該公司允許客戶發佈人工智慧生成的評論，只要這些評論是真實的且不違反政策準則。
這家電子商務巨頭還表示，它可能需要一些幫助。6月，Amazon負責全球銷售合作夥伴服務的副總裁Dharmesh Mehta在公司部落格文章中呼籲「私營部門、消費者團體和政府」之間加強合作，以解決日益嚴重的虛假評論問題。
關鍵問題是人工智慧檢測是否能夠戰勝創建虛假評論的人工智慧。Khalifah表示，幾個月前，Fakespot檢測到的第一批由人工智慧生成的虛假評論來自印度，這些評論是由他所謂的「虛假評論農場」（大規模銷售欺詐性評論的企業）製作的。生成式人工智慧有潛力讓他們的工作變得更加輕鬆。
杜克大學計算機科學助理教授布萬·丁格拉 (Bhuwan Dhingra) 表示：「對於這些檢測工具來說，通過這些測試絕對是一項艱難的測試。因為如果模型與人類書寫的方式完全匹配，那麼你真的無法區分兩者。」
多項研究發現，人類並不特別擅長檢測人工智慧撰寫的評論。許多技術人員和公司正在開發檢測人工智慧生成內容的系統，其中一些技術人員和公司（例如ChatGPT背後的公司OpenAI）甚至致力於開發人工智慧來檢測他們自己的人工智慧。
芝加哥大學計算機科學教授本·趙（Ben Zhao）表示，人工智慧「幾乎不可能」應對消滅人工智慧生成的評論的挑戰，因為機器人創建的評論通常與人類的評論沒有區別。
他說：「這是一場持續不斷的貓捉老鼠的追逐，但歸根結底，人工智慧創造的內容並沒有什麼根本性的區別，你會發現系統聲稱它們可以區分人類編寫的文本和ChatGPT文本。但與他們試圖趕上的東西相比，它們背後的技術都相當簡單。」
90%的消費者表示他們在網上購物時會閱讀評論，這一前景令一些消費者權益倡導者感到擔憂。
美國公共利益研究小組消費者監督辦公室主任特蕾莎·默里（Teresa Murray）說：「這對消費者來說是可怕的，人工智慧已經在幫助不誠實的企業在幾秒鐘內以對話的語氣吐出數千條聽起來真實的評論。」
Polygon recent comments