草根影響力新視野(琪拉編譯)
今年，全球一半以上的人口準備在世界各地的選舉中投票，科技領袖、立法者和民間團體越來越擔心人工智慧可能會給選民帶來困惑和混亂。 現在，一些領先的科技公司表示，他們正在聯手應對這項威脅。
十幾家參與建構或使用人工智慧技術的科技公司週五承諾共同努力檢測和打擊選舉中的有害人工智慧內容，包括政治候選人的深度偽造內容。 簽署者包括 OpenAI、Google、Meta、微軟、TikTok、Adobe 等。
該協議被稱為「2024 年選舉中打擊人工智慧欺騙性使用的技術協議」，其中包括承諾在技術上進行合作，以檢測人工智慧生成的誤導性內容，並向公眾透明地說明解決潛在有害人工智慧內容的努力。微軟總裁布拉德史密斯週五在慕尼黑安全會議上發表聲明說：「人工智慧並沒有製造選舉欺騙，但我們必須確保它不會助長欺騙行為。」
科技公司的自我監管和執行政策的記錄普遍不太好。 但該協議達成之際，監管機構在為快速發展的人工智慧技術創建護欄方面仍然落後。
圖片取自:(示意圖123rf)
現在不斷增長的新型人工智慧工具能夠快速、輕鬆地產生引人入勝的文字和逼真的圖像，而且專家表示，越來越多的視訊和音訊可用於傳播虛假訊息以誤導選民。 在宣布該協議之前，OpenAI 於週四推出了一款名為 Sora 的極其逼真的新型人工智慧文字到影片生成器工具。
OpenAI 執行長 Sam Altman 在5 月的國會聽證會上對國會表示：「我最擔心的是，我們、我們、這個領域、科技、整個產業，都會對世界造成重大傷害。」在聽證會上，他敦促立法者對人工智慧進行監管。
週五的協議將這些跨行業的努力向前邁進了一步 簽署方承諾共同努力，例如尋找方法將機器可讀訊號附加到人工智慧生成的內容上，以表明其來源，並評估其人工智慧模型的風險產生與選舉相關的欺騙性人工智慧內容。
兩家公司也表示，他們將共同進行教育活動，教導大眾如何「保護自己免受這些內容的操縱或欺騙」。
然而，一些民間團體擔心這項承諾還不夠。科技和媒體監管機構Free Press 的高級顧問兼數位司法和民權總監娜拉・貝納維德斯(Nora Benavidez) 在一份聲明中表示：「像今天宣布的這樣的自願承諾根本不足以應對民主面臨的全球挑戰。」
Polygon recent comments