自從教宗方濟各穿巴黎世家名牌外套的假照片在網路爆紅，近期生成式 AI 的傑作再度掀起騷動。前陣子，一張推特瘋傳的照片顯示，美國五角大廈附近發生爆炸，劇烈濃煙直竄天際；據《衛報》報導，該照片被擁有超過 30 萬名粉絲的國際軍事新聞粉專 OSINTdefender 轉發，引起眾人恐慌，標普 500 指數甚至一度下跌 0.15%。

最後，美國國防部出面澄清這是由 AI 生成的假照片。

半年多前我們還在為 AI 生成的荒謬照片驚呼時，很難想像短時間內，就有這麼多新的生成式 AI 能創造幾可亂真的照片、影片。即便現在仍能用照片中凌亂的五官、不完整的手指，或影片中不自然的眨眼來辨別真偽，但 Deepfakes 研究專家 Sam Gregory 認為：「這些小線索只是暫時的。」

AI 的學習能力將很快足以彌補這些漏洞，像是最新版的圖像生成工具 Midjourney 就聲稱能排除手指頭不齊全的問題。

實測 5 項檢測器，約 8 成能抓到肉眼看不見的人造痕跡

求救專業技術產品可能是目前的有效辦法。如今市面有許多專門檢測照片真偽的產品問世，例如致力於生成式 AI 內容查驗的新創，就推出 Sensity、Hive 和 Illuminarty 等三款圖像檢測器，另外 AI 開源平台 Hugging Face 上，也有一款名為 Umm-maybe 的免費 AI 圖像檢測器。

據 NVIDIA 與義大利 Naples 大學的共同研究報告指出，生成式 AI 在創建內容時，多少會在圖像中留下些許肉眼幾乎不可見的殘影、被蓋住的加工痕跡，而市面上的檢測器多半是依靠這類痕跡來判定真偽。

《紐約時報》以 5 項 AI 圖像檢測器實測 100 張真假混雜的照片，結果發現多數檢測器確實能揪出肉眼難以察覺的假照片。例如下面這張由創作者 Victoriano Izquierdo 生成的修女照片。以肉眼看來幾乎沒有異樣，甚至稱得上是張好照片，但有 4 項檢測器都能識破它是 AI 生成的。

不過檢測器也有其侷限。當照片畫質模糊、被壓縮，或其創作風格就是「模糊不清」時，即便一看就知道是假的照片，檢測器也不一定能分得清楚。下面這張仿古的山中巨人合照，就讓 5 項檢測器一致判定其為真實照片。

這代表著：現存的多數檢測器產品雖能揪出人造痕跡，卻無法檢測照片內容的上下文脈絡、邏輯是否合理。

檢測器無法分析邏輯脈絡，4 個步驟培養思辨能力才是根本

杜克大學的電腦科學與工程學系教授 Cynthia Rudin 認為：每當市場推出更新更好的圖像檢測器時，以能夠欺騙最新檢測器為目標，所設計的最新生成式 AI 也會被訓練出來。

因此，培養辨別真假內容的素養，或許才是根本之道。研究科學家 Mike Caufield 建議，你遇到疑似 AI 生成的圖像時，可參考以下 4 個步驟。

首先停止、放慢正在查看的內容——尤其是聳動、激起情緒的照片、影片，先關掉或是跳出頁面。

第二步是調查來源，透過 Google 以圖搜圖，試著找到最先發布該圖像的出處與時間。

第三是尋找相關討論，如果圖片出自某一事件，可以找找該事件是否還有其他相關圖片，藉機比對。

最後一步是推理圖中內容的脈絡，例如前述說的五角大廈爆炸照片，只要經過推敲便可發現圖中建築物的某些細節與五角大廈並不相符。

本圖/文由「Techorange科技報橘」授權刊登，非經同意不得任意轉載。
原文出處：你認為這張圖是真的嗎 實測 AI 圖像檢測技術，人腦也該學的辨真假 4 步驟