草根影響力新視野(琪拉編譯)

德州一名男士控告美國梅西百貨,以及Sunglass Hut公司的母公司因為錯誤的臉孔辨識系統,誤認他是持槍搶匪。

這位名為墨菲的男士,他的律師表示,在他被關押近兩週後,檢察官證實搶劫發生時他並不在該州,隨後被釋放。 然而,在被拘留期間,墨菲據稱遭到三名男子的攻擊和強姦,造成永久性傷害。現在,墨菲要求這些公司賠償 1000 萬美元,因為他聲稱這是由於疏忽使用臉部辨識軟體而導致的錯誤逮捕,這是涉及這項有爭議的技術的最新可能的身份錯誤案件。該訴訟突顯了普通人的生活因演算法和人工智慧而面臨的風險越來越大。 

原告稱Sunglass Hut 的母公司、眼鏡巨頭 EssilorLuxottica 依靠梅西百貨的面部識別工具,監控錄像中錯誤地以為墨菲是過去發生搶案的同位搶匪。這起搶劫案發生在2022 年1 月,當時兩名男子進入休士頓一家太陽眼鏡小屋,用槍威脅商店工作人員,索要現金,並從貨架上拿走了太陽眼鏡,然後逃離現場。

購物中心 賣 店 零售 中心 店 消費者 在室內 生活方式 現代 公 購物 玻璃 廣告 購買 消費主義 入口 標誌 墨鏡
圖片取自:(示意圖123rf)

目前尚不清楚 EssilorLuxottica 為何或是否向梅西百貨尋求協助。 搶劫的目標太陽眼鏡小屋位於休士頓市中心外的一個小型購物廣場,距離最近的梅西百貨 10 分鐘車程。但根據訴狀,透過此次合作,EssilorLuxottica 和梅西百貨不僅認定墨菲是 2022 年事件的嫌疑人之一,而且還是影響兩家公司的早期搶劫案的嫌疑人。

多年來,公民自由和隱私專家一直警告過度隨意使用臉部辨識或過度依賴該技術的風險,以及演算法偏見可能導致錯誤識別、種族歧視或其他意外後果的可能性。9 月,政府問責辦公室警告稱,聯邦執法機構已經進行了數千次人工智慧臉部辨識搜索,但沒有對執行搜索的官員進行適當的培訓要求,這凸顯了濫用的可能性。

聯邦貿易委員會越來越讓公司注意到,臉部辨識和人工智慧的使用不斷增加,已經對「隱私和公民權利造成了新的威脅」。FTC 在 2023 年的聲明中警告稱,在商店、機場或體育場館等場所使用臉部或虹膜掃描技術來識別消費者可能會導致身分盜竊和冒充行為增加。 它還可能洩露有關他們的敏感個人資訊,例如,他們獲得了特定類型的醫療保健、參加了宗教儀式或參加了政治或工會會議。

在去年的和解案中,聯邦貿易委員會禁止 Rite Aid 在其商店中使用臉部辨識技術,因為該公司根據臉部辨識掃描錯誤地指控一些顧客犯罪或可能參與商店行竊。委員會也採取了類似行動,限制 Instagram 母公司 Meta 使用臉部辨識技術。

資料來源:https://edition.cnn.com