草根影響力新視野 文/喬依絲編譯
美國聯合航空 (United Airlines) 於近期宣布禁止第三方人工智慧機器人存取該公司數位平台,並且警告表示,若是允許 AI 助理登入帳戶憑證,不僅容易外洩敏感個資,更可能引發未經授權的消費行為。聯合航空此舉與亞馬遜(Amazon) 封鎖 Meta 旗下購物代理的考量如出一轍。
現今的 AI 代理功能日益強大,從根據天氣叫車、綁定信用卡代訂機票飯店,甚至在投資平台上買賣股票都能一手包辦。然而,柏克萊加大與舊金山大學學者肖米特·高斯指出,代理式 AI 仍處於起步階段,凡是涉及「健康、財富或隱私」的決策,現階段都不應交由機器人代勞。高斯建議,AI 適合用來分類開銷、標記異常帳單或模擬情境,但轉帳匯款、投資下單與填寫正式表單,仍應堅持由人工親自操作。
圖片取自:(示意圖 123RF)
高斯提醒,AI 代理在執行任務時非常「照字面解讀」,缺乏人類憑藉直覺與生活經驗推敲弦外之音的能力。例如,若你只要求它訂「最便宜的機票」,卻未設下具體限制,它很可能會幫你訂下一張凌晨起飛、且需轉機三次的紅眼班機。此外,AI 對網路資訊往往一視同仁,若請它預訂「最好的餐廳」,它可能只因某家店在官網自稱第一就幫你訂位,卻忽略了地點偏僻或外部負評。因此,指令必須極度具體,明確要求它比對多個評價平台。
將任務外包給機器人前,務必自問:「這件事需要人類介入把關嗎?」以旅遊為例,讓 AI 根據天氣與預算篩選目的地非常合適,但最終刷卡訂票的決定權仍應握在自己的手中。旅遊科技集團 Booking Holdings 的財報便顯示,旗下平台使用 AI 助理訂房的客戶,平均消費金額高出未使用者 20%,保留最終確認權或許還能幫你省下不少荷包。
在醫療與投資領域同樣如此。若讓 AI 管理用藥處方,它可能因病歷紀錄不完整而忽略危險的藥物交互作用;在股票交易上,AI 雖能協助蒐集資訊,但無法取代人類根據自身財務目標做出的風險判斷。專家強調,授權 AI 存取資料時應僅限於「權限受限的帳戶」,切勿直接交出銀行或信用卡資訊,並隨時確保關鍵決策由人類親自拍板定案。
Reference:
