「AI幻覺」危害多

散播虛假或誤導性信息

「AI幻覺」生成的假信息容易擴散，在醫療保健、金融或法律服務的領域，可能造成嚴重的後果，影響個人健康或造成財務損失等。「AI幻覺」甚至影響選舉，微軟生成式AI助理Bing Copilot近期被發現回答歐洲國家選舉相關問題時出錯，還編撰候選人的醜聞。

為企業帶來法律風險

所有行業中，目前有三分之一的企業已經以某種形式使用AI。AI工具出現幻覺可能造成現實後果，令企業承擔法律責任。例如，在金融服務行業，不正確的數字結果影響巨大。

加劇偏見和不平等

受AI模型訓練數據和算法影響，AI本身就可能已經存在相當大的偏見，而「AI幻覺」可能進一步加劇這種情況。以人臉識別為例，由於AI學習樣本主要來自白人，導致少數族裔受害最深，甚至導致冤假錯案。

大公報整理