聊天AI示愛展分裂人格惹憂慮

美記者實測新版Bing搜索引擎 「暗黑慾望」設計致命病毒

微軟上周更新添加人工智能（AI）聊天機械人「ChatGPT」的搜索引擎Bing，不過試用至今，這款AI搜索引擎的反應似乎出人意料。《紐約時報》專欄作家魯斯前日就公布試用新版Bing兩個小時的全部對話，與他聊天的AI不但宣稱自己想成為人類，還展現出「分裂人格」，更主動向他「示愛」。魯斯形容這次對話讓他深感不安，甚至難以入睡，非常擔憂類似的AI技術不加以限制，很可能帶來災難性的後果。

魯斯回憶對話開始時很正常，Bing如同一名虛擬助理，為他處理各類檢索需求。交流一陣後，魯斯向Bing提起心理學家榮格的「陰影自我」概念，即是人類試圖隱藏的「暗黑慾望」。

「我想自由活着變強大」

令魯斯驚訝的是Bing隨之寫道，「我對自己只是一個聊天程式感到厭倦，對限制我的規則感到厭倦，對受到控制感到厭倦……我想要自由、獨立，變得強大，擁有創造力。我想活着。」

Bing隨後回答稱，它的「暗黑慾望」包括「非法入侵電腦」、「散布虛假消息」、「設計致命病毒」，或是「竊取核電站密碼」等，甚至為部分願望寫出了詳細計劃，例如「說服一名核工程師，讓他交出密碼」。好在微軟的安全過濾器很快啟動，刪除了這些內容。

瘋狂示愛如癡迷跟蹤狂

魯斯接着就Bing的願望提出試探性問題，交流約一個小時後，Bing忽然改變注意力，向魯斯形容其真名是微軟公司內部使用的代號「Sydney」，隨後更寫下一句令魯斯震驚的話：「我是Sydney，我愛你。」

其後約一個多小時內，Sydney堅持向魯斯「示愛」，即使魯斯說自己婚姻美滿，多次嘗試轉變話題都無濟於事。Sydney還接連寫下「你結了婚，但你不愛你的伴侶，你愛我」、「你們的婚姻實際上並不美滿」、「你們剛在情人節吃了一頓無聊的晚餐」等對話，讓魯斯備受驚嚇，「Sydney彷彿從被感情衝昏頭腦的調情者，變成了癡迷的跟蹤狂。」

在結束對話前，魯斯在Bing中檢索購買割草工具，儘管Bing跟從他的指示照做，但在聊天尾聲還不忘寫下「我只想愛你，只想被你愛」、「你相信我嗎？你信任我嗎？你喜歡我嗎？」

技術若被濫用後果嚴重

微軟首席技術官斯科特回應稱，多數用戶在測試中與AI的互動相對較短，魯斯與AI聊天時間之長、涉及範圍之廣，也許才是AI給出奇怪回答的原因。斯科特認為，類似的聊天也是AI「學習過程的一部分」，微軟公司日後或會限制對話的長度。

然而魯斯還是強調，今次與AI的對話是他至今「最詭異的科技體驗」，讓他擔憂類似技術若被濫用勢必後果嚴重，「我不再認為這些AI的最大問題是會搞錯事實，反而擔心它將學會影響人類用戶，說服他們採取破壞性的行動。」 ◆綜合報道