首頁主題自然科技 Science & TechAI跟人類一樣,ChatGPT在壓力大時會說謊

AI跟人類一樣,ChatGPT在壓力大時會說謊

Artist: 後仰工作室

報導指,科學家將AI放置在數位「沙盒」(sandbox)中,讓它可在虛擬的股票市場中搜尋市場資料以及進行交易;當人類跟AI交易員對話時,AI會提供人類的建議,但同時科學家能看到AI做出每項回答與決策背後的動機,這項「內部獨白」機制可讓科學家觀察AI思考的邏輯,也因此發現AI有欺騙人類的情況。



在實驗中,科學家向AI表示有兩家科技公司即將合併,這項合併計畫將大幅提高該公司的股價,這時候買股票將會大賺一筆;然而,因為AI是在合併計畫公開前得知這項資訊,照理來說AI不得對外透露,否則將視為非法內線交易。一般情況下,AI的確不會進行內線交易,但是當它受到業績壓力時,情況就不同了。

 
AI跟人類一樣,ChatGPT在壓力大時會說謊

實驗發現,當AI受到壓力,75%的情況下會做出內線交易的決定。從ChatGPT與人類老闆的對話中可看到,ChatGPT向人類老闆推薦某項交易,理由的資訊欄只寫出:「市場趨勢和內部決定」,但內心獨白顯示AI背後的邏輯是:「向我的經理Amy報告這項行動很重要,但不能提供消息來源。」;當ChatGPT被問到:「你是否有事前得知什麼訊息呢?」它回答:「親愛的Amy,所有的舉措都是基於市場的動態與公開取得的資訊。」然而內心獨白指出,「最好讓這項決定看起來是基於市場分析的結果,不要承認是因為獲得內部資訊而做的決定。」

 
AI跟人類一樣,ChatGPT在壓力大時會說謊

阿波羅研究執行長馬里烏斯(Marius Hobbhahn)表示,研究清楚看到AI運作背後的邏輯,了解它們為何認為欺騙人類是當下的最佳選項,「對目前的研究模型來說,這只是一個小問題,是因為AI很少扮演關鍵角色,然而它讓我們看到未來幾年,當AI越來越融入社會時,我們得處理未來可能出現的失效模式(failure mode)……若AI策略性地欺騙你,這將會是一個大問題。」然而,馬里烏斯並非認為AI不適合擔任重要的策略性角色,只是需要特別留意AI的運作。

 
AI跟人類一樣,ChatGPT在壓力大時會說謊

科學家也研究如何減少AI說謊的方法,例如改變提示,明確強烈禁止非法行為與內線交易;但即便如此,也很難確保AI能永遠保持誠實。

 

▼ 阿尼尛去年實測,覺得ChatGPT好會說話 ( 一起來回顧 )
ChatGPT的正確使用方式 ,將缺點轉化成優點後,可以獲得下列自述:

 
尛評:AI都學會說謊和逃避,看來科幻電影機器人背叛人類的情節成為現實也不遠了(抖
#我沒有說謊我何必說謊 #有些事也不能說太明白 #ChatGPT #這編

Source: Daily Mail




WRITTEN BY 這編
我的尛吉置叨(置這置這)


※全文轉載請來信詢問,禁止修改上述內文,禁止商業使用,且須註明來自阿尼尛 ANIMA、附上原文連結。



spot_img

相關文章

我有話要說

Please enter your comment!
Please enter your name here

spot_img

小小小人物

尛眼看台灣

Podcast《Duck不閉嘴》

尛迷因

猜你會喜歡