(資料圖片)

ChatGPT是當(dāng)前最火的AI應(yīng)用，沒(méi)有之一，很多人已經(jīng)被它超高的準(zhǔn)確率折服，工作學(xué)習(xí)中甚至用它來(lái)替代搜索引擎及專業(yè)網(wǎng)站，然而ChatGPT并不總是對(duì)的，它胡編亂造的東西已經(jīng)讓微博CEO上當(dāng)，現(xiàn)在被專業(yè)人士抓包了。

事情是這樣的，最近幾天瑞士信貸被強(qiáng)制出售，有172億美元的AT1債務(wù)被直接清零，這是金融行業(yè)罕見(jiàn)的一例，金融專業(yè)人士@一玶海岸提到此前只有2017年西班牙大眾銀行破產(chǎn)出現(xiàn)過(guò)AT1債券被減記的情況

微博CEO@來(lái)去之間貼了ChatGPT給出的回答，說(shuō)這樣的例子在2016年的葡萄牙BCP銀行事件中也出現(xiàn)過(guò)，意味著這樣的例子在之前就至少有2個(gè)例子了。

作為專業(yè)人士，@一玶海岸對(duì)此并不認(rèn)可，結(jié)果查證之后發(fā)現(xiàn)BCP銀行的例子是ChatGPT編造的，并不存在，而且它給出的兩個(gè)信源打開(kāi)也是404的。

換句話說(shuō)，ChatGPT在這次的回答中不僅不準(zhǔn)確，而且答案也是AI編造出來(lái)的，甚至為了提高可信度，連信源都偽造了，如果不是專業(yè)人士對(duì)此事有敏感度，估計(jì)絕大多數(shù)人都要被AI騙了。

這件事的危害不僅在于AI會(huì)編造錯(cuò)誤的答案，還會(huì)形成一個(gè)閉式循環(huán)——AI胡扯，然后就有媒體引用AI的答案，AI再引用媒體的報(bào)道當(dāng)作信源，環(huán)環(huán)相扣之下假的也會(huì)變成真的了，特別是在一些專業(yè)領(lǐng)域，畢竟不可能指望網(wǎng)民甚至媒體在所有方面都很敏感而且專業(yè)。

再進(jìn)一步來(lái)說(shuō)，這件事的可怕之處在于到底是AI算法不行，只能胡編不知道的事，還是AI在沒(méi)有事實(shí)信息的時(shí)候主動(dòng)騙人類呢？如果是后者，未來(lái)的發(fā)展恐怕很難想象。

關(guān)鍵詞：