ChatGPT是个会“自行编造故事，甚至杜撰信息来源”的AI_风闻

来源：@一玶海岸

经查证，本人基本确认Chatgpt是个会“自行编造故事，甚至杜撰信息来源”的AI。

缘由：

关于瑞信AT1先于普通股被减记的事项，@来去之间 来总询问了Chatgpt是否有历史案例。

AI的回答是：

在2016年2葡萄牙商业银行 (Banco Comercial Portugues, 简称BCP） 成为历史上第一个减记COCO债的银行。

当时BCP的一笔7亿欧元的COCO债 (AT1, Additional Tier 1）被永久性减记50%，即3.5亿欧元。

这次减记事件是由于欧洲央行压力测试的结果导致的。BCP的核心资本充足率在压力测试中被认为不足以应对潜在的金融风险，因此触发了减记事件。

疑惑：

一、我的工作和欧盟监管变革有关，但没听说过这事

二、今早恰好对瑞信最新情况进行复盘，记得很清楚：

迄今为止唯一一次AT1的减记是2017年西班牙大众银行（banco polular sa）破产，被桑坦德银行以一欧元收购，大众银行的AT1被减记14.4亿美元。这一次也是股东先出清才减记AT1的。

三、不合逻辑

欧央行确实在过去十多年做了很多次压力测试，目标是提升银行的资本充足率，增加抵御金融风险的能力。

如果欧洲某银行未能通过压力测试，可能会被要求整改，甚至被要求计提额外的资本。

欧央行以压力测试为理由，减记某银行的At1，不仅和AT1的设计目标不一致，也对银行经营毫无益处。

最基础的，AT1是在银行挤兑、或者资本充足率过低的“真实情况”下才能减记，压力测试不是“真实情况”。

四、查证

来总又要求AI提供了它的信息来源，AI给了两个：

Financial Times (2016) :

“BCP becomes first bank to write downa cocos bond”

Reuters (2016) :

“BCP bond write-down rattles market”

从AI给予的链接，FT和路透网站均显示404。

用AI给予的标题，在bing和google进行搜索，没有相关报道。

查证我的信息，关于桑坦德银行并购大众银行事宜，搜索引擎很快给出了证据。

欧盟理事会关于并购的批复

桑坦德银行当年的公告

​公告正文

关键证据：

As part of the execution of the resolution scheme, (i) all the shares of Banco Popularoutstanding at the closing of market yesterday and all the shares resulting from the conversion of the regulatory capital instruments Additional Tier 1 issued by BancoPopular have been totally cancelled。

结论和感受：

Chatgpt是个会“自行编造故事，甚至杜撰信息来源”的AI。

瞎编乱造的能力很强。例如它杜撰出的信息来源，如果不仔细查证，如果不是专业人士较真，几可乱真。

彻底证伪似乎很难，因为我不可能穷举互联网上所有证据。

所以，目前我也就能“基本”确认，它挺能编故事的。

在利用chatgpt时，尽量多给他塞指明基础数据，让他做结论或优化，谨慎利用它作为唯一信源。

——————

后来@来去之间 发文说：早上醒了没事，学习下这次瑞信的coco债被减记，然后gpt4给了个BCP的案例，发出后@一玶海岸 老师说好像是假的，我一脸懵逼的问GPT信源，然后GPT煞有其事的给了FT和路透的新闻链接，结果点过去是空链接，只好去问给结果带信源来源的bing，结果有意思的事情发生了，bing上搜索到的信源都是2023年的，而且媒体似乎已经被GPT4污染了（拿gpt4回答做了信息内容？），再问是否有国外媒体信源和当年的信源，然后bing也开始胡扯，给的链接里面根本没提到BCP的案例。

仔细看了下，Bing引用的“信源”内容中没有包括它说的BCP的案例，但是随着媒体记者使用GPT的频率提升，完成这个“信源闭环”——AI胡扯→媒体引用→AI再引用媒体信源——是早晚的事儿。