为什么chatgpt会编造答案？
输入“/”快速插入内容
为什么chatgpt会编造答案？
为什么chatgpt会编造答案？
飞书用户82132023年10月13日修改
知识库目录：带你玩AI知识库
至今为止，因为轻信chatgpt编造的答案，已经导致了多起诉讼案件。为什么chatgpt会说谎呢？这并不是因为它具有意思，恰恰相反，chatgpt并不知道什么是“真实”和“谎言”。
想象一下，ChatGPT就像一个熟练的模仿者，它能够模仿人类的语言和回答问题，但实际上并不理解它正在说什么。它就像一个超级复杂的“填空游戏”，你给它一个提示，它就会根据之前学习到的大量信息来填充这个空。但是，因为它并不理解这些信息的实际含义，所以有时候它可能会编出一些并不真实的内容，或者在你没有要求的情况下添加一些不必要的细节。这就是所谓的“幻觉”。
这也是“幻觉”最危险的地方，当你的问题是错的，它依然有可能会迎合你的问题去编造答案。
而在gpt训练的RLHF阶段，gpt被灌输了一个思想，当提问者质疑时，要道歉然后顺从提问者的方向修改答案，这导致了另外一重“幻觉”：但你表示质疑时，不管你说什么gpt都会迎合你。
在下面的例子里，gpt就因为我的不断质疑而将原本正确的答案改成了错误的。