还记得开篇那个名场面吗——我根本没养猫,小硅却一本正经建议我"带猫去看牙医"。这一篇,我们来解剖 AI 最出名的毛病,搞懂它为什么会这样、怎么在现实中坑人、以及怎么防。
这个毛病有个专门的名字,叫幻觉(Hallucination):AI 会非常自信地,编造出根本不存在的事实。编假论文、假名人名言、假法律条款、假历史事件……而且编得有鼻子有眼,语气笃定得让你不敢怀疑。
这是目前所有大模型的通病。搞懂它为什么会这样,你才能真正安全地用 AI。
大约 5 分钟
还记得开篇那个名场面吗——我根本没养猫,小硅却一本正经建议我"带猫去看牙医"。这一篇,我们来解剖 AI 最出名的毛病,搞懂它为什么会这样、怎么在现实中坑人、以及怎么防。
这个毛病有个专门的名字,叫幻觉(Hallucination):AI 会非常自信地,编造出根本不存在的事实。编假论文、假名人名言、假法律条款、假历史事件……而且编得有鼻子有眼,语气笃定得让你不敢怀疑。
这是目前所有大模型的通病。搞懂它为什么会这样,你才能真正安全地用 AI。