AI的幻觉问题，绝对是阻碍人们在真实生产环境里应用AI的最大障碍之一。 我让它给我推荐一个可用的方案，结果它给我编了一个芯片出来：MAX96794。还说得一本正经。 官方都没生产出来的芯片，AI生产出来了，哈哈哈哈哈哈…… 所以，AI不可全信。因为AI和人不一样的地方在于，它不会理解并基于事实做判断，而是基于概率推测下一个字。这意味着，无论什么样的问题，AI都会一定有答案。因为人类文本千千万，任何一个字后面，总会有某个字在列队——这是预训练的功劳。而且这个答案看起来非常合理，至少AI说得斩钉截铁——这是对齐的功劳。 因此，切记：尽信AI，不如无AI。