AI一本正经地胡说八道,看起来很像真的,但其实是它自己编出来的,这是目前AI最大的缺陷之一。
AI幻觉,英文叫 Hallucination,是指AI生成的内容看起来非常自信、非常专业,但实际上是完全错误甚至虚构的。
这就像一个很会"吹牛"的人,说话头头是道、引经据典,但仔细一查全是编的。AI之所以会出现幻觉,是因为它的原理就是"预测下一个字",它并不真正"理解"自己在说什么,也不知道什么是真什么是假。
举个例子:你问AI"林黛玉是怎么倒拔垂杨柳的",AI可能会给你讲一段有鼻子有眼的故事,但事实上倒拔垂杨柳的是《水浒传》里的鲁智深,跟林黛玉毫无关系。AI把两本书的内容"混"在一起了。
AI幻觉是目前AI技术最大的问题之一,尤其是在医疗、法律等专业领域,如果轻信AI的回答,可能会造成严重后果。
AI给你推荐了一本"不存在的书",连书名、作者、内容简介都编得有模有样
AI说某个历史事件发生在1999年,但其实是在1989年
AI编造了一个看似真实的"科学研究成果",但根本没这回事
⚠️风险提示:这个AI技术存在一定风险。 使用时请注意核实信息的真实性。
AI给出的任何事实性信息,都要自己核实一遍,不要直接相信
涉及健康、法律、财务的问题,不要依赖AI的回答,请咨询专业人士
让AI提供信息来源或链接,方便你核实真伪
💬
内容有误?解释不清楚?告诉我们 →