AI发展迅猛,“AI幻觉”问题也日益凸显。
AI幻觉指模型生成与事实不符、逻辑断裂或脱离上下文的内容,本质是统计概率驱动的“合理猜测”。
像ChatGPT等大型语言模型,虽能完成高难度任务,但也常产生幻觉。
AI内容伪造成因多,造假门槛低,大家能轻易利用多模态数据深度伪造内容,成本低、效率高;且大模型自身有漏洞隐患和数据污染问题。
对待“AI幻觉”,使用者不能全信AI输出,要有批判性思维,多核实信息。要求:
开发者优化技术,降低AI幻觉出现的概率。
毕竟:
只有正确对待“AI幻觉”,才能更好地发挥AI的价值。