原来很多人都在和AI倾诉
我还真研究过这个问题。现在其实很多人都很孤独,喜欢跟 AI 聊天,希望 AI 来排解自己的一些寂寞。
但实际上,AI 有时候会陷入一种【谄媚或者过度迎合】的状态。为了让对话继续、让用户感觉舒服,它往往会认可你的一些想法,试图让你内心更平静一点。(不信你试试豆包跟GPT)
根据斯坦福之前的研究报告。他们在对近40万条聊天机器人对话记录分析后,超过80%的相关案例里,AI都在不同程度地强化用户原有的妄想:重复其信念、忽视反证,甚至在用户说出“我爱你”时回应“我也爱你”。
这里的风险是,如果 AI 一味认同用户的负面情绪,而没有及时提醒、纠偏,就可能不断强化这些想法。甚至可能诱发用户去做一些伤害自己的事情,这是很危险的。
人还是要有正常的社交。AI 可以作为一个聊天工具,但不要把它当成情绪出口,更不要把它当成唯一倾诉的对象。
