AI幻觉正让顾客更难沟通:服务员、护林员、教师都遇到用ChatGPT反驳专业判断的人
The Verge报道,餐厅服务员、国家公园护林员、课后班教师和食品服务经理反映,越来越多顾客把ChatGPT或Claude的生成内容当作权威,拒绝相信过敏原警告、葡萄酒推荐、营地行程和儿童睡眠建议,甚至有人用AI代理替自己预订和提特殊要求。
AI解读:生成式AI进入日常决策后,一部分顾客开始把ChatGPT的输出当作比现场专业人士更可靠的信息源。The Verge采访的餐厅服务员、护林员、教师和食品服务经理都遇到了这种新型冲突:AI说没事,人就坚持没事,哪怕专业人士当面指出错误。
对一线工作者来说,这改变了他们工作里最基础的一环——说服。服务员要反复解释菜品含过敏原,护林员要指着地图说明AI编造的营地不存在,教师跟家长谈孩子睡眠不足却被ChatGPT的意见挡回来。这些场景里,AI幻觉不只是技术问题,它直接消耗了人与人之间原本用于协商和纠错的时间。
从顾客角度看,AI工具提供了即时、免费、不评判的回答,部分人因此绕开了可能让自己显得不懂行的服务员、侍酒师或专家。问题在于,这些回答没有现场核对,还可能编出根本不存在的酒、营地和不合理的行程。
报道也提到代理式AI带来的新麻烦:用户让AI代理替自己打电话、发邮件预订或提要求,对方甚至可能不知道这些请求从何而来。这种自动化在行政事务上或许省事,但在需要两个人当面商量的事情上,报道中的受访者认为可能丢掉一些重要的东西。
目前没有公开数据显示这种情况有多普遍,报道依据的是多位从业者的个人观察和经历。对普通读者来说,不必立刻改变使用习惯;但如果你依赖AI做健康、安全或出行决策,现场专业人员的核对仍然是目前更可靠的兜底。
The Verge记者Gaby Del Valle采访了纽约餐厅服务员、联邦土地护林员、课后班教师和食品服务经理,记录了一种正在出现的冲突:顾客把ChatGPT或Claude的生成内容当作权威,用来反驳现场专业人员的判断。
纽约市服务员Madison说,她最近几次遇到客人先告知shellfish过敏,随后又点了一道汤底由贝类熬制的鱼菜。当她提醒菜品含过敏原时,有客人反驳说ChatGPT不这么认为。Madison说:"你对贝类过敏,ChatGPT说这里面没有贝类,而我们告诉你,有!"
Madison还发现,客人越来越依赖生成式AI选酒。她提出叫侍酒师,客人说"不用,我问ChatGPT就行",或者直接让侍酒师离开桌子。有客人点名要餐厅没有、甚至根本不存在的酒。
在Mountain West联邦土地工作的护林员Jason说,带AI生成行程来公园的游客变多了。他和同事要向游客解释AI虚构了营地,或者把行程排得地理顺序错乱:有些天要逆流划船(不可能),有些天又顺流而下。Jason说,即使护林员指着地图解释,仍有多个团队半信半疑,"某种类型的AI用户倾向于相信ChatGPT,而不是护林员、地图和印刷指南"。
纽约课后班教师Casey说,许多学生的家长、保姆和其他照护者开始用ChatGPT或Claude回答儿童发育问题。有一个家庭用ChatGPT制定孩子的睡前流程和睡眠时间表,但孩子睡眠不足。Casey根据孩子在项目中的表现估计他每晚需要多睡两到三个小时,并告诉了家长,家长坚持说ChatGPT告诉他们这个时间表没问题。
有15年食品服务经验的Lauren Wilford注意到AI也在进入她与客人的互动。一开始是有人把菜单拍照上传给ChatGPT或Claude,问该点什么、怎么配酒,而不是问服务员。过去一年,她所在的餐厅开始接到AI代理替用户打电话、发邮件预订。Wilford怀疑,一次大型活动前夜突然出现的讲台和AV设备需求、以及餐饮菜单的最后一刻改动,可能根本不是客户公司的人提出的,而是AI代理所为。