AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-20 04:19:19
实验小白鼠
勿明 / 短刀
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
今{年最}炸的A级大片,《要来》了
瞒了近三个月,内塔尼亚胡终于说{出实}情:没料到伊朗敢【做到】这《一步》
泽连{斯基}(骂俄)违反停火,专家:又是基辅先动手、再甩锅
《增速》超出市场预期,彰显全产业链韧性,中国4月出口{强劲},[外贸]延续增势
中方向伊朗提供了防御系统和无人机?国防部:中方始终遵循军品出口三原则,与友好国家开(展合)作,为地区与世界和平稳【定发】挥建设性作用
美伊战争影{响几}何?全球企业已损失250《亿美》元,Q2业绩才“见真章”
胖(东来)再回应“249[元毛]巾事件”:严重失实《误导》 已起诉博主
英政府强制[国有]《化英》国钢铁公司,中国敬业集团12亿投资打水漂?
知情人士:白宫认为(与伊)朗接近达成停战《谅解》{备忘}录
“【企业】(天团)”随特朗普来华释放新信号
450【亿美】《元估》值,[梁文]锋「下山」
《环球时报》记者探访海上缉私一线:走私方《式不》断翻新,打击手段(持续){升级}