AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-20 13:24:35
卢伊德
爱偷懒的鱼 / 澹台扶风
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
奇《瑞回》应“(进军)日[本市]场”
乐华发声明回应吴宣仪解约纠纷,否认“解约《遭拒》绝”“吴宣仪母[亲被]赶出公司”等消息
47岁唐治平被赶【出家】门游荡街头,因丧母患精神疾病,身无分文靠(朋友)接济
中国31家巨[头狂]造机器人,美国巨头为何{零下}场?
《中午》租的房,到{了晚}上,她听到……其他租客:(真的)恐怖!
女子玩“{悬崖}秋千”坠亡,当地文旅局:景区(后续)是否恢复营业、开放时[间等]尚不能确定
挑战英伟达,谷{歌欲}(登顶)【全球】市值第一
三方秘【谈了】四个月!特(朗普)对格陵兰岛执念未消,[欲无]限期驻军 美大使“冰岛玩笑”惹众怒
零食包装也变黑白,[死亡]氛围在日(本蔓)延,高市早苗还在《强行》“挽尊”
国乒开练!男《队一》天两练王楚钦清醒且自信,秦志戬{单独}[指导]蒯曼
伊朗官员:(希望)伊美谈判取得【积极】成果 伊方{仍保}留“底牌”
守护农(田底)气包头《把好》{春耕}每一道安全关