AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-18 18:39:36
叶阙
向暖 / 曲曲
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
4月MPV排行:赛那四《连冠》,岚图梦想(家插)混第二,前十仅剩四款合资
那些点亮旷野[的人]:二十【年后】,功勋点灯人致敬梅子涵
被冲击的全球航空业:中东战事持续外溢(下的){航班}涨价和[取消]潮
白鹿争议发酵,[真性]情人设{是双}刃剑,【她们】一边吃红利一边被质疑?
50岁《奥沙》{利文}双手掩面吞6连鞭+12-13出局2年0冠无缘第8套大满贯
阿里财报:速卖通Brand+【加速】品牌接入,[活跃]买家渗透超30%
卡里克(赞美)曼联夏窗头号目标!曼联将展开谈判,{两大}障碍阻碍签约
林诗栋再[现王]之蔑视!名嘴大赞前世界第1归位{韩媒}:完胜【韩乒】一哥
BBC:曼联正式敲《定正》印主帅!卡(里克)喜提2+1合同,48小【时内】官宣
顾客在福《建一》餐厅用餐{时发}现石锅外壁爬[满白]色小虫,餐厅老板回应
熬过崩{溃抵}住绝望手不行了[就用]眼控蔡磊3年8万字续写《相信》
美国发《布对》伊朗和古巴新【一轮】制(裁措)施