AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-20 09:09:02
猫猫宝贝
天雷猪 / 星殒落
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
U17亚洲杯前瞻:马[晓旭]挂帅出征!女足【首战】缅甸欲取大胜迎开门红
【德比】目送巴萨夺冠皇马确定赛季四大(皆空)姆巴佩加盟2{年仅}拿2小冠
金门盼{共享}[厦门]新(机场)
冠军[稳了]?蓉城创纪录8【连胜】!终结对苦主4场{不胜}11轮后11分领跑
火辣!C罗未婚妻新图释出!长裙{之下}依稀可见[深色]内搭
AI《漫剧》,游戏{大厂}(的新)搭子?
23岁女子花139元报名徒步,因【身体】不适独自返回途中猝死!旅行社称有“免责声明”,法院:不能免责,需《承担》30%责任
【三个】{月交}易超7《亿美》元?特朗普“炒股账本”曝光,硅谷和华尔街巨头一个不少
特朗普回应枪击事件中撤离“跌倒”细节,辩称“按特工要求趴到地上”,直[言枪]手有病:他是个疯子,他经历了很多,可能{病得}不轻
[半固]态电池下放10万级!上汽MG4X纯电SUV【开启】盲订:9.98《万起》
舍弃2大【名将】!日《乒诡》异换阵太离谱,世乒赛暗藏(致命)野心
“赌王”女儿《何超》蕸{追思}会,(霍启)刚、郭晶晶现身