AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-20 19:02:02
带玉
缘悠 / ~浅莫默
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
山东滕州市监局通报“{托管}班用臭肉烂菜给孩子做饭”:已依法对【涉事】企业立案调查
英国海[上贸]易行动办【公室】:一船只在阿联酋附《近被》控制
俞浩回应[被影]石CEO刘【靖康】吐槽:听说某知名科技新贵喜欢看美女,{满足}你
56岁王菲素颜现身无所《谓大》批粉丝怼脸【狂拍】
12306上线“敬”字票,彰显[敬老]服务的民生【温度】
[台海]观澜 | 大陆对台策略(稳扎)【稳打】
泰【兰尼】斯被曝《一双》出厂价几{百元}的童鞋,经过运作后标价近2000元
这很(不正)常,印【度的】大麻烦{来了}
韩团中国女偶像【总露】胸?宁艺卓:我{没有}露了又怎(么样)
尤杯第7日:国羽3-0大马半决赛死磕[日本],安(洗莹)带队大战印尼
“摆酒前一天我跟别人在一起”,离婚后第4天,男子收到前妻《我的情感经历》,经[鉴定]养了14《年的》儿子并非亲生,起诉前妻(获赔)17万
《低智【商犯】罪》:越[荒诞],越(有力)量?