AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-19 00:57:22
小懒龟
筱楼 / 希烟
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
黄仁勋最《新演》讲:别怕,AI把所有人拉(回同)一起跑线
{一女}子找“啄木鸟”修马桶,[工作]人员最初报价 156 元,最(终付)款 1780 元,平台回应
何[超琼]丧妹后罕露脸,穿黑裙为何(超莲)何【猷启】庆生,手舞足蹈好兴奋
历史性大手笔!中国向巴基斯《坦交》{付海}军重器
面对历史首亏,本{田是}时【候慢】(下来)了
在医《疗领》域搞新型隐性腐败,武汉大学中[南医]院原党委常委、院长王行环被“双开”,曾任武汉雷神山医院院长
先拨100万美(元研)究!美军《替换》B-52的将不是B-21
最后{时刻},黄仁勋(挤上)飞向北[京的]“空军一号”
谷歌、卡特彼《勒成》“大赢家”,AI和财(报压)倒{战争},4月的美股创2020年以来最强
湖南省委书记沈晓明、省长《毛伟》明赴浏阳市指挥调度【烟花】厂爆炸事故救援工作
72岁成(龙回)归《尖峰[时刻]4》!导演确认要在中国拍
一张68{亿采}购清单,具身智能第一【次被】写进“现实账本”