AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-20 14:27:48
夏汐依
吉祥夜 / 夏琳心
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
湖南[一小]车在《高速》公路跑100码,突然接到陌生人电话直接吓哭:你车轮{没了}!
贺娇[龙账]号(时隔)100天更新,官方开通新账号进行迁移,“90后”清【华毕】业生成为“推荐官”
俄罗斯首[次公]开定(制版)苏-57战斗机,专门为满足印度需{求而}设计
四川(凉山)25岁失联【女子】遗体被发现警方介入调查
再见老钱风,今年流【行的】“中式静[奢风]”穿{搭太}时髦了!
网红偷税为什么越来越藏不住了?因为{背后}站着严《厉的》爸爸
20【万就】能开店、(十个){月就}能回本?万店狂奔的“四个朋友”只是“看上去很美”
山东泰安一男子在减肥[训练]营内身亡 当地警方{已介}入调查 训练营:其刚入营还未开始训练
巴菲特“接班人”【首份】投资作业本[出炉],哪《些信》号值得关注?
{大厂},为《何在》【抢文】科生?
“破1”一周后又破0.9%,余{额宝}[万份]收益不到三毛钱
聚焦“具身角色智能”,青心【意创】与香港具身智能实验室达成深度(战略)合作