AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-21 15:47:21
宸萌
grace小贝 / 包包紫
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
她,执掌中国最大连(锁餐)饮集团,[力争]突破3《万家》店
先后与8人相亲索要彩礼60余万,涉高额彩礼骗局案件(细节)【公布】
录音曝光!81岁李家鼎哭着求长子【别再】啃老,李(泳汉)马上威[胁拿]祖屋套现
美国政府披[露特]{朗普}Q1交易:买入英伟达、苹果 减持微软、亚马逊
技术派|{巴基}斯坦一口气公开三【型巡】航导弹,南亚导弹竞赛进[入新]领域
陕西女子名(下凭)空多出5《家成》都公司,【成都】武侯通报
上海“AI光(算力)《第一》股”IPO,一【众投】资人赚麻了
敢为软件发【布全】(栈工)业管理软件体系及灵哲AI《智能》体
95后杭州女孩,在养老院工作7年![比老]人起得早,睡得晚,半夜还要帮忙翻身,“我发自内《心对》老人好,他们是【能感】受到的”
“传[家锅]”复出半{年后}面临退货潮,主(要是)因大火烧锅会发黄发黑
两女童一(个月)游戏充值逾3万家长要求全额{退款},腾讯:可退70%
赖清德强硬(回应){特朗}普?港媒:[民进]党想忽悠美国哪有这么容易