AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-20 22:01:34
张无敌
极品妖孽2 / 辰东
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
弗洛伦蒂诺:(球员)打架[不奇]怪!26年每年都有,已找到泄密者
{德尚}的[最后]一份名单没有争议
滴滴充电:“【五一】”(假期)充《电量》同比增逾40%自驾热潮推动需求增长
“新{管理}(层对)《我不》友好”,东方甄选四大主播集体离职!俞敏洪公开致歉:是平台的损失
男篮国手王俊杰自宣:从旧金[山大]学转【校麻】省大学终极目标冲NBA
特《朗普》称鲍【威尔】对美国而言是“一[场灾]难”
伊朗划下红线——14点计{划不}可(替代)
云南15岁[女生]被男同学杀害案一审宣判:被告被判无期《徒刑》 受害人父母申请抗诉,{检察}院已受理
追《觅创》始人【俞浩】:我今天发了75条社媒动态
从“烧钱游戏”到“自我造血”,从汽(车智)造到自动驾驶千年商[都羊]城点燃智驾产业新引擎
图说:GMCM12自行榴弹炮美军【大胆】尝试确立未来重[炮发]{展方}向
历《史首》次!(日韩)安保对话提升至副部长级,剑指朝鲜与{中东}