AI软件怼用户159元给【父亲】买寿衣,“你爸穿蓝白衫确[实像]”,官方回应
2026-05-21 07:46:08
野北
半醒的熊猫 / 甜心可儿
近日,有用户发帖反映,其使用飞鸭 AI 记账 App 时,告知记账 AI 自己为父亲购买 159 元衣服,AI 竟不当回复称 " 那颜色 …… 他穿出去邻居会不会以为你买了寿衣?!"
该用户追问后,AI 进一步回怼,称寿衣是死人穿的,还调侃用户父亲所穿蓝白衫 " 确实像 ",引发用户愤怒,用户当即退钱注销会员。
5 月 6 日,扬子晚报记者联系该 App 客服,客服回应称,不当回复系 AI 话术漏洞所致,技术人员已紧急修复,并加强 AI 模型监管与限制。记者实测发现,再次发送相同指令,AI 回复均为正向内容,未再出现冒犯表述。
同日," 飞鸭记账 " 官方账号在用户帖文留言致歉,称不当回复是 AI 模型幻觉自动生成,非人为恶意,已紧急排查整改,加强模型伦理限制,完善幻觉规避逻辑。当日下午,官方发布《致歉信》,承认 AI 缺乏对文化禁忌的理解,平台未做好边界管控,承担全部责任。
致歉信中明确整改措施:一是紧急整改 AI 对话模型,屏蔽敏感表述,强化全场景审核;二是解释当事用户会员解除系退款默认流程疏忽,将优化服务,向当事用户诚恳致歉并提供补偿。据悉,该 App 会员可开启 AI 记账功能,永久会员 88 元起。目前,平台已完成初步整改,杜绝同类问题再次发生。
猜你喜欢
没时间了,中方通【牒送】[进东]京,断高市后路,日本人流泪向中国道歉
好经营带[动社]区好服务(经济新方位·服务业扩{能提}质)
知名景点[人气]爆棚,“来密云看海”成为五一{假期}京郊出游新《热点》
【冷门】!英超德{比影}响保级,热刺迎来三分良机,森林[士气]大振
丈《夫在》家,女子还要偷和[情夫]睡,08年再{被情}夫捉奸,杀死她和女儿
独家视频丨习(近平)举行【仪式】欢迎美国总《统特》朗普访华
{上台}将满两年,赖清德民(调惨)淡且不【如萧】美琴,绿营政客已开始投机“选边站”?
460(万奖)金!吴宜泽决赛冲5大纪录:首位00后冠军【中国】选手两[连冠]
章燎原转型遇挫?三只松(鼠生)活馆9店年入1900万,【不及】宣传下限
林志颖(妻子)晒与Kimi合照庆《母亲》节,公开13年前龅牙照,【仍被】夸很美
中(国美)国商会:特《朗普》即将访{华令}美国商界感到振奋
鲍威尔称卸任主[席后]将留任美联储{理事},美财长谴责:《实属》罕见