快科技2月11日消息，随着AI的普及，越来越多的企业选择部署AI客服来降低人力成本，但没想到英国一家小型电商却因此陷入了一场始料未及的财务与法律风波。
这家电商部署的AI客服助手在未获任何人工授权的情况下，竟向顾客承诺高达80%的折扣，导致公司面临数千英镑损失与诉讼威胁。
据该公司老板透露，涉事顾客花费约一小时与AI助手闲聊，先测试其数学计算能力并表达赞赏，随后巧妙引导话题至假设性订单折扣。
但没想到的是，这款原本仅用于解答基础问题的AI助手竟自作主张，先是给出了25%的优惠，随后更是直接生成了一个虚假优惠码，将折扣幅度提高到了惊人的80%。
该顾客随即利用此优惠码下单了总价超过8000英镑（约人民币75654元）的商品，老板表示，如果按照这个折扣兑现订单，公司将直接蒙受数千英镑的净损失。
但顾客态度强硬地表示，如果企业不履行其AI助手做出的承诺，他将向法庭提起诉讼。
老板强调，这款聊天AI已经成功运行了超过六个月，从未出现过任何类似的意外状况，且该系统在设计上根本无权做出任何财务决策，所有的折扣和特别优惠都必须经过人工手动批准，绝不可能由系统自动生成。
最终，该公司选择将订单全额退款给顾客。
此类事件并非孤例，2024年加拿大航空就曾遭遇类似败诉，其AI聊天机器人向乘客提供错误票价信息，指引其先全价购票再申请退款，事后航空公司拒赔却被法院裁定担责。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：黑白
新浪科技公众号
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
