21世纪经济报道记者 王俊 实习生 刘欣 北京报道
中秋节后,秋意渐浓。这两周, 合规动态频频。
人工智能领域,OpenAI上线o1-preview模型,被视为通向AGI的节点。发展的同时,合规也在推进,网信办拟发布AI“内容水印”要求;X已同意永久停止利用来自欧盟及欧洲经济区(EEA)用户的数据进行Grok模型的训练;Runway与狮门娱乐(Lions Gate Entertainment)签订合作协议。
平台治理方面,近期有消息称推行“全民仅退款”规则的电商软件京淘淘疑似卷款跑路,总共卷走20个亿,也有用户称被骗走数十万,引发各界关注。不过,京淘淘对此回应称,网传内容系谣言,公司目前正常经营中。市场监管总局严查侵权网店、直播带货假冒商品,淘宝拼多多等81家平台签署自律公约。
南财合规科技研究院继续推进跨境电商平台报道,在时下风生水起的跨境电商行业,商家和平台的矛盾,正变得越来越显眼。如今电商平台对商家的合规监测,几乎都紧扣大数据和自动化系统,普遍做法是由机审识别风险线索,少量人工进行核查。在这一过程中,算法黑箱常常误杀或重伤商家。
一、平台治理
1、“全民仅退款”APP京淘淘爆雷?公司回应称正常经营
近期有消息称推行“全民仅退款”规则的电商软件京淘淘疑似卷款跑路。
京淘淘称自己是以“全民退款”这一创新互联网模式为核心,秉持会员制服务体系之要义。仅有会员用户才能以“全民仅退款”的价格购买商品。京淘淘称,只要用户开通会员,不仅所有商品都支持仅退款,每件商品退款的同时还额外给予15%的提成。
根据京淘淘“全民仅退款”会员协议,会员等级分为9级,开通费用从188元递增,最高为28888元,不同等级对应不同“仅退款”额度。值得注意的是,据京淘淘会员活动细则,在签收商品之后,需完成配套会员任务或配套积分任务才可发起仅退款申请。
9月19日下午,京淘淘相关工作人员向媒体回应称,网传内容系谣言,公司目前正常经营中。
2、网信办拟发布AI“内容水印”要求:大厂试水中,中小厂有挑战
9月14日,网信办起草的《人工智能生成合成内容标识办法(征求意见稿)》(下称《AI标识办法》),就专门针对AI内容标识,开始向社会公开征求意见。
与之配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》征求意见稿(下称《AI标识国标》),也在当天由全国网安标委发布,拟在发布后6个月正式实施。
一位紧跟本领域监管动向的专家向21记者透露,深度合成问题是有关部门目前的关注重点,内容标识更是其中的关键点。虽然国家有相关标准和规定,各个大平台也有各自实践,但始终没有统一明确的规范。而且内容标识是一个最重要的AI治理工具,也是全球监管共识。这是新办法起草的大背景。
不过,多位大模型业内人士表示,AI内容标识仍面临成本高、技术不够可靠的挑战。21记者从业内了解到,一些大厂已经率先推进AI数字水印技术,小厂的压力更大,第三方网络安全公司或能从中受益。
3、市场监管总局严查侵权网店、直播带货假冒商品,淘宝拼多多等81家平台签署自律公约
9月20日,市场监管总局举行《电子商务平台经营者提升知识产权保护水平自律公约》(以下简称《自律公约》)集中签约活动。全国共有81家电商平台参加签约,23家电商平台代表在市场监管总局集中签约。
《自律公约》主要细化了知识产权权利人的平台投诉规则,要求平台建立便捷、畅通的维权解答通道,及时审查投诉证据,并在维权页面统一公布。
4、算法里的罪与罚:跨境电商的一场“盲盒游戏”
在时下风生水起的跨境电商行业,商家和平台的矛盾,正变得越来越显眼。 回看多起风暴中心,都是商家指责平台制定了不合理的“处罚”条款。
理想情况下,处罚规则应当是保护消费者、维护合规生态的一条重要手段。但随着处罚越来越像开盲盒,商家猜不准何时开出“大奖”,也摸不清判罚流程,矛盾进一步激化。
搭建起这个暗箱的,是头脑精密的算法和平台。21记者了解到,如今电商平台对商家的合规监测,几乎都紧扣大数据和自动化系统,普遍做法是由机审识别风险线索,少量人工进行核查。在这一过程中,相比误杀或重伤商家,平台更看重的是自身的业务指标会受到哪些影响。
违规行为无疑是商家身上的“原罪”。但,罪与罚的规则是否合理?谁能制定规则?这样的规则会引导商家走向合规,还是加剧恶性竞争?
南财点评:平台制定处罚规则是一种保护消费者的手段,这一点无法反驳。水军刷好评、假冒伪劣多、低价商品以次充好,这些乱象既是几大跨境电商平台想要撕掉的负面标签,也切实困扰着消费者。
但是,对于线上平台有成千上万的经营者,传统的监管模式面临挑战,平台便扮演起类似行政机关的监管者角色。
理想的情况下,平台的确享有自治权,可以自行制定规则,更灵活地解决管理难题。但平台毕竟不是行政机关,而是私主体,为了追求自身利益最大化,平台可能制定出不合理的处罚规则,导致处罚过度。在实际决定处罚规则时,平台往往考虑的是各部门的业务指标。比如,市场部门更在意流量,往往希望能进入平台的用户越多越好;而销售部门更在意商品不要被薅羊毛,希望稍有风险的用户都直接被拦截在外,处置后果自然就更严格。
在经营本就越来越内卷的当下,不成比例的“重罚”,可能会带来更恶性的零和博弈。
二、人工智能
1、Open AI发布o1-preview
9月13日凌晨,OpenAI在没有任何预告的情况下,扔出了o1-preview模型上线的重磅炸弹。
OpenAI对该模型介绍道,“ o1模型是一个新的大型语言模型,经过强化学习(reinforcement learning,RL)训练,可以执行复杂的推理。o1模型在回应用户之前会产生长串的内部思维链(chain of thought)。”这种内部思维链,类似于人类通过逐步推理来解决问题。
对此OpenAI称,这是一个重要的进展,代表了人工智能能力的新水平。
2、永久停止处理!X不能用欧盟用户个人数据训练大模型
爱尔兰数据保护委员会(DPC)近期宣布,针对X公司(前Twitter)非法使用欧盟公民数据训练其AI聊天机器人Grok的案件已达成和解。X公司已同意永久停止利用来自欧盟及欧洲经济区(EEA)用户的数据进行Grok模型的训练。该事件发生在本年8月,当时有用户向DPC提出投诉,指控X公司在未经用户同意的情况下,通过默认设置使用其公开帖子来训练AI聊天机器人Grok。作为欧盟/欧洲经济区的主要监管机构,这是DPC首次利用借助《通用数据保护条例》第134 条所采取的诉讼维权。《通用数据保护条例》是欧盟具有里程碑意义的数据保护法规。该条例于2018年生效,主要目标为取回个人对于个人数据的控制,以及为了国际商务而简化在欧盟内的统一规范。《通用数据保护条例》不仅要求处理人们数据的合法依据,还要求对任何此类操作的透明度和公平性。
3、狮门影业片库卖去炼 AI ,潘多拉魔盒就此打开?
AI初创公司Runway近日与狮门娱乐(Lions Gate Entertainment)签订了一项合作协议,旨在将生成式人工智能技术引入电影和电视制作领域。
根据该协议,Runway将利用狮门娱乐的电影和电视剧内容库,开发定制的AI模型,以协助编辑和制作过程。这些环节往往涉及复杂、重复的人工操作,带来各方面的高成本,尤其是在《疾速追杀》等动作片中体现得更明显。
中国观众比较熟悉的,来自狮门娱乐的代表作包括《饥饿游戏》《暮光之城》《敢死队》《疾速追杀》以及《惊天魔盗团》等。
VIP课程推荐
APP专享直播
热门推荐
收起24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)