安装新浪财经客户端第一时间接收最全面的市场资讯→【下载地址】
财联社4月27日讯(编辑 史正丞)随着AI技术快步迈入大规模应用的阶段,技术遭到恶意滥用的问题再度浮上水面。前阵子一度引发微博(11.34, 0.29, 2.62%)热议的“一键修图变成一键去衣”,正在美国以更加恶意的形式上演。
据美国技术媒体404 Media周五报道,在该媒体的推动下,苹果(245.55, -0.28, -0.11%)、谷歌(181.58, -5.06, -2.71%)分别从应用商店内下架了多款标榜能够进行“一键去衣”的应用。真正的问题在于,包括收广告费推广这些应用的Meta在内,这些互联网巨头似乎并不能自行找到这些违反其政策的应用。
恶意AI应用“登堂入室”
报道称,通过比对Meta平台的广告资料库,404 Media找到一系列推广“一键去衣”软件的广告,投放记录显示宣传这些恶意AI软件的广告曾在3、4月间,在Meta旗下的多款社交媒体平台上投放。
这类软件标榜的功能,正是可以上传真人照片,并且可以“一键擦除任意衣服”,开发者通过收费来牟利。
更令人震惊的是,这类软件并不是存活在互联网的阴暗角落中,而是正大光明地出现在苹果应用商店里。当用户点击社交媒体上的广告后,会直接跳转至苹果应用商店。在商店里的应用被伪装成了AI艺术生成器,并没有披露应用背后的实际用处(因为这肯定违反应用商店政策)。
在本周这件事情被曝光前,这些广告仍一直在Meta的社交平台上挂着,非法应用也一直混迹在苹果、谷歌的应用商店里。
接到举报后,Meta找到爆料的媒体,请求他们“将所有看到的广告链接发给他们”,并迅速下架删除。公司发言人Daniel Roberts随后表示,Meta不允许存在成人内容的广告,一旦发现会迅速删除。公司接下来将加大审查力度,并对违反政策的账户采取行动。
周五的最新消息显示,苹果公司在收到举报后,也把媒体发现的3款应用程序做了下架处理。谷歌则在近期下架了一款AI“换脸”程序。
事实上,这类具有“深度伪造”(DeepFake)功能的app至少在2022年就已经出现在应用商店里,但当时苹果、谷歌接到举报后,仅仅是要求开发者停止投放广告宣传不法用途,而不是将其下架。
已有美国学生因此被捕
虽然互联网平台对这类app处理的方式颇为被动,但这些应用已经产生了恶劣的社会后果。
据《连线》杂志报道,去年12月有两名佛罗里达州的中学生,因为使用AI生成同学的裸照遭到警方逮捕和重罪控诉。
警方提供的报告称,两名男孩的年龄分别是13和14岁,所制作照片的对象是12至13岁之间的学生。根据佛罗里达州法律,他们的行为与重大汽车盗窃、非法拘禁同属三级重罪。
虽然该案被美国媒体称为“首个引发逮捕和起诉的案例”,但在公开报道中,加州、华盛顿州、新泽西州的中学都有过类似的事件,只不过没有提到是否引发刑事指控。
目前在美国只有十个州将此类行为入罪,并没有联邦层面的法律进行规管。转机出现在今年1月底,由于在马斯克的X平台上爆发使用AI制作泰勒·斯威夫特露骨照片的事件。在事态最严重的状态下,X平台不得不禁止使用“泰勒·斯威夫特”作为关键词进行搜索。
在这一事件后,美国参议院两党议员联合提起了一项名为《2024打击非法伪造图像和未经同意编辑法案》的立法。

联名提出这项法案的共和党参议员乔什·霍利当时对媒体表示,无论是明星还是普通人,都不应该发现自己出现在AI色情制品中。无辜者有权捍卫自己的名誉,并在法庭上追究加害者的责任。









APP专享直播
热门推荐
特朗普要求从乌克兰获得任何能得到的东西 以收回投入的资金 收起特朗普要求从乌克兰获得任何能得到的东西 以收回投入的资金
- 2025年02月22日
- 22:30
- APP专享
- 扒圈小记
31,185
特朗普要从乌克兰获得任何能得的
- 2025年02月23日
- 00:02
- APP专享
- 扒圈小记
2,601
国能置业公司发布关于网络关注员工招聘情况的说明
- 2025年02月23日
- 06:09
- APP专享
- 北京时间
2,544

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)
投资研报 扫码订阅
股市直播
-
趋势领涨今天 12:05:42
内蒙古自治区10个新能源项目分别在呼和浩特市、鄂尔多斯(sh600295)市、巴彦淖尔市等地开工复工。这些项目建成后,预计年发电量超过130亿千瓦时,每年可节约标煤400多万吨,减少二氧化碳排放1000多万吨。 -
趋势领涨今天 12:05:30
=加入潜伏擒牛VIP,享四大顶级服务=【1】购买VIP自动加入私密小直播间!【2】每周3-5只超短金股调入调出服务,适合实时看盘的投资者!【3】每周一份高端内部绝密文章:包含近期布局、热点版块、指数预判!【4】每月2~3只高端中线金股服务!(VIP超短、中线个股均有涉足,让上班族也能跟上VIP节奏!)现月课7.5折,1288元!季课6.9折,3558元,续费季度更划算!新朋友可先月课体验!点网址,直接买,订购地址:【更多独家重磅股市观点请点击】【更多独家重磅股市观点请点击】 -
趋势领涨今天 11:17:03
一号文件发布,主要有几个要点:1、进一步扩大粮食单产提升工程实施规模 推动棉花、糖料、天然橡胶等稳产提质;2、支持发展智慧农业(sz000816) 拓展人工智能、数据、低空等技术应用场景;3、不允许城镇居民到农村购买农房、宅基地 不允许退休干部到农村占地建房。这些消息基本都是在市场预期之内,没有特别的地方,唯一超预期的是农业新质生产力,包括现在的生物育种技术、无人机技术、人工智能技术和数字技术等。这些都是近期炒作的热点,涨幅也是比较大,所以,明天一号文相关的板块冲高回落的概率较大。 -
趋势领涨今天 10:16:31
【2025年中央一号文件首提“农业新质生产力”】2025年中央一号文件首提“农业新质生产力”。农业农村部农村经济研究中心主任金文成对此表示,农业新质生产力的内涵是比较丰富的,包括现在的生物育种技术、无人机技术、人工智能技术和数字技术等,这些应用能够有效改变农业生产发展的状况,对我们加快农业现代化进程具有重要意义。我们要把握住这次科技革命和产业革命的机遇,在发展新质生产力上要抓好顶层设计,从制度层面、政策层面来构建适应新质生产力发展的体制机制,来支持农业农村现代化建设。同时,要构建农业的科技创新体系,提升科技创新的能力和水平,打造我们的自主创新平台,利用这些平台来推动新质生产力的发展,为我国农业农村现代化插上科技的翅膀。 -
趋势领涨今天 04:04:48
高德红外(sz002414)董事长称多个脑机接口技术已超马斯克。武汉高德红外(sz002414)股份有限公司董事长黄立在亚布力论坛年会表示,公司5年前就开展了脑机接口研究,并在不断突破脑机接口顶尖技术。高德红外(sz002414)实现了65000个通道的脑机接口,远超马斯克的3072个通道,是马斯克的20倍,并且实现了双向信息的读取与写入,而马斯克的技术则为单向。他直言,“很多技术层面的指标,我们已超过埃隆·马斯克的Neuralink公司。”不知道是不是当初的亩产万斤? -
趋势领涨今天 03:05:10
清华大学智能产业研究院(AIR)院长张亚勤院士表示,“10年后,机器人(sz300024)会比人都多,每个人身边都会有10个机器人(sz300024),包括物理或者虚拟的。未来3-5年,影响最大的受益者是IT行业本身,如英伟达、微软、亚马逊、谷歌meta、苹果,一大批芯片云计算公司等,是大受益者,他们提供技术和基础设施。 -
趋势领涨今天 01:54:15
【DeepSeek“低调”参与2025全球开发者先锋大会】《科创板日报》23日讯,《科创板日报》记者从2025全球开发者先锋大会主办方获悉,DeepSeek参与了今年大会,但是方式颇为低调,主要是以闭门会和工作坊的形式参与。 -
趋势领涨今天 01:45:26
=加入潜伏擒牛VIP,享四大顶级服务=【1】购买VIP自动加入私密小直播间!【2】每周3-5只超短金股调入调出服务,适合实时看盘的投资者!【3】每周一份高端内部绝密文章:包含近期布局、热点版块、指数预判!【4】每月2~3只高端中线金股服务!(VIP超短、中线个股均有涉足,让上班族也能跟上VIP节奏!)现月课7.5折,1288元!季课6.9折,3558元,续费季度更划算!新朋友可先月课体验!点网址,直接买,订购地址:【更多独家重磅股市观点请点击】【更多独家重磅股市观点请点击】 -
趋势领涨今天 01:45:17
二、宇树科技携两款机器人(sz300024)亮相2025GDC《科创板日报》22日讯,在2025全球开发者先锋大会上,宇树科技带来两款机器人(sz300024),一是售价9.9万元的Unitree G1人形机器人(sz300024),这款机器人(sz300024)最大的特点是轻量化与高负载能力;二是针对C端,有遛狗和拖物功能的Unitree Go2。近期人形机器人(sz300024)走势很强,现在2025全球开发者峰会已经召开,宇树科技研发的机器人(sz300024)也已经亮相,机器人(sz300024)的行情肯定没有走完,但短期是不是利好兑现了呢?三、马斯克投的飞行汽车试飞成功周末马斯克飞行汽车上天的消息迅速冲上各大网站热点,马斯克投的飞行汽车试飞成功!垂直起降,无外露螺旋桨,水平飞行可达177公里!217万元一辆,已有3300个订单。据了解,Model A可以垂直或水平起飞,最多可搭载两人。这款飞行汽车既可以在城市道路行驶,也能开到天上,满电状态下,水平飞行可达177公里,地面行驶可达322公里。国内研究报告指出,从2025年起,飞行汽车将迈入商业化启航的1.0阶段;预计到2035年左右,智能eVTOL飞行汽车规模化应用加速,成为低空交通出行的主要运载工具;预计到2050年左右,陆空两栖飞行汽车将实现大众化应用,低空交通与地面交通深度融合,构建起三维立体智慧交通体系。摩根士丹利预测,至2050年飞行汽车的全球市场规模将达9万亿美元,而中国潜在市场规模将达2.1万亿美元。飞行汽车是周末吹得最猛的一个板块,对A股市场来说,人形机器人(sz300024),DeepSeek经过连续大幅炒作以后,市场热点会不会借机切换到飞行汽车、低空经济等板块呢?我们认为这个概率还是很大的。 -
趋势领涨今天 01:45:02
暖风频吹 有个板块周末爆棚这个周末虽然美股大跌,但国内继续暖风频吹,主要集中在外资金融机构看好中国创新突破上电视;宇树科技携两款机器人(sz300024)亮相2025GDC;重点是飞行汽车真的上天了!一、外资金融机构看好中国创新据央视报道,外资金融机构看好中国创新突破。多家外资机构认为中国在科技创新领域不断实现突破,并且正在构建更完整的产业链条,这将不断提升中国的国际竞争力。摩根士丹利日前上调明晟中国指数评级,同时认为,中国公司在人工智能领域展现出较强的竞争力,在多项最新技术突破的支撑下,科技密集型企业有望实现利润率和收益率双增长。高盛发表的研报则看好中国在数据、“云服务”以及软件和应用等领域的发展前景。此外,外资金融机构还加大了对中国企业的调研频次。阿布扎比投资局、汇丰、施罗德、德意志银行、法国巴黎银行等外资机构,近期多次出现在A股上市公司的调研名单中,调研范围涵盖电动车、消费、家电等众多行业。国际金融协会日前发布的报告显示,1月,外国投资者积极布局中国资产,外资净买入中国股票和债券的总金额超过了100亿美元。全球估值最低的只有A股和港股,因为DeepSeek的突破,彻底改变了外资对国内的看法,但这里也有两点不太好:一是,内资继续大幅流出。上周五内资虽然出现了流入,但相比前四天大幅流出近1800亿来说,上周五流入不到70亿元,还是杯水车薪!重点是内资很难连续三天流入,所以,不排除,下周一内资还会继续砸盘;二是,周末巴菲特发布了年度报告,巴菲特提到将永远把绝大部分资金投资于股票,重点是主要是对日本的投资增加,没有提到A股和港股!