Facebook要开发芯片,由AI版主来管暴力直播

Facebook要开发芯片,由AI版主来管暴力直播
2018年06月01日 08:46 IT之家

  直播很受欢迎,直播也很受争议,除了脱衣服、造谣、造假炒作外,直播平台涌入了更可怕的暴力、谋杀、自杀内容。

  2017年,Facebook(196.64, 0.00, 0.00%)度过了一个血腥的复活节,一个男子在上面直播开枪杀人。

  发生了恶劣的直播杀人事件后,各大在线媒体平台都在开发“暴力标记算法”,Facebook近日宣布要研发AI芯片来发现、标记、过滤此类直播视频。

  社交媒体公司自己造芯片

  升级软件已经不能满足Facebook 的需求,更强大的算法需要定制化AI芯片来支撑。虽然有大量的公司(英特尔(21.49, 1.82, 9.25%),三星,Nvidia(137.71, 4.14, 3.10%)等)在开发节能芯片,但Facebook 决定自己来。Facebook的首席人工智能科学家Yann LeCun表示:越来越多的智能手机配备了功能强大的芯片,可让用户直接在其设备上利用语音识别,增强和虚拟现实以及图像和视频处理功能。这种趋势将会增长,促使更多以软件为根本的公司考虑硬件。

  Facebook最近宣布可以通过主动上传裸照,生成数字指纹(digital footprint),AI 通过识别数字指纹禁止其他人上传,以这个系统打击“色情报复”。

  与裸露照片相比,暴力视频的识别则困难许多。AI难以辨别内容是在传播暴力、有自杀倾向,还是仅仅在开玩笑。除了搜索信息,AI需要具备结合语境分析内容的能力。

▲图片来源:Fortune▲图片来源:Fortune

  目前的监控不及时,而且很耗能

  Facebook目前的监控系统由AI系统和人类版主组成,在运用传统的算法下,这种监控方式需要耗费大量的能源和人力成本。

  视频网站的审核力度和审核时间难以取得平衡。在目前的条件下,加大审核力度必然会减慢审核的速度,审核时间过长会导致用户流失。假设一个博主上传视频审核需要三天,会惹来粉丝的强烈控诉,严重影响博主的收入。

  要打击暴力犯罪,内容审核速度更至关重要。在“复活节屠杀”事件中,凶手在直播杀人前曾经发布“预告视频”,但该视频并没有引起重视,他的暴行没能被及时发现并制止。

  “杀人视频”在Facebook上逗留超过两小时,足够被下载并上传到其他平台,扩大犯罪的传播范围。

▲黄子华给想自杀者的忠告,图片来源:哔哩哔哩▲黄子华给想自杀者的忠告,图片来源:哔哩哔哩(17.47, 0.49, 2.89%)

  2018年5月20日,一个女生在微博(9.73, 0.36, 3.84%)预告全家自杀,引起网友关注,最终被抢救回来。这不是微博出现的第一封遗书,网络时代生长起来的这一代人,遗书也喜欢“留”在网络上。

  虽然这种对待生命的方式不可取,其中也不乏“自杀恶作剧”和儿戏的遗书,但这种“自杀预告”也给自杀者带来被抢救的机会,重要的是及时被发现。

  拥有更强“暴力标记算法”的AI版主是未来的趋势,不仅能及时报告问题,阻止暴力和自杀行为,还能降低能源和人力成本。

▲图片来源:Innovation Village▲图片来源:Innovation Village

  2016年底我国的《互联网直播服务管理规定》出台,平台配合相关部门进行直播内容整治,但从目前的情况,色情、暴力、谣言、诈骗等内容还没彻底从直播平台消失。

  2017年10月26日,电竞选手“死亡宣告”在游戏直播中“疑似”殴打女友,被警方以涉嫌暴力伤害带回调查,后英雄联盟官方决定对他禁赛20个月处分,且多个直播平台封禁他的账号。

  网络上看到暴力行为不会比现实生活多,但暴力通过直播传播,会带来更广的社会影响。在直播中施暴,死亡宣告”宣告”了自己职业生涯的死亡。

▲死亡宣告直播画面,图片来源:TechWeb▲死亡宣告直播画面,图片来源:TechWeb

  最近又发生了直播筹款被网友质疑的“眼癌女童小凤雅事件”,直播平台打赏牵扯进了“筹款真实性”的社会舆论中。

  土味直播有点可爱,但暴力直播很可憎,“儿戏的”自杀直播消耗网友的善心,直播内容监管还有很多功课要做,无论是制度还是监管技术。

责任编辑:孟然

Facebook 芯片 直播

0条评论|0人参与网友评论
最热评论

热门推荐

男孩未完成作业被批评后举报父亲藏罂粟壳,民警查出8个 收起
男孩未完成作业被批评后举报父亲藏罂粟壳,民警查出8个

男孩未完成作业被批评后举报父亲藏罂粟壳,民警查出8个

  • 2025年01月17日
  • 02:15
  • APP专享
  • 广西台新闻910
  • 17,762
APP专享
钟睒睒连发3条朋友圈炮轰电商平台:经济的“绞肉机”,中小经营户的“周扒皮”

钟睒睒连发3条朋友圈炮轰电商平台:经济的“绞肉机”,中小经营户的“周扒皮”

  • 2025年01月17日
  • 00:09
  • APP专享
  • 我是山河君
  • 7,406
APP专享
支付宝回应付款优惠失误:未发资金追回短信,不会向用户追款

支付宝回应付款优惠失误:未发资金追回短信,不会向用户追款

  • 2025年01月16日
  • 22:40
  • APP专享
  • 我是山河君
  • 2,781
APP专享
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股票简称 最新价 涨跌幅
以下为热门股票
三峡能源 4.22 +0.48%
京东方A 4.34 +0.70%
TCL科技 4.92 -0.61%
中远海控 14.28 -0.90%
格力电器 46.00 -0.65%
广告

7X24小时

Array
Array

股市直播

  • 图文直播间
  • 视频直播间
更多>
广告