铁算盘论坛www.903438.com,白小俎开奖最快结果,44799开奖结果,53994东方明珠心水论谈,118kj手机看开奖记录电脑板,4556711.com,www.80840.com

儿童邪典片流入视频网站 专家:人工智能难辨认 视频网

发布日期:2021-03-10 08:52   来源:未知   阅读:

  这些儿童邪典视频很可能在机器识别阶段就逃过了审核,牛魔王论坛60349公式,目前难有万全之策,依然要靠大量的人力投入

义务编辑:桂强

  原题目:这一波小猪佩奇“儿童邪典视频” 人工智能临时没辙

  让facebook束手无策的“儿童色情攻打”,最近成了众多中国度长的恶梦。

  此外,场景识别是另个难点。“这些视频里有人衣着蜘蛛侠服装,很轻易跟cosplay混杂。”另一位专业人士对《财经》表示。

  多数接受《财经》记者采访的视频网站都表示,事件对目前视频平台UGC的审核方式、技术手段都提出了新的挑战。

  《财经》记者 陈潇潇 梁辰/文  谢丽容/编纂

  内容审核始终是视频网站的困难。去年年初,相似事件曾让facebook一筹莫展。Facebook旗下视频网站YouTube,忽然出现了大量儿童不宜的动画。其中以迪士尼动画片《冰雪奇缘》里艾莎公主的改编视频流传最广。视频中,艾莎接收了各种开喉咙、开颅手术,画面血腥,已被阅读了上百万次。

  据懂得,大部分视频网站都采取先机器识别、视频抽帧再人工复核的审核流程。一位图像识别专业人士对《财经》记者表示,人工智能能够对一些断定的角色和剧情进行识别,好比人物是否穿衣等,这种情况下,识别率能达90%。

  此外,视频网站的另个挑衅是,视频内容审核应当配合人工智能,直丰盛常识库,晋升图像辨认才能的同时,人工细化视频断定等级。比方对“不袒露但模仿性交”的情形进行人工标注。

  去年“艾沙门”发生后,facebook曾在已有的4500名视频审核员的基本上,又紧急额定雇佣了3000名。历时半年,至2017年 11 月才逐步平息那场儿童色情暴力视频风波,删除的视频超过15万个。

  不仅是腾讯、爱奇艺,这些视频简直“入侵了”所有带视频功效的网站。快手对《财经》记者表示,该公司也发现了少量相关视频,目前已采取了屏蔽关键词等办法。

  事件的重大性引起了相干部分器重,1月22日上午,北京市行政市场执法总队宣布了对于查禁“儿童邪典视频”工作的紧迫告诉,请求包含视频、搜寻引擎及游戏在内的机构立即将其下架,并不得传布、应用。

  这些视频大都呈现在多少个月、甚至半年前,但并不被觉察。一位业内人士剖析说,视频大都被纳入了亲子、少儿、动漫分类,至多被标上“恶搞”标签。

  一位行业人士对《财经》表现,在海内,人工核查部门大局部公司都采用外包的情势,优先审查被举报的视频。但当初看来,视频网站须要更多元的手腕跟处置方法,包括增强对UGC上传者的资质认证,较强冷空气将影响中东部 华北西北等地有沙尘气象 内蒙

  截止目前,腾讯下架涉儿童邪典原视频1464条,对23万存疑视频作批量下架,对53万余条视频作撤回复审;封禁恶意账号621个。而微博则称已永恒封停上传帐号 87个,制止有害上传及屏蔽搜索症结词4755个。

  1月22日,全国“扫黄打非”办公室安排广东省“扫黄打非”办公室对涉嫌制造传播儿童色情视频的广州胤钧商业有限公司制作传播涉儿童有害视频一案依法进行考察。执法部门已要求该公司将其所有相关视频下线,并依法查封两处出产经营场合,拘留收禁用于生产经营的专用工具和装备,责令当事人结束生产经营运动。

  “但小猪佩奇的情况要庞杂得多,” 人工智能专家刘锋对《财经》说明,“这些内容和剧情不完整跟色情有关,有些甚至波及到不健康的世界观,都比简略的识别色情更难。” 更主要的是,在以往的数据库中,类似小猪佩奇、艾莎公主这样的内容从未被以为是可怕、色情,因此因为缺少模型练习,人工智能无从识别。

  名义上是儿童动画片,但随同着轻快的音乐,画面突然就涌现了裸露的卡通人物,跟着剧情发展,卡通人物开端被灌肠、迫害,成人看了都会不适。但这些血腥、色情的内容,都被隐含在小猪佩奇、艾沙公主、蜘蛛侠等经典儿童影视作品中。

  因而,这些视频很可能在机器识别阶段就逃过了审核。要杜绝此类事件的产生,目前难有万全之策,仍然要靠大批的人力投入。

  1月18日,有微博网友举报,这些经由“二次改编”的不良视频已在腾讯、爱奇艺等头部视频网站上传播已久。只有搜索“艾沙”、“蜘蛛侠”、“小猪佩奇”等要害字,相关视频就会处于搜索列表的顶部。

  时隔年,这波“袭击”到了中国。1月23日晚,微博在申明中称,经过技巧侦测,发明存在大规模歹意有组织的上传行动。而上传这些内容的账号都是UGC用户(原创用户),部分账号的订阅超过数万,依照这个范围,观看过的儿童不在少数。这些账号不仅从外网搬运,有些甚至还上传了本土制作的不良动画视频。

  点击进入专题

  因为不良视频的总量大,散布广,密集上线,变品种型多,腾讯视频已紧急组建了100人的清算小组,进行24小时排查。