您的当前位置:主页 > N品生活 >Facebook 训练人工智慧打击色情暴力,遏止直播内容歪风

Facebook 训练人工智慧打击色情暴力,遏止直播内容歪风

不管你喜欢玩游戏,还是看比赛,如今,移动端的影片直播都能满足你。

但伴随用户规模骤增、直播数量上涨,诸如暴力、色情等不当内容也开始泛滥。解决这个问题,「积极地使用更好的演算法,比採取法律手段有用得多」。据路透社报道,Facebook 作为影片直播巨头,将使用 AI 对网民的影片直播进行实时的监控识别,避免违规内容的传播。

Facebook 负责「应用机器学习技术」的总监康德拉(Joaquin Candela)向媒体披露,Facebook 正在开发一个能够对影片直播中不当内容进行监控和识别的工具 ,并已经开始在 Facebook 的直播产品「Facebook Live」中进行测试。Facebook 希望,人工智慧技术能够帮助其主动监控影片直播中的违规违法情况。

Facebook 训练人工智慧打击色情暴力,遏止直播内容歪风

人工智慧技术对实时影像的鑒黄分析主要是从三个方向进行: 是否有人物、人形轮廓的肤色比例、姿态分析 。直播影片可以通过解码抽帧, 识别固定时间段中抽取的图像来鑒定是否是色情视频 。

当图片或视频帧达到十万的量级,深度学习就能跑起来。鑒黄的难点就在于, 机器容易将正常图片(例如肉色裤子)误判为色情图片 ,这需要后期大量的数据不断训练和纠正,投入不小。

那幺为什幺不用人工识别呢?人工确实可以处理影片直播中违规违法情况,但由于内容数量多,用户规模大,人工处理不仅投入大,成本高,而且不稳定,速度慢,易漏判误判。

目前,仅国内影片直播应用用户规模已达 2 亿台,增速还在提高,2016 年第一季度同比就增长了近一倍。因此运用 AI 监控视频直播确实是一种理想而必然的选择。

Facebook 训练人工智慧打击色情暴力,遏止直播内容歪风

目前, 图像识别 已经广泛应用于互联网图片鑒黄、明星脸识别、暴力恐怖等信息的筛选和过滤。今年 6 月,Facebook 已经开发出能够 自动识别标注极端组织的技术 ;而在 9 月,雅虎开源了自己构建的一套深度学习神经网路,专门用于自动监测图片是否含有色情内容。

该识别系统会通过通用 Caffe 深度神经网路模型以图像作为输入并输出一个概率,给图片评估一个 NSFW(Not Suitable/Safe For Work)值,最无害的是 0,最极端是 1。

Facebook 训练人工智慧打击色情暴力,遏止直播内容歪风

影片监控方面,今年 4 月,Twitter 的人工智慧团队 Cortex 开发出了一款即刻识别直播视频内容的演算法,该技术利用深度学习的方法来识别影片中的活动。其通过学习大量样例来训练大型模拟神经网路,以识别输入的内容。样例影片由雇员观看,并添加标籤,为视频提供足够复杂的语义理解框架。

当下,众多公司都在争夺影片直播的阵地,亚马逊 (Amazon) 2014 年斥资 10 亿美元,收购了游戏直播网站 Twitch。Twitter 2015 年花费 5000 万美元收购还未正式发布的视频直播应用 Periscope。Yahoo 旗下 Tumblr 今年 6 月也宣布推出直播服务。Facebook 则因为手握巨大用户量,Facebook Live 日观看量可达 40 亿人次。

Facebook 训练人工智慧打击色情暴力,遏止直播内容歪风

中国市场中,也已经有近 200 家在线直播平台,不乏在游戏、弹幕、影片、秀场、手机等 5 大类垂直直播平台。用户总数已达 2 亿,数字也十分可观。但潜藏在这片红海下的违规违法行为,如何通过人工智慧技术手段处理,是影片直播公司一直需要面对的问题。

相关阅读
申博太阳城_三公娱乐app|阅读让生活更美好|提供生活信息|网站地图 申博官网备用网址_申博sunbet真人现场 申博官网备用网址_申博sunbt