斗鱼不断投入技术研发加强严打低俗庸俗内容用AI构建内容防火墙

2020-07-20 11:45:00来源：IT之家

在 “人人都是主播，万物皆可直播”的时代，为了严防低俗内容出现，国内领先游戏直播平台斗鱼不断投入技术研发，优化完善平台规则，严打低俗庸俗内容，用 AI 构建内容防火墙。

今年 3 月起，斗鱼对直播内容进行了分类巡查和整治，针对色情三俗、造谣传谣、侵权假冒、标题党等六大类恶意营销账号进行了全面深度排查，对问题账号进行了从重、从快处理。今年 6 月份，斗鱼累计清理问题账号 4099 个，其中低级庸俗类 3200 个、标题党类 861 个、造谣传谣类 20 个、侵权假冒类 18 个。截至目前，斗鱼内容整治措施已取得了实际到位的效果。

在斗鱼内容监管体系下，平台所有开播主播均需要通过 “实名验证 + 人脸识别 + 人工审核”三道防火墙，既能够从源头防止劣迹主播直播，也能杜绝未成年人进行直播，并能在主播违规后第一时间追踪到个人，预防后续恶性事件的发生。

主播开启直播间后，其所产出的直播视频内容就在 AI 系统里不停运转，每个画面都会通过程序做实施对应识别，一旦机器自动识别到低俗、恶搞、谩骂等不良内容，拦截违规的图像视频，平台可以对这些不良内容做到 “秒关”。在颜值、户外等泛娱乐版块，系统还会同步采取捕捉交传声信息进行分段切片，并通过数据模型进行分析、通过语音、语义、弹幕文字等关键点进行智能判断识别，过滤问题内容推送至人工审核。

据了解，斗鱼的 AI 审核技术已经发展的相当成熟，目前在直播领域里，斗鱼对图片、视频、音频的鉴黄准确度都非常高，已经可以对外输出该项技术能力。对比其他平台，斗鱼拥有更加庞大的、独特的用户数据和行为数据，并且能够基于海量用户数据进行分析运算。对比早期斗鱼只能应用第三方数据进行图片识别，目前平台均已实现自主建模。相对于第三方数据，斗鱼风险识别系统经过长期数据筛选、培育和自学习后，积累了大量的违规特征数据，构建了强大计算能力，使得自身的风险识别模型更加精准。

除了自动化监管外，斗鱼采取机器审核和人工审核相结合的方式，通过后台监控、人员巡查、机器识别以及举报处理等各种途径对所有直播频道进行全天 24 小时监控。为进一步防止出现 “漏网之鱼”，斗鱼还设立了电话举报、网页和 APP 一键举报等功能，更特别集结招募热心观众对全平台直播相关内容进行监督与巡查。截止目前，斗鱼巡管团队共计参与报名人数为 17 万余人，已有 2000 余名斗鱼热心观众加入。

除此之外，斗鱼还特别制定了完善的应急处置制度，涵盖 “突发公共安全事件的应急处置制度、应急响应预案、互联网突发事件应急处置预案”等各项内容，提高重大安全事件、突发敏感事件的应急处理能力，从根源将事件的影响降到最低，所造成的破坏和损失减到最小。

在斗鱼的严格审核和封禁措施下，“清朗”行动颇具成效。斗鱼表示，未来平台将持续完善内容审核机制，充实内容审核团队，严格落实 24 小时监测的要求，不断推进网络直播行业的生态趋向健康。

标签：斗鱼用AI构建内容防火墙