【.com原创文章】日前，网易易盾召开2019内容安全智能体系发布会，分享易盾在建设上的前瞻思考内容安全体系，正式发布智能时代审计管理系统。中国人工智能产业发展联盟办公室主任、互联网信息技术委员会秘书长石琳，央视网网络安全部副主任黄乐应邀发表主旨演讲。100余名企业内容风控人员参与了此次活动。共同探讨内容安全体系建设与实践。会后，网易易盾CTO朱浩琦和网易易盾产品总监饶晓燕也接受了媒体采访，分享了网易易盾内容安全体系的创新和应用价值。 内容识别产业初具雏形三大难点亟待解决 石林表示，在互联网高速发展的时代，也产生了大量的有害信息。文字、图片、音频、视频不仅是互联网信息传播的有效手段。载体也成为传播色情、暴力、恐怖等有害信息的载体。 他透露了一个特殊的网络通知数据。仅2019年11月，各级网信部门共受理不良信息举报970余万条，几乎每一位网民都受到过不良信息的骚扰。国家一直在颁布各种相关的管理规定。今年10月，《网络音视频管理办法》明确要求相应媒体和网络音视频提供者在传播、发布视频时要有相应的检测手段。而不少厂商也积极参与利用人工智能等技术，对文本、语音、图像、视频等有害信息进行识别和处理。 石林还指出，内容识别行业还处于起步阶段，还存在三大问题需要解决：一是缺乏标准，二是缺乏训练数据，三是日益复杂的通信形式。 以智能为出发点，网易易盾不断创新突破网易易盾CTO朱浩棋 对于内容安全的现状，网易易盾CTO朱浩棋表示，为此，易盾构建了一个未来——面向内容安全体系，希望通过智能驱动、统一联动、个性定制、共建共治的体系，全面高效解决内容安全治理中的一些难点问题。 朱昊琦告诉记者，随着法律法规越来越完善，加之企业社区氛围调性建设，以及企业积极承担社会责任，越来越多的企业需要内容安全服务。他以苹果应用商店为例。AppStore有40多个类别的应用程序类型，每个类别都有数千款应用程序，其中大部分都有内容安全需求。不仅如此，很多传统行业也开始需要内容安全技术的帮助，比如金融行业，为了增加用户粘性，他们也开始做互动评论，这也使得他们的产品/社区不可避免地受到了危害信息。“内容安全正在上升，到2025年，预计智能终端设备的数量将上升到80亿台，这些终端产生的信息量将达到惊人的水平，一些有害信息的规模也可想而知。”因此，我们现在必须开始内容人工智能是构建安全生态的一个非常好的起点。” 据了解，网易易盾此次升级的内容安全智能系统是以智能为驱动的：目前99.8%以上的海量实时多媒体内容都可以通过智能技术进行精准识别和过滤。自然语义、图像识别、声纹识别都在内容安全领域成熟并落地。这背后是网易易盾技术的不断打磨和迭代。今年仅在图像检测能力的升级上，新增了40+个子分类模型，50个重要更新，性能提升30%，召回率和准确率提升10%... 据朱浩其，智能驾驶效率更高，漏判率远低于纯人工审核，智能指标模型的准确率非常高。误判数据，从而帮助机器提高误判基线。他告诉记者，传统的内容审核往往依赖关键词，但网易易盾建立了智能关键词模型，可以理解上下文语义，根据整篇文章的句子进行判断，准确率较高。更重要的是，还节省了大量的人力成本，将人工审核的工作量减少至少80%，这意味着如果用户采用网易的内容安全技术，只需少量的人力成本就可以实现内容安全的高度可控.网易易盾产品总监饶晓燕 饶晓燕坦言，其实灰黑产品一直紧跟新兴技术发展的步伐，不断尝试用更新的方式隐藏自己。例如，以往不法分子将关键信息隐藏在文本中，看似无意义的字符串，传统的内容安全技术无法识别出问题，而现在网易易盾技术可以对文本内容进行聚类，真正识别出这些隐藏的非法信息。再以图片信息为例，灰黑产品在不同图片的不同位置放置二维码，企图遮天蔽日。一般的内容安全技术确实可以识别，但是可以通过图像聚类，用眼尖的方式识别。“虽然灰黑生产从未停止扩张，但我们的技术一直在进步，研发创新也在不断突破，遏制他们的发展势头。” 为智能时代设计的审计管理系统 发布会上，网易易盾还发布了为智能时代设计的审计管理系统。之所以推出这套审计管理系统，是因为传统审计长期缺乏相应的通用规范，运营后台长期得不到研发支持。大多数审计管理系统操作繁琐、设计陈旧、功能落后。一个后台跳转处理问题。 饶晓燕表示，与爆炸性的内容增长和日益严格的监管要求相比，审核管理制度已经成为企业内容安全的最大短板，严重影响审核效率和安全要求。网易易盾此次发布的审计管理系统专为智能时代的审计机制而设计，具有功能丰富、智能高效、轻量灵活、交互友好四大优势。“审核员是企业内容安全的重要保障，他们为公司的健康发展付出了很多，很高兴能为审核员设计一个友好、温馨的管理制度，让他们的工作更轻松、更轻松。”快点。” 网易盾脱胎于网易安全事业部，深耕内容安全领域20余年。自2016年商用以来，已服务上千家企业，包括OPPO/VIVO、哔哩哔哩、一智播等众多知名客户。十亿片，是目前国内领先的内容安全和业务安全服务商。【原创稿件，合作网站转载请注明原作者和出处为.com】
