内容安全已成为全球互联网生态治理问题。
互联网平台多媒体内容的爆炸式增长在带来海量信息的同时,也蕴含了大量不良、有害信息。
当内容平台快速发展时,就会被灰黑行业盯上,被视为“流量蜜罐”。
他们会利用自己的流量曝光机会,植入色情、赌博、毒品等有害信息,以及大量垃圾广告。
据不完全统计,2016年,数千个应用和服务因内容安全问题下架、关闭,给业务发展造成巨大损失。
2019年12月19日,网易易盾在北京成功举办内容安全智能系统发布会,分享易盾对内容安全体系建设的前瞻性思考,并正式发布面向智能时代的审核管理系统。
数百名企业内容风控相关人员参与了本次活动,共同探讨内容安全体系的建设与实践。
据调查,有害垃圾内容约占互联网UGC内容的3%。
其中数量最多的是各种违法广告,其次是色情低俗信息,还有赌博、毒品相关信息。
随着内容的多媒体融合以及5G等信息基础设施的发展,互联网内容也迎来爆发,内容安全压力日益严峻。
网易易盾CTO朱浩齐认为,只有全行业共同努力构建智能驱动、统一联动、个性化、人人共建共治的内容体系,才能全面高效解决内容安全问题。
-智能驱动:在新一代内容安全体系中,智能技术扮演着驱动引擎的角色。
目前,90%以上的海量实时多媒体内容可以通过智能技术进行精准识别和过滤。
自然语义、图像识别、声纹识别等都在内容安全领域得到了成熟、彻底的落地。
-统一联动:内容安全需要从源头彻底解决,需要联动账号安全和全链路联动识别分析。
利用验证码、注册保护、登录保护等反作弊技术,内容安全云能力与本地审核管理系统的联动,可以更有效地减少有害内容的产生。
-个性化定制:直播、网络文学、社交媒体等各个领域的内容监管法规不同,每种内容安全策略都需要根据产品形态进行灵活定制。
-建立集体治理:有害内容是一个社会问题。
企业需要有效整合政府法律、技术服务、同行联盟、用户等多方力量,共同防控,才能有效打击灰黑行业,构建风清气正的互联网生态。
此次,网易易盾还发布了专为智能时代设计的审核管理系统。
未来很长一段时间内,内容安全仍将是人机协作模式,各大平台需要维持一定规模的人工审核部门。
但在调查过程中,易盾发现,由于审计管理长期缺乏相应的通用标准,运营后台长期得不到研发支持。
大多数审计管理系统操作繁琐、设计陈旧、功能落后。
有些操作甚至需要在多个后端之间跳转。
需要处理的问题。
与爆炸式的内容增长和日益严格的监管要求相比,审计管理体系已成为企业内容安全的最大短板,严重影响审计效率和安全要求。
网易易盾此次发布的审计管理系统,是针对智能时代的审计机制而设计的。
它具有功能丰富、智能高效、轻量灵活、交互友好等四大优势。
-功能丰富:支持面向内容的预处理、多重审核以及全生命周期管理的质量检验和追溯;针对直播音视频、长文档等垂直场景等不同业务场景,拥有专门的视频模式。
-智能高效:基于机器学习的聚类审核,对相似内容及时预警,审核人员可以快速过滤、防止传播;高并发,支持大规模审稿团队同时作业,智能分组排版。
-轻量灵活:无需技术支持即可快速接入。
支持SaaS和私人定制。
客户可以灵活定制内容界面、安全策略、外观、业务模块等。
-交互友好:深度审核团队研究交互习惯,优化界面交互、功能安排、操作流程。
建立积分奖牌等游戏化设计,有效减少复习疲劳。
单手操作等无障碍辅助设计,让残障人士也能轻松操作。
网易易盾产品总监饶小燕表示:“审稿人是企业内容安全的重要保障,为公司的健康发展做出了很大的贡献。
我很高兴能够为审稿人设计一个友好、温馨的管理系统,让审稿人能够在自己的工作岗位上获得良好的评价。
” “网易易盾脱胎于网易安全部,扎根内容安全领域20余年。
自2016年商用以来,已服务数千家企业,其中包括OPPO/VIVO、哔哩哔哩、一博等众多知名客户。
它每天都会过滤有害内容。
拥有超过10亿条信息,是目前国内领先的内容安全和商业安全服务提供商。