当前位置: 首页 > 科技赋能

抖音举办平台治理开放日,半年打掉25个黑色产业团伙

时间:2024-05-20 01:54:54 科技赋能

12月1日,抖音在北京举办以平台治理为主题的开放日,负责抖音安全抖音平台治理。

中心组首次公开亮相,介绍了安全运营、审计、技攻防、联合打击等方面的情况。

记者在开放日了解到,抖音安全中心每天拦截处理违法内容和行为超过10亿条,包括非法注册、刷单、刷粉丝、点赞、发布非法评论、视频等类型的内容。

今年以来,抖音安全中心已封禁了1万多个色情分流、色情招揽账号,仅9月份就封禁了48个账号。

在4月启动的打假名人专项行动中,已封禁黑作弊账号18万余个,重置假冒信息用户6万余名,处理问题视频1万余条。

据介绍,抖音早在成立之初就成立了安保运营小组,后来升级为抖音安保中心。

设有安全运营、安全风控、治理打压等多个团队,负责抖音平台上的违法违规内容。

和行为治理努力。

抖音安全中心负责人、帅帅表示:“抖音安全中心始终坚持‘早发现、事前拦截、事中提醒、事后追捕’的平台治理原则,利用技术手段管理平台违规行为的产品手段和运营手段。

” 。

同时,我们也将关注和研究黑灰行业动态,持续提升治理和打击的技术能力,保障每一位抖音用户的权益。

抖音采取平台内外合作机制。

对内,抖音安全中心组建了审核小组,建立了完整的审核标准和审核流程,提前拦截平台上的违法内容和行为。

同时,建立日常检查机制,建立专项检查制度,通过客户实际测试、后台技术测试等手段进行定期检查,并协同审核组通过多重手段发现违法内容和行为。

渠道。

在与外部专业团队和用户的合作方面,抖音安全中心一方面邀请专业人士参与平台审核过程。

例如,在谣言审查工作中,它会与一组权威专家一起验证判断的准确性。

另一方面,抖音安全中心也高度重视用户反馈,提供多种举报渠道帮助用户反馈信息,包括现场举报、邮件举报、违法有害信息举报热线、“截至2020年11月,“啄木鸟举报平台”小程序累计处理用户举报的违规账号5000个。

帅帅表示:“事实上,与用户在平台上遇到的问题相比,抖音安全中心处理的问题就相当于海底的巨大冰山。

它们不仅复杂多样,而且重复多变。

特别是近年来,黑灰生产团伙对新兴技术和工具的使用,进一步加大了我们工作的难度。

” 抖音安全风控专家张喜胜在分享中指出,黑灰生产团队利用新技术、新方法对平台进行攻击渗透的效率是传统攻击的三倍甚至更高。

例如,在现场播放的视频中,黑灰制作团伙的成员可以使用“群控软件”控制数十部、数百部手机,自动关注、点赞、发表评论,甚至自动发送私信和信息。

回复用户消息。

今年9月,抖音发起了针对“群控软件”的专项打击。

近两个月来,该公司法务部针对杭州、深圳、广州四家涉及抖音的“群控软件”公司进行了打击。

“软件”运营公司提起诉讼,并得到杭州、广州当地法院支持,分别下达了禁令,相关“群控软件”已被责令停止运营。

“黑灰产业的技术和手段已经一直在升级。

在与他们对抗的过程中,我们也在不断升级我们的技术和策略。

”张锡胜介绍,“抖音早期,安全中心使用词表、列表和频率,然后我们建立了决策引擎和工具平台,开始利用平台化的工具进行更高效的对抗。

“目前,抖音安全中心团队已将数据安全、人工智能等技术应用于黑灰,在产业打击中,构建立体防御体系。

张希胜演示了抖音安全中心的反欺诈解决方案该解决方案采用抖音安全中心自主研发的“鲨鱼反欺诈系统”,在账户注册、登录、发布评论内容等过程中判断该账户是否为黑、灰产品欺诈账户。

此外,张希胜表示,抖音安全中心还成立了红蓝军攻防小组,对黑灰色产品进行行业研究,希望发现黑色的最新趋势。

开放日上,抖音安全中心还展示了联合打击平台违法行为和内容的进展情况。

近四个月来,抖音治安中心协助当地公安机关严厉打击涉嫌诈骗、涉黄的黑灰色制作团队25,拘留87人。

2019年3月,抖音安全中心发现有用户多次尝试上传儿童色情视频。

经过分析分析,工作人员认为相关视频中的儿童涉嫌被侵犯。

抖音安全中心在查阅更多视频信息后,得知视频内容发生在四川省遂宁市,立即向当地公安机关报案,并启动联合打击机制。

随后,当地公安机关抽调警力组成专案组对该案开展侦查侦查。

经缜密侦查,3月29日,蓬溪县公安局网安大队将犯罪嫌疑人抓获。

据犯罪嫌疑人交代,他多次采用“提供WIFI”等方式引诱同村男生到其住所实施猥亵、拍摄淫秽视频,并使用微信、QQ、快手、网盘等各类应用程序在线进行此操作。

传播出售。

抖音安全中心主任周然今年以来参与了多起黑灰案件的打击工作。

她表示,上述案件是典型的互联网违法行为,具有长链条、跨平台犯罪的特点。

如今的黑灰产品通常涉及向上游注册和买卖账号,然后在短视频、社交媒体等平台上进行流量引流,进而在社交软件平台上实施诈骗、传播色情内容。

其中一些人将转向电子商务。

货币化平台。

“社会问题和抖音平台问题并存。

因此,我们一直认为平台责任不应该仅限于平台。

在平台治理过程中,抖音团队会尽可能进一步考虑问题。

”我们希望在解决自身平台问题的同时,也能与更多机构进行跨平台联合出击,进一步解决社会问题。

”我们也希望社会各界联手,企业、公安、企业与企业、企业与企业。

用户必须齐心协力,共同打击违法行为,构建美好、积极、健康、有价值的行业生态。