内容审核简单来说就是对用户在社交平台上上传、发布或共享的内容,包括文字,图片,音频,视频等进行审查。其主要目的是对低质庸俗的内容进行过滤筛选,从而生产高质量的内容、防止降低用户体验、保持良好的内容调性。很多内容平台采用了算法进行过滤,通过人工和算法的有效结合来提升审核效率。
随着互联网的不断发展,为了确保内容信息的安全性和规范性,内容审核变的至关重要。在国内的大企业中,内容信息体量庞大,所以内容审核占据非常重要的地位,内容审核的安全与否,关系到网站的运营安全。
不管是什么内容的审核,都应该包含以下四个基础模块:机器审核、人工审核、用户投诉审核、结果复审。
1. 机器审核
是按照制定好的规则或机器学习算法对内容进行审核.
通常,成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理。确定有问题的会被自动删除,难以判断是否有问题的会被标注,进入人工审核程序。
2. 人工审核
虽然用户投诉审核和结果复审大多时候也是人工审核,但这里所说的人工审核,特指审核机器无法判别的内容,通常占平台内容数量的比例不超过5%.
但对于一些大型的内容平台,数量已经很多了。在内容丰富的时代,我们看到许多平台在全国都有多个审核中心,每个审核中心的员工数量都成千甚至上万。
3. 用户投诉审核
是前两者的弥补,有很多违规内容以前没有出现过;所以不在规则可以过滤的范围内,或者非常隐蔽,规则难以严格过滤。用户的投诉是发现新问题的重要渠道。并及时据此对机器审核做出补充。
4. 结果复审
通常采取抽查方式,比如通过复审机器删除的内容,看规则或算法是否过于严格;比如通过查看人工删除和通过的内容,看员工的工作是否按要求执行;比如通过内容的整体巡查,看是否存在新的问题未被注意到。
VipDESK煊付科技内容审核团队,有近百名经验丰富的人工审核专员,能快速准确的对平台的相关内容做出判断并执行操作,准确率、操作量、后台积压量等指标均能达到企业要求,欢迎各大平台咨询。
