内容安全接口

内容类小程序不断涌现出优秀标杆,但随之而来的内容安全风险也不断显露。近年来诸如新媒体、视频、直播、游戏等热点领域的应用因为内容安全问题被通报处罚,甚至关停下架的案例屡见不鲜。 内容审核一是要有内容安全的技术,二是要投入人工审核资源,对于一般的运营者而言是个不小的难题。平台将信息安全优势能力封装成API接口,输出“珊瑚安全”内容审核能力,帮助小程序开发者及时发现图片、文字等内容里的涉黄涉政等违规信息,可有效节约开发者在内容审核上投入的精力和成本。

珊瑚安全提供能力和应用场景

图片内容安全检测:

能力描述:图片内容安全基于腾讯海量数据资源和深度学习技术,为互联网企业用户提供图片内容的智能审核服务,不仅能帮助用户降低色情、时政违规、暴力恐怖等风险,还能大幅度节省人工审核成本,保护业务健康发展。

  • 通过学习和分析图片影像的肤色、姿态和场景等多种维度,可对图片进行色情识别。
  • 提供包括敏感人物的面部识别与敏感事件等的场景识别。
  • 基于舆情分析,提供更为严格的暴恐模型,智能识别暴力、血腥场景及恐怖主义、极端主义等涉嫌违禁的图片内容。

应用场景:用户自定义头像检测、涉及拍照的工具类应用(如P图,自拍类应用)用户拍照上传检测;电商类商品上架图片检测;媒体类用户文章里的图片检测;社交类用户上传的图片检测等。

文本内容安全检测:

功能描述:文本审核接口能够识别文本信息中的色情、时政违规、暴恐等违法有害内容,帮助用户及时、精准地防范违规风险,可用于内容审核、敏感信息过滤、舆情监控等场景。

  • 该功能基于10万级大规模敏感词库,结合多种文本对抗方法、政策权威要求等,并运用了深度学习技术,高效识别高危有害内容。同时我们会根据大规模语料和实时反误杀系统,不断更新迭代,确保效果持续提升。

应用场景:用户个人资料文本内容检测;媒体新闻类用户发表文章、社区评论内容检测;游戏类用户编辑上传的素材(如答题类小程序用户上传的问题及答案)检测等。

音频内容安全检测:

功能描述:识别音频中的涉黄、涉政、谩骂等违规内容,从而降低人工成本,提高审核效率。 应用场景:游戏聊天频道中的语音检测;直播中的主播语音检测;论坛社区发布相关媒体内容的音频检测。

视频内容安全检测:

敬请期待。

开发接入指引

珊瑚安全基础能力:

珊瑚安全增强能力:

常见问题

1、珊瑚安全基础能力与增强能力有什么区别?

  • 珊瑚安全基础能力满足开发者的基本需求,提供基础识别能力,每日调用次数和频率有上限,仅返回 无风险/有风险 的识别结果,不提供具体违规类型;
  • 珊瑚安全增强能力满足开发者个性化需求,调用次数和频率可根据开发者需求来满足,同时提供识别返回结果会提供详细的违规类型、风险概率等参数,帮助开发者更合理地处理UGC内容。

2、如果对珊瑚安全能力有使用疑问或者需求,应该如何反馈?

  • 微信开放社区开设了珊瑚安全专区,开发者可以到专区发帖互动交流。
  • 开发者也可以到“微信珊瑚安全”公众号,了解更多内容安全相关资讯。