为提高微信开放平台生态安全性,针对小程序各内容场景中可能存在的安全问题,平台正式上线内容安全能力2.0,以协助开发者维护小程序内容安全。
小程序内容安全能力2.0介绍如下:
一、应用场景
文本内容安全检测:支持用户资料检测,用户文字评论检测,论坛文字内容检测,社交日志文字内容检测。
图片内容安全检测:支持用户头像检测,用户图片评论检测,论坛图片内容检测,社交日志图片内容检测。
音频内容安全检测:游戏聊天频道中的语音检测;直播中的主播语音检测;论坛社区发布相关媒体内容的音频检测。
二、性能优化
1. 接口识别准确度提升:通过不断优化敏感词库和深度学习技术,接口识别的准确度有较大提升。
2.接口识别结果精细化:接口的返回结果包含综合结果和详细检测结果,除了会提供处置建议外,还会标明具体的违规类型,分数,命中所配置的自定义关键词,可以更好地满足开发者个性化的需求。
3.新增自定义关键词功能:登录小程序管理后台,在【开发→开发管理→安全中心→内容风控】进行自定义关键词库的配置,具体可操作添加相应关键词的标签、分值和处置建议,接口将识别包含自定义关键词的违规内容,可以更灵活地满足开发者业务需求。
三、解决方案
微信开放平台通过开放API的方式给开发者提供内容安全2.0接口,调用地址、请求参数及说明详见接口文档:
- 文本内容安全接口文档:msgSecCheck
- 音频/图片内容安全异步接口文档:mediaCheckAsync
“游戏”类目推荐:
- 文本内容安全接口文档:gamesecurity.msgSecCheck
- 音频/图片内容安全异步接口文档:gamesecurity.mediaCheck
四、问题反馈
内容安全能力2.0常见问题可查看常见问题F&Q文档,如有其他疑问,欢迎随时参与官方社区讨论。
为什么升级之后 有些安卓用户会发不了帖子了
为啥一定要传openID?
我们是第三方,你们的审核人员提交的图片,用这个接口都监测不出来是有问题的图,结果审核人员还给我们驳回了
试了下,文字内容审核不是很给力,挺多违规内容还是检查不出来
1楼