appid:wxf856cfe52fb46256
官方解释:
请不要完全依赖内容安全服务
- 将小程序 UGC 内容接入内容安全服务,可以有效缓解人工审核、降低违规风险,但接入内容安全服务并不意味着一劳永逸解决所有问题,为了进一步确保内容安全,我们仍建议在一些环节设置人工审核确认,以弥补 AI 算法存在的一些不足。
- 例如 API 判断为 REVIEW 的内容,说明可能存在风险,需要人工确认;API判断为 PASS 的内容,可能包含被漏掉的违规内容,可以按照一定比例抽查。
目前已接入你们官方检测接口
疑问:
ai不能100%检测正确,那是不是上传图片的组件都要接入人工审核才可以使用?如果是都要接入人工审核的操作,为啥80%的小程序都没有接入人工审核
你好,小程序对于违法违规等不当信息的过滤机制包括但不限于接入官方内容安全接口/人工复核/先审后发/开发者自行设置关键词过滤等方式,请加强提升小程序的信息安全防护能力,降低被恶意利用导致传播恶意内容等风险