图片内容安全识别

调用本 API 可以校验一张图片是否含有违法违规内容。 频率限制:单个 appId 调用上限为 2000 次/分钟,200,000 次/天(图片大小限制:1M) 使用过程中如遇到问题,可在珊瑚安全社区发帖交流。

请求地址

POST https://api.weixin.qq.com/wxa/img_sec_check?access_token=ACCESS_TOKEN

请求参数说明

属性 类型 默认值 必填 说明
access_token string 第三方平台接口调用令牌authorizer_access_token
media FormData 要检测的图片文件,格式支持PNG、JPEG、JPG、GIF,图片尺寸不超过 750px x 1334px

返回参数说明

Object

返回的 JSON 数据包

属性 类型 说明
errcode number 错误码
errMsg string 错误信息

errcode 的合法值

说明 英文说明
0 内容正常 "ok"
87014 内容含有违法违规内容 "risky content"

请求数据示例

curl -F media=@test.jpg 'https://api.weixin.qq.com/wxa/img_sec_check?access_token=ACCESS_TOKEN'

接入注意事项

1、使用前建议进行测试

  • 在正式接入前,最好准备一批来自你业务中的图片进行测试。

  • 推荐测试图片集不少于100张,并且包含正常图片及各种违规的图片。因为微信珊瑚安全算法训练数据来自于多个行业,AI算法已经过多场景训练,但是场景训练因数据来源并不完全均衡,可能存在一些场景表现强度有差异的情况。

2、请不要完全依赖内容安全服务

  • 将包含图片、文本、视频内容的展示和分享的小程序接入内容安全产品,可以大幅度降低内容中存在的问题,可以有效减少客户投诉、人工审核的问题。

  • 但接入内容安全产品并不意味着一劳永逸解决所有问题,所有AI算法均可能存在误判。

3、增设人工审核

  • 微信珊瑚安全是较好的内容安全审核的辅助工具,但为了进一步确保内容安全,我们仍建议在一些环节设置人工审核确认,以弥补AI算法存在的一些不足。

  • 例如API判断为REVIEW的内容,说明可能存在风险,需要人工确认;API判断为PASS的内容,可能包含被漏掉的违规内容,可以按照一定比例抽查。

4、如果对珊瑚安全能力有使用疑问或者需求,应该如何反馈?

  • 微信开放社区开设了珊瑚安全专区,开发者可以到专区发帖互动交流。
  • 开发者也可以到“微信珊瑚安全”公众号,了解更多内容安全相关资讯。