前天更新了小程序,昨天收到了上面这个消息通知,让调用API检测。然后我看了《微信小程序平台运营规范》
5.18 内容安全:
违规内容
小程序涉及未设置过滤违法、违规等不当信息内容的机制。必须调用内容安全检测接口校验文本/图片是否含有敏感内容,提升信息安全防护能力,降低被恶意利用导致传播恶意内容的风险。包括但不限于以下类型:
5.18.1 UGC平台类小程序,小程序为平台工具类,违规信息均为平台内用户发布,平台未对用户发布内容设置违法违规内容过滤机制。
5.18.2 昵称测试/算命类UGC小程序,小程序内可任意输入敏感违规内容,无安全过滤的。
5.18.3 抽奖类账号,用户发布违规内容的。
1、上面这几个类型我似乎也没有哪一个是符合的。5.18.1工具类吗?可是即使是算工具类,后面不是还带用户发布吗?我这个小程序不存在用户能发布内容的地方。
2、我这个小程序全程都是在前端这边处理的,没有服务端,图片也不会上传,断网下小程序依然可以使用,而且前端本地也不会存储用户选择的图片,用户关掉小程序就没了。
3、然后我去看了 多媒体内容安全识别mediaCheckAsync这个API,其中入参scenenumber场景枚举值(1 资料;2 评论;3 论坛;4 社交日志),所列4种场景跟我这个小程序似乎也挂不上边?
4、我仔细看了mediaCheckAsync相关文档,这个API是异步的,最长可达30分钟才能获取到结果,而且还是采用消息推送到服务端的。那么即使我去写一个服务端来调用,似乎也不合理吧?总不可能让用户选择完图片 一直等待(0-30分钟) 推送验证结果吧?
5、然后我看了下,我整个小程序里唯一可能产生 被恶意利用导致传播恶意内容 这个问题的 应该就是 小程序右上角...那里的 转发给朋友/分享到朋友圈 这两地方吧,但是这两地方我也处理了,设置了转发标题跟封面了。
想问一下这个问题应该怎么处理?
小程序页面如下:
你好,经核实,小程序对于违法违规等不当信息的过滤机制包括但不限于接入官方内容安全接口/人工复核/先审后发/未过滤图片禁止分享/开发者自行设置关键词过滤等方式,请加强提升小程序的信息安全防护能力,降低被恶意利用导致传播恶意内容等风险。
能上传图片和编辑文字内容,都必须使用安全审核api(官方的api不是百分百拦截),需要自己添加拦截关键词与增加人工审核机制。
你得加上安全监测机制,不能填写违规文本,不能上传违规图片。
你得加上安全检测。