收藏
回答

你好,经平台验证,你的小程序对违法违规等不当信息的过滤机制不够完善,这个怎么处理?只能加API调用?

AppID
wx1de79ff9aa06dea8

前天更新了小程序,昨天收到了上面这个消息通知,让调用API检测。然后我看了《微信小程序平台运营规范》

5.18 内容安全:

违规内容

小程序涉及未设置过滤违法、违规等不当信息内容的机制。必须调用内容安全检测接口校验文本/图片是否含有敏感内容,提升信息安全防护能力,降低被恶意利用导致传播恶意内容的风险。包括但不限于以下类型:

  5.18.1 UGC平台类小程序,小程序为平台工具类,违规信息均为平台内用户发布,平台未对用户发布内容设置违法违规内容过滤机制。

  5.18.2 昵称测试/算命类UGC小程序,小程序内可任意输入敏感违规内容,无安全过滤的。

  5.18.3 抽奖类账号,用户发布违规内容的。


1、上面这几个类型我似乎也没有哪一个是符合的。5.18.1工具类吗?可是即使是算工具类,后面不是还带用户发布吗?我这个小程序不存在用户能发布内容的地方。

2、我这个小程序全程都是在前端这边处理的,没有服务端,图片也不会上传,断网下小程序依然可以使用,而且前端本地也不会存储用户选择的图片,用户关掉小程序就没了。

3、然后我去看了 多媒体内容安全识别mediaCheckAsync这个API,其中入参scenenumber场景枚举值(1 资料;2 评论;3 论坛;4 社交日志),所列4种场景跟我这个小程序似乎也挂不上边?

4、我仔细看了mediaCheckAsync相关文档,这个API是异步的,最长可达30分钟才能获取到结果,而且还是采用消息推送到服务端的。那么即使我去写一个服务端来调用,似乎也不合理吧?总不可能让用户选择完图片 一直等待(0-30分钟) 推送验证结果吧?

5、然后我看了下,我整个小程序里唯一可能产生 被恶意利用导致传播恶意内容 这个问题的 应该就是 小程序右上角...那里的 转发给朋友/分享到朋友圈 这两地方吧,但是这两地方我也处理了,设置了转发标题跟封面了。


想问一下这个问题应该怎么处理?



小程序页面如下:

回答关注问题邀请回答
收藏

4 个回答

  • Jipwingleon
    Jipwingleon
    2小时前

    你好,经核实,小程序对于违法违规等不当信息的过滤机制包括但不限于接入官方内容安全接口/人工复核/先审后发/未过滤图片禁止分享/开发者自行设置关键词过滤等方式,请加强提升小程序的信息安全防护能力,降低被恶意利用导致传播恶意内容等风险。

    2小时前
    有用
    回复
  • 风清雾散云开见日出
    风清雾散云开见日出
    2天前

    能上传图片和编辑文字内容,都必须使用安全审核api(官方的api不是百分百拦截),需要自己添加拦截关键词与增加人工审核机制。

    2天前
    有用
    回复 7
    • 一世長安
      一世長安
      2天前
      没有上传,只在前端本地显示
      2天前
      回复
    • 一世長安
      一世長安
      2天前
      这怎么人工审核额,图片不走服务,也没有什么链接
      2天前
      回复
    • 风清雾散云开见日出
      风清雾散云开见日出
      2天前回复一世長安
      你的可以分享,就必须进行图片、内容安全审核。
      2天前
      回复
    • 风清雾散云开见日出
      风清雾散云开见日出
      2天前回复一世長安
      否则:可以随便提供一些黄、违禁图片、内容等分享。肯定违规的。
      2天前
      回复
    • 一世長安
      一世長安
      2天前回复风清雾散云开见日出
      分享已经限制死标题跟封面了呀,用户没办法自定义
      2天前
      回复
    查看更多(2)
  • 一笑皆春
    一笑皆春
    2天前

    你得加上安全监测机制,不能填写违规文本,不能上传违规图片。

    2天前
    有用
    回复 2
    • 一世長安
      一世長安
      2天前
      没有上传,只在前端本地显示
      2天前
      回复
    • 一笑皆春
      一笑皆春
      2天前回复一世長安
      本地显示也不行,判断上传的图片有问题,直接提示有问题不能显示
      2天前
      回复
  • 跨商通
    跨商通
    2天前

    你得加上安全检测。

    2天前
    有用
    回复 4
    • 一世長安
      一世長安
      2天前
      问题是他是异步的,不可能一直等到消息推送了才允许用户操作吧
      2天前
      回复
    • 跨商通
      跨商通
      2天前回复一世長安
      只能按异步的要求,去调整你们的功能以及代码。反正不加安检,你们上不了线,就问你们肯不肯改了。
      2天前
      回复
    • 一世長安
      一世長安
      2天前回复跨商通
      本来都没有上传功能,按这个要求改就必须增加上传功能。就算是写个服务端去接收图片,然后调用检测,那异步时间不定。。。理论上可以30分钟才给推送,那这期间用户什么都操作不了,只能一直等待,这太不合理了。
      2天前
      回复
    • 跨商通
      跨商通
      2天前回复一世長安
      没有什么不合理的,大家都按要求修改了,你按要求改就完事了。
      2天前
      回复
登录 后发表内容