收藏
回答

关于小程序内容安全的几点疑问?

AppID
wxface40fe59f3ca8a

我的第一个小程序因为内容安全永久封禁了被搜索、分享等能力,第二个小程序刚上线几天又收到了内容安全警告,客服给我的反馈是“请不要完全依赖安全接口,建议再设置人工审核确认。如认为平台提供的整改建议不符合你方运营需求,请你自行开发,平台不作强制要求。你的整改是否能有效过滤违规内容,以审核部门测试为准,整改到期,核实未能过滤审核部门测试样本的,会处罚永久封禁相关功能”,对此我有几个疑问:

1、接入内容安全的初衷是什么?我的小程序是一个纯工具类小程序,用户提交的任何内容都只有用户自己才能看到,没有任何社交属性,那一刀切地接入内容安全的意义是什么呢?

2、小程序内容安全有没有一个明确的标准?不能说审核部门觉得违规了就违规了吧?然后如果每个审核人员的标准还不一样,那对开发者就是一个灾难,毕竟我们的试错成本太高了,经不起反复折腾。没有明确标准的规则就是耍流氓。

3、如果有标准,那小程序内容安全的标准是什么?小程序提供的文本、图片、音频检测接口,在没有触发请求频率限制的前提下到底是否完全可依赖,接口返回的建议分risky、pass、review三种,每种又还有一个0~100的置信度,我该如何处理才能达到你们的内容安全标准?不管是设置人工审核还是自行开发,依然需要一个明确的标准,如果你们自己的接口你们都不认,那我们自己搞的你们就认么?

4、如果有涉嫌违规,能否明确告知哪个功能违规?到底是某个功能漏了没检测,还是虽然检测了但是某些你们觉得违规的没检测出来呢?图片还是文本呢?模糊一句过滤机制不够完善,是要我自己去猜吗?问客服也一问三不知,每次都是一些固定话术

回答关注问题邀请回答
收藏

1 个回答

  • Jipwingleon
    Jipwingleon
    2023-01-17

    你好,小程序对于违法违规等不当信息的过滤机制包括但不限于接入官方内容安全接口/人工复核/先审后发/开发者自行设置关键词过滤等方式,请加强提升小程序的信息安全防护能力,降低被恶意利用导致传播恶意内容等风险,平台对于违规小程序的处理是根据实际具体情况进行评估。如果对平台处理存在异议可发起线上申诉,会有专人处理。

    2023-01-17
    有用
    回复
登录 后发表内容