原因:由于有涉黄的词语给禁用搜索
过程:中午12时左右有涉黄词出现,由于阿里云/腾讯所提供的api检测均为正常,所以能够提交成功,短时间内人工审核禁用。同时提工单给阿里云要把相关词入黑色单。16时左右也有同样的涉黄词出理,人工审核禁用。两分钟后给举报能力封禁:被搜索。同时相关人员提申诉,17时左右失败。
同时12时左右提工单由于阿里云工单处理比较慢,技术员重新用例测试再三确认阿里云/腾讯所提供的api(msg_sec_check)机器检测不出来,最后技术员已经开始在编写自己的后台规则,于6点左右上线。晚上提出第二次申诉,在等结果。
作为创业公司希望做得更好,保证内容健康的基线,机审+人审尽力努力去做,个别情况下可能真得要人工审核才能确认,发现问题也立即解决。现在根据要求继续完善机制,疫情下创业不易,请查看并审核。
建议:希望msg_sec_check api完善更多词库(具体根据我的申诉找对应词测试)
你好,请按正常流程在功能封禁站内信中联系客服发起申诉即可,会有相关人员审核。