微信小程序服务提供者对小程序内容安全承担主要责任，需要建立内容安全巡查机制，未设置安全机制或信息内容出现违规问题，平台将依照相关法律法规、平台运营规范对小程序进行违规处理。

“珊瑚安全”API目前为开发者提供图片内容安全、文本内容安全两大服务，支持对用户在各种场景上传的图片、文本内容进行识别。开发者可按需选用色情、赌博、暴恐等恶意内容识别服务，并获取到命中的恶意类型、风险概率等详细信息，帮助开发者更精细化地做好内容审核工作。

图片内容安全识别：

能力描述：图片内容安全基于腾讯海量数据资源和深度学习技术，为互联网企业用户提供图片内容的智能审核服务，不仅能帮助用户降低色情、时政违规、暴力恐怖等风险，还能大幅度节省人工审核成本，保护业务健康发展。

应用场景：用户自定义头像检测、涉及拍照的工具类应用(如P图，自拍类应用)用户拍照上传检测；电商类商品上架图片检测；媒体类用户文章里的图片检测；社交类用户上传的图片检测等。

文本内容安全识别：

能力描述：文本审核接口能够识别文本信息中的色情、时政违规、暴恐等违法有害内容，帮助用户及时、精准地防范违规风险，可用于内容审核、敏感信息过滤、舆情监控等场景。

应用场景：用户个人资料文本内容检测；媒体新闻类用户发表文章、社区评论内容检测；游戏类用户编辑上传的素材(如答题类小程序用户上传的问题及答案)检测等。

通过视频，了解更多：