为提高微信开放平台生态安全性，针对小程序各内容场景中可能存在的安全问题，平台开放API方式向开发者提供内容安全解决方案协助开发者应对文本、图片、音频内容类型下的敏感内容识别、涉黄内容识别、暴恐内容识别等问题，以便开发者维护小程序运营秩序和安全。
# 文本内容安全检测：
功能描述：文本审核接口能够识别文本信息中的色情、时政违规、暴恐等违法有害内容，帮助用户及时、精准地防范违规风险，可用于内容审核、敏感信息过滤、舆情监控等场景。
- 该功能基于10万级大规模敏感词库，结合多种文本对抗方法、政策权威要求等，并运用了深度学习技术，高效识别高危有害内容。同时我们会根据大规模语料和实时反误杀系统，不断更新迭代，确保效果持续提升。
应用场景：用户个人资料文本内容检测；媒体新闻类用户发表文章、社区评论内容检测；游戏类用户编辑上传的素材(如答题类小程序用户上传的问题及答案)检测等。
# 图片内容安全检测：
功能描述：图片内容安全基于腾讯海量数据资源和深度学习技术，为开发者提供图片内容的智能审核服务，不仅能帮助用户降低色情、时政违规、暴力恐怖等风险，还能大幅度节省人工审核成本，保护业务健康发展。
- 通过学习和分析图片影像的肤色、姿态和场景等多种维度，可对图片进行色情识别。
- 提供包括敏感人物的面部识别与敏感事件等的场景识别。
- 基于舆情分析，提供更为严格的暴恐模型，智能识别暴力、血腥场景及恐怖主义、极端主义等涉嫌违禁的图片内容。
应用场景：用户自定义头像检测、涉及拍照的工具类应用(如P图，自拍类应用)用户拍照上传检测；电商类商品上架图片检测；媒体类用户文章里的图片检测；社交类用户上传的图片检测等。
# 音频内容安全检测：
功能描述：识别音频中的涉黄、涉政、谩骂等违规内容，从而降低人工成本，提高审核效率。
应用场景：游戏聊天频道中的语音检测；直播中的主播语音检测；论坛社区发布相关媒体内容的音频检测。
# 开发接入指引
- 文本内容安全接口文档：msgSecCheck
- 图片内容安全接口文档：imgSecCheck
- 音频/图片内容安全异步接口文档：mediaCheckAsync
# 常见问题
# 1、请不要完全依赖内容安全服务
- 将小程序UGC内容接入内容安全服务，可以有效缓解人工审核、降低违规风险，但接入内容安全服务并不意味着一劳永逸解决所有问题，为了进一步确保内容安全，我们仍建议在一些环节设置人工审核确认，以弥补AI算法存在的一些不足。
- 例如API判断为REVIEW的内容，说明可能存在风险，需要人工确认；API判断为PASS的内容，可能包含被漏掉的违规内容，可以按照一定比例抽查。
# 2、如果对内容安全解决方案有使用疑问或者需求，应该如何反馈？
- 微信开放社区开设了安全风控专区，开发者可以到安全中心专区发帖互动交流。
