浏览量：3159 发布时间：2020-08-15 14:35:11
微信珊瑚安全API的审核对象包括了文本、图片等多种内容形式。今天，安安老师将以多种审核对象为实例，为大家介绍微信珊瑚安全的产品功能与具体工作逻辑。
图片内容安全审核
互联网平台图片五花八门，为涵盖全类型图片的审核工作，珊瑚安全提供组合服务接口，接入便捷、简单易用，支持通过入参自由选择审核维度，实现一次传图，多场景同时审核，并且针对不同图片，综合多重AI技术，为用户提供精准、完整的产品服务。
图片审核思路
珊瑚提供通用的API服务接口，可通过入参灵活指定需要调用的审核服务类型，实现一次传图，同时调用鉴黄、鉴政、鉴暴恐三种服务，系统综合返回相应的审核意见：pass（正常）、review（疑似）、block（拦截）。同时，每项审核服务均可支持返回细分类标签的名称、原始审核结果和置信度，用户可结合业务自身需要进行结果二次封装。
落实到对各种违规图片的审核上，则更加凸显AI技术为不同识别方向带来的差异化处理。
色情识别 1.通过学习和分析图片影像的多维度内容，识别并量化色情内容。 2.除了普通色情图片，穿着暴露、性感、动漫色情等擦边球色情内容也在识别范围。
政治敏感识别 1.基于腾讯人脸识别技术与覆盖度高的政治敏感人物库，精准识别各类涉政人物。 2.基于针对内容安全场景定制的图像检索服务，识别各种政治事件、恶搞图片。 3.依托图片检索服务，在图片变形、遮挡情况下也能准确识别。
暴力恐怖识别 基于舆情分析，提供更为严格的暴恐模型，智能识别暴力、血腥场景及恐怖组织头目、旗帜、宣扬极端主义等涉嫌违禁的图片和视频内容。
应用场景
图片内容安全审核应用场景较为广泛，包括用户头像、社区发图、相册制作、直播封面、信息流、电商、游戏等携带图片的场景。
文本安全识别思路
互联网文本信息纷繁复杂，文字同样容易裹挟各类不良信息，增加了内容安全审核难度。珊瑚文本内容安全接口基于10万级大规模敏感词库，结合多种文本对抗方法，并运用了深度学习技术，高效识别高危有害内容。能够识别文本信息中的色情、时政违规等有害内容，帮助用户及时、精准地防范违规风险，可用于内容审核、敏感信息过滤、舆情监控等场景。
同时我们会根据大规模语料和实时反误杀系统，不断更新迭代，确保效果持续提升。
文本审核思路
功能上按照3大恶意级别、10大恶意类型做分级，辅以恶意关键词，处理内容具备指向性与针对性。
应用场景
文本审核应用场景包括用户昵称、社区评论、弹幕、文章内容等，覆盖文章、视频、直播等多渠道内容。
以上是微信珊瑚安全进行安全审核时的基本功能与工作逻辑。
注：此文章来源于微信珊瑚安全；
微信在线客服
请提供详细的截图大图+文字说明您的问题
微信：xmyeditor2021
微信扫码查看帮助
扫码关注，获取各种排版小技巧，黑科技！复制成功
扫码查看帮助
