浏览量:3926 发布时间:2020-08-15 14:35:11
微信珊瑚安全API的审核对象包括了文本、图片等多种内容形式。今天,安安老师将以多种审核对象为实例,为大家介绍微信珊瑚安全的产品功能与具体工作逻辑。
图片内容安全审核
互联网平台图片五花八门,为涵盖全类型图片的审核工作,珊瑚安全提供组合服务接口,接入便捷、简单易用,支持通过入参自由选择审核维度,实现一次传图,多场景同时审核,并且针对不同图片,综合多重AI技术,为用户提供精准、完整的产品服务。
图片审核思路
珊瑚提供通用的API服务接口,可通过入参灵活指定需要调用的审核服务类型,实现一次传图,同时调用鉴黄、鉴政、鉴暴恐三种服务,系统综合返回相应的审核意见:pass(正常)、review(疑似)、block(拦截)。同时,每项审核服务均可支持返回细分类标签的名称、原始审核结果和置信度,用户可结合业务自身需要进行结果二次封装。
落实到对各种违规图片的审核上,则更加凸显AI技术为不同识别方向带来的差异化处理。
色情识别 1.通过学习和分析图片影像的多维度内容,识别并量化色情内容。 2.除了普通色情图片,穿着暴露、性感、动漫色情等擦边球色情内容也在识别范围。
政治敏感识别 1.基于腾讯人脸识别技术与覆盖度高的政治敏感人物库,精准识别各类涉政人物。 2.基于针对内容安全场景定制的图像检索服务,识别各种政治事件、恶搞图片。 3.依托图片检索服务,在图片变形、遮挡情况下也能准确识别。
暴力恐怖识别 基于舆情分析,提供更为严格的暴恐模型,智能识别暴力、血腥场景及恐怖组织头目、旗帜、宣扬极端主义等涉嫌违禁的图片和视频内容。
应用场景
图片内容安全审核应用场景较为广泛,包括用户头像、社区发图、相册制作、直播封面、信息流、电商、游戏等携带图片的场景。
文本安全识别思路
互联网文本信息纷繁复杂,文字同样容易裹挟各类不良信息,增加了内容安全审核难度。珊瑚文本内容安全接口基于10万级大规模敏感词库,结合多种文本对抗方法,并运用了深度学习技术,高效识别高危有害内容。能够识别文本信息中的色情、时政违规等有害内容,帮助用户及时、精准地防范违规风险,可用于内容审核、敏感信息过滤、舆情监控等场景。
同时我们会根据大规模语料和实时反误杀系统,不断更新迭代,确保效果持续提升。
文本审核思路
功能上按照3大恶意级别、10大恶意类型做分级,辅以恶意关键词,处理内容具备指向性与针对性。
应用场景
文本审核应用场景包括用户昵称、社区评论、弹幕、文章内容等,覆盖文章、视频、直播等多渠道内容。
以上是微信珊瑚安全进行安全审核时的基本功能与工作逻辑。
注:此文章来源于微信珊瑚安全;
复制成功
Copyright © xmyeditor.com 2015-2024 河南九鲸网络科技有限公司
ICP备案号:豫ICP备16024496号-1 豫公网安备:41100202000215 经营许可证编号:豫B2-20200040