• 秒刷功能
  • 编辑器快捷键
  • 关注按钮
  • 添加背景图
  • 弹幕文字修改增删
  • 时间轴增加节点
  • DIY收藏,一键套用
  • 图片快传
  • 二维码
  • 导入公众号
帮助中心首页 微信公众号早报 微信珊瑚安全产品功能与工作逻辑大揭秘!

微信珊瑚安全产品功能与工作逻辑大揭秘!

浏览量:124 发布时间:2020-08-15 14:35:11


微信珊瑚安全API的审核对象包括了文本、图片等多种内容形式。今天,安安老师将以多种审核对象为实例,为大家介绍微信珊瑚安全的产品功能与具体工作逻辑


图片内容安全审核


互联网平台图片五花八门,为涵盖全类型图片的审核工作,珊瑚安全提供组合服务接口,接入便捷、简单易用,支持通过入参自由选择审核维度,实现一次传图,多场景同时审核,并且针对不同图片,综合多重AI技术,为用户提供精准、完整的产品服务。


图片审核思路


珊瑚提供通用的API服务接口,可通过入参灵活指定需要调用的审核服务类型,实现一次传图,同时调用鉴黄、鉴政、鉴暴恐三种服务系统综合返回相应的审核意见:pass(正常)、review(疑似)、block(拦截)。同时,每项审核服务均可支持返回细分类标签的名称、原始审核结果和置信度,用户可结合业务自身需要进行结果二次封装。

落实到对各种违规图片的审核上,则更加凸显AI技术为不同识别方向带来的差异化处理


色情识别

1.通过学习和分析图片影像的多维度内容,识别并量化色情内容


2.除了普通色情图片,穿着暴露、性感、动漫色情等擦边球色情内容也在识别范围。


政治敏感识别

1.基于腾讯人脸识别技术与覆盖度高的政治敏感人物库,精准识别各类涉政人物


2.基于针对内容安全场景定制的图像检索服务,识别各种政治事件、恶搞图片


3.依托图片检索服务,在图片变形、遮挡情况下也能准确识别。


暴力恐怖识别

基于舆情分析,提供更为严格的暴恐模型,智能识别暴力、血腥场景及恐怖组织头目、旗帜、宣扬极端主义等涉嫌违禁的图片和视频内容。


应用场景


图片内容安全审核应用场景较为广泛,包括用户头像、社区发图、相册制作、直播封面、信息流、电商、游戏等携带图片的场景。



文本安全识别思路


互联网文本信息纷繁复杂,文字同样容易裹挟各类不良信息,增加了内容安全审核难度。珊瑚文本内容安全接口基于10万级大规模敏感词库,结合多种文本对抗方法,并运用了深度学习技术,高效识别高危有害内容。能够识别文本信息中的色情、时政违规等有害内容,帮助用户及时、精准地防范违规风险,可用于内容审核、敏感信息过滤、舆情监控等场景


同时我们会根据大规模语料和实时反误杀系统,不断更新迭代,确保效果持续提升。


文本审核思路


功能上按照3大恶意级别10大恶意类型做分级,辅以恶意关键词,处理内容具备指向性与针对性

应用场景


文本审核应用场景包括用户昵称、社区评论、弹幕、文章内容等,覆盖文章、视频、直播等多渠道内容。


以上是微信珊瑚安全进行安全审核时的基本功能与工作逻辑。


注:此文章来源于微信珊瑚安全;

  • 微信在线客服

    请提供详细的截图大图+文字说明您的问题

    微信:xmyeditor01

  • 微信扫码查看帮助

    扫码关注,获取各种排版小技巧,黑科技!

复制成功

  • 关于我们
  • 商务合作
  • 服务协议
  • 网站地图
  • 意见反馈

扫码查看帮助