自定义图文风险库可以帮助您有针对性的管理需要审核的图片或关键词。通过自定义风险库,您可以提前设置好图片或关键词,有针对性的对其进行拦截或放行,适用于所有审核场景。
您可以使用图片风险库来管理需要针对性地拦截、放行的图片,应对突发的管控需求。
系统预设了六个图片风险库,包含:
正常图库:命中库中的图片,审核结果将返回为正常。
色情、违法等图库:命中库中的图片,审核结果将返回为对应的违规标签。
图片风险库不支持新建,您可以在已有的几个预设库中添加样本图片。
说明:
图片风险库为账号级别生效的,您在同一个账号下的任意存储桶中的图库中添加样本图后,都会在您所有存储桶、所有审核策略中自动生效。
单个图库中可添加的图片样本为10000张。
部分特定图片可能无法添加到图库,如遇到添加失败的情况,请 联系我们。
您可以使用文本风险库来管理需要针对性地拦截、放行的文本,应对突发的管控需求。
文本风险库分为:
系统预设文本库:指系统为您预设好策略的文本库,包含:
正常文本库:命中库中的关键词,审核结果将返回为正常;
色情、违法等文本库:命中库中的关键词,审核结果将返回为对应的违规标签。
说明:
文本预设风险库为账号级别生效的,您在同一个账号下的任意存储桶中的预设文本库中添加样本关键词后,都会在您所有存储桶、所有审核策略中自动生效。
单个预设文本库中可添加的关键词样本上限为10000条。
自定义文本库:指您自己创建的文本库,您可以在库中添加多种类型的样本,包含:
自定义白库:命中库中的关键词,审核结果将返回为正常;
自定义黑库:被审核的文本若命中黑库中的关键词,审核结果将返回对应的类型,类型分为敏感和疑似两种。
说明:
自定义文本库需关联审核策略使用,仅在关联的审核策略中生效。
单个自定义文本库中可添加的关键词样本上限为10000条。
1. 登录 对象存储控制台,在存储桶列表页面选择需操作的存储桶,进入存储桶管理页面。
2. 在左侧导航栏中,选择内容审核 > 自定义风险库。
3. 在自定义风险库页面,可看到图片风险库、文本风险库、业务字段风险库三个选项卡,其中业务字段风险库的操作说明请参见 设置业务字段风险库。
4. 图片风险库和文本风险的操作步骤如下:
图片风险库
文本风险库
针对误杀场景,添加图片白样本,使图片审核结果返回为正常。
在列表中找到正常图库(预设),单击图库右侧的管理,进入图库管理页面。在图库管理界面,您可以执行以下操作:
查看图库类型:包含白库和黑库。
查看样本数:查看图库中已添加了多少样本。
添加样本:您可以往图库中添加指定的图片作为样本。
删除样本:您可以从图库中删除样本图片。
针对漏审场景,添加图片黑样本,使图片审核结果返回为敏感。
在列表中找到希望返回的敏感类型图库,如往色情图库(预设)中添加图片,审核结果将返回为色情,单击图库右侧的管理,进入图库管理页面。在图库管理界面,您可以执行以下操作:
查看图库类型:色情图库的图库类型为敏感。
查看样本数:查看图库中已添加了多少样本。
添加样本:您可以往图库中添加指定的图片作为样本。
删除样本:您可以从图库中删除样本图片。
完成风险库的配置后,在您使用内容审核功能时,如果遇到了风险库内的样本,会按风险库的类型自动进行放行或拦截。