Checkstep

什么是 Checkstep？

Checkstep 是面向在线平台和信任与安全团队的 AI 内容审核平台。它会扫描文本、图片、视频和音频，应用可配置的内容政策，并将决策路由至自动处理、人工审核或进一步的模型分析。该平台旨在帮助团队大规模处理用户生成内容和专业内容，同时保留对不确定或具有法律敏感性的案例的监督。

Checkstep 原生支持 100 多种语言，也可以通过翻译处理其他语言。其工作流涵盖政策配置、内容检测、基于置信度的决策、审核队列和透明度报告，其中包括用于管理 DSA 相关数据并为欧洲用户生成报告的工具。

Checkstep 能做什么？

可配置的政策引擎

创建和管理平台政策、编辑政策说明、为特定用例选择模型，并定义允许或禁止的内容。

多模态内容扫描

扫描文本、图片、视频和音频；当上下文涉及多种内容类型时，平台会综合评估这些媒体。支持的政策领域包括骚扰、儿童安全、仇恨言论、欺诈、成人内容、自残和暴力极端主义。

基于置信度的自动化处理

设置置信度阈值，使高置信度的政策违规内容能够自动处理，同时将边界案例升级给审核员或其他模型。

AI 模型选择

使用 AI 模型市场测试并切换模型，帮助团队根据内容和政策要求匹配检测模型。

人工参与的审核

将自动审核与人工审核队列结合起来，让审核员专注于需要结合上下文判断、处理申诉或进行专业处理的案例。

透明度报告

集中管理审核数据，并使用 DSA 工具为欧洲用户生成透明度报告，支持持续开展报告工作。

使用场景

“市场平台安全”

在商品和服务买卖双方的信任受到影响之前，筛查商品信息、个人资料、消息和媒体内容中的欺诈、违禁商品、骚扰及其他政策违规内容。

“游戏社区审核”

对玩家通信和上传的媒体应用可配置的政策，并将复杂或边界案例升级给人工审核员。

“约会平台保护”

审核个人资料和对话中的成人内容、骚扰、剥削、个人数据及其他风险，同时保留人工判断渠道。

“流媒体和社交内容审核”

审核社区中大量的用户生成文本和媒体内容，对明确案例使用自动决策，并将不确定内容放入审核队列。

“监管报告”

整理审核数据，并为欧洲用户生成 DSA 透明度报告，作为平台合规工作流的一部分。

常见问题

Checkstep 如何集成？

Checkstep 描述的最低集成方式是进行一次 API 调用：发送一段内容并接收决策。随后，团队可以配置政策、置信度阈值和审核员队列，以适配现有工作流。

Checkstep 会取代人工审核员吗？

不会。它会自动处理明确且数量较大的案例，并将不确定或需要大量判断的案例交由人工处理。该网站特别指出，DSA 申诉需要人工审核，儿童性虐待材料也必须经过人工审核并进行报告。

支持哪些内容类型和语言？

Checkstep 可审核文本、图片、视频和音频，并能对这些内容进行综合评估。它原生处理超过 100 种语言，并通过翻译支持其他语言。

它可以检测哪些政策领域？

该平台列出的领域包括霸凌和骚扰、儿童安全、虚假信息、血腥暴力、仇恨言论、人口剥削、违禁商品、欺诈、裸露和成人内容、脏话、自杀和自残，以及暴力极端主义。主页还提到垃圾信息、个人数据和知识产权。

Checkstep 是否公布价格？

所提供的来源中没有经验证的定价详情。官网引导访客预约演示或联系 Checkstep，因此应向公司确认价格。