# SelfJev SelfJev 是一款可自行托管的 40 亿参数决策模型，可将文本、图像和问题转换为带概率的类型化答案，帮助开发者在自有基础设施上运行结构化分类、路由、审核和策略工作流。 - Findings24: - 网站: - 价格: Freemium - 分类: AI 智能体基础设施, AI 推理平台, AI图像识别 ## 什么是 SelfJev？ SelfJev 是一款适用于需要结构化选择而非生成性散文的应用的可自行托管 40 亿参数决策模型。它可接收文本、图像或两者，以及一组问题，然后返回类型化答案和概率。支持的答案格式包括是/否、单选、结果评分和多选。 其共享前缀推理引擎会读取一次共同输入，并在多个问题之间复用这部分处理结果。因此，它适合从一条支持消息、文档、AI 响应或图像中提取多个决策。该模型以 HTTP 服务形式运行在用户控制的基础设施上，并提供可用于应用集成的 Python 客户端。 默认版本通过 SelfJev 原生引擎支持视觉和文本。SelfJev 还提供微调工具、公开模型权重、评估数据集、评分工具和已记录的实验报告。已发布的分数仅限于项目的测试套件，应作为评估依据，而不应视为对新数据性能的保证。 ## SelfJev 能做什么？ ### 类型化决策输出 针对是/否问题、单选、评分和多选问题返回结构化答案，并附带应用代码可使用的概率。 ### 共享前缀推理 一次读取共享的文本或图像输入，并基于这次处理结果展开多个问题，从而支持多问题请求，无需针对每个问题分别处理相同上下文。 ### 视觉和文本输入 默认的 SelfJev-4B 版本通过原生树引擎接收图像和文本。通过 HTTP 可将图像作为路径、字节、PIL 图像或 base64 数据 URL 提供。 ### 可自行托管的 HTTP 服务 运行在用户控制的、配备 NVIDIA GPU 的 Linux 机器上，并为应用提供 API。文档化部署包括健康检查、API 密钥配置，以及无需 GPU 的轻量级客户端。 ### 面向领域决策的微调 监督式微调工具可让用户使用自身工作流中的已验证示例训练轻量级适配器，包括基于图像的训练样本，然后对结果进行评估并提供服务。 ### 开放评估记录 项目发布模型版本、Decision Bench 数据、评分工具、方法说明和已记录的实验，方便用户检查报告结果的生成过程。 ## 使用场景 ### 支持工单路由 询问客户是否需要退款、请求应由哪个团队处理以及适用哪些主题，然后将所得字段传递给路由或工作流自动化系统。 ### AI 响应审核 在 AI 生成的答案到达用户或下游系统之前，评估其质量、准确性、支持证据、安全性或绕过指令的企图。 ### 策略与护栏检查 将策略转换为明确的问题，并利用返回的选项和概率来过滤请求、应用控制措施或标记需要人工审核的案例。 ### 基于图像的分类 使用同一图像作为共享上下文，针对照片提出多个问题，例如类别或状况。网站记录了涉及宠物、服装、植物、大米、卫星土地利用和废弃物的示例。 ### 工作流专用决策模型 使用包含团队标签、策略、术语或边缘案例的已验证示例微调适配器，然后在部署前于留出示例上比较结果。 ## 常见问题 ### SelfJev 返回什么？ 它返回类型化答案和概率。文档列出的答案类型包括是/否、单选、结果评分和多选；它不会生成对话式文本响应。 ### 运行 SelfJev 需要什么硬件？ 快速入门要求使用配备 NVIDIA GPU 的 Linux 机器，并建议从 24 GB 显存、4 个 vCPU、16–32 GB 系统内存和 50 GB 可用磁盘开始。这些数值是规划建议，并非经过测试的最低配置。 ### SelfJev 可以处理图像吗？ 可以。默认的视觉和文本版本通过原生引擎接收图像。Python 客户端接受路径、图像字节或 PIL 图像；HTTP 请求可使用 base64 数据 URL，或使用文本和图像部分。 ### 应用如何调用模型？ SelfJev 以 HTTP 服务器形式运行，应用可以使用轻量级 Python 客户端。快速入门还说明了如何让现有的 TypeSafe Python SDK 安装指向 SelfJev 服务器，方法是更改其 base URL 和 API 密钥设置。 ### 可以将模型适配到自定义工作流吗？ 可以。网站记录了使用工作流中的已验证示例进行监督式微调的方法，其中包括图像训练样本。建议用户在提供适配后的模型服务之前，使用留出示例进行评估。 ## 快速信息 - **产品类型**: 可自行托管的 40 亿参数决策模型 - **主要接口**: 带 Python 客户端的 HTTP API - **输入**: 文本、图像，或文本和图像 - **输出**: 带概率的类型化答案；不生成文本 - **默认运行时**: NVIDIA GPU 上的原生树引擎 - **已发布评估**: 默认视觉和文本模型在项目 1,991 道问题的文本决策测试中，预期答案匹配率为 96.1%