多模态检索
在布尔查询表达式中结合文本搜索、向量和张量搜索,以及结构化字段条件。向量字段可以包含多个向量;结构化数据支持数组、映射和结构体等类型。
Vespa.ai 是一个 AI 搜索平台,用于在文本、向量、张量和结构化数据之上构建查询、组织、排序和推理应用。它将词法检索、向量检索和结构化检索与可配置的机器学习排序相结合,使团队无需将搜索引擎与排序和推理层分离,即可构建搜索和检索工作流。
该平台支持搜索和混合检索、RAG、推荐与个性化、半结构化导航,以及个人或私有搜索。其分布式架构面向大型且频繁变化的数据集;产品网站介绍了其在具体应用和配置下支持处理数十亿条数据、每秒数千次查询,以及低于 100 毫秒的延迟。
Vespa 可通过 Vespa Cloud 使用,包括部署在由 Vespa 管理的 AWS 和 Google Cloud 账户中;也可部署在客户自有的专用账户中,使数据平面和数据保留在客户环境内。Vespa Cloud 还提供托管运维、自动扩展、持续部署和升级。
在布尔查询表达式中结合文本搜索、向量和张量搜索,以及结构化字段条件。向量字段可以包含多个向量;结构化数据支持数组、映射和结构体等类型。
根据查询信号、文本匹配特征、结构化字段、地理和时间数据、张量或其他输入构建排序配置。排序函数可以直接编写,也可以使用 ONNX 和 XGBoost 格式的模型。
在内容分区上本地执行排序和模型推理,然后使用第二阶段和全局阶段重新排序,将更多计算用于最有潜力的候选项。
使用位置文本索引、BM25 及其他匹配特征,以及词法处理功能(如词干提取和词元规范化)、中日韩文本分词、动态摘要和词语匹配高亮。
通过自动数据分布扩展内容集群,以支持更多数据或流量。Vespa Cloud 负责故障转移、传输中和静态数据加密、证书、操作系统补丁及平台升级等运维事项。
结合词法术语、嵌入、元数据和自定义排序检索段落或文档,然后将选定的上下文传递给生成式 AI 工作流。
检索符合条件的项目,并使用机器学习模型对其进行评估,以根据应用特定的延迟要求选择推荐内容、个性化结果或广告目标。
将文本和图像表示与结构化筛选条件、范围及其他导航条件结合,使用户能够在一个应用中搜索和细化商品目录。
当为查询模式建立完整语料库(尤其是向量索引)效率较低时,使用 Vespa.ai 的流式搜索模式搜索用户特定数据。
Vespa.ai 可以查询文本、向量、张量和结构化数据。查询可以跨这些字段类型组合运算符,包括词法检索、精确检索、模糊检索、正则表达式检索、范围检索和面向向量的检索。
团队可以定义排序配置,并使用手写的张量函数,或使用 ONNX 和 XGBoost 等格式的机器学习模型。排序可以分多个阶段运行,包括本地阶段、第二阶段和全局阶段评估。
Vespa Cloud 可在由 Vespa 管理的 AWS 或 Google Cloud 账户中提供全托管部署。网站还介绍了在客户自有专用账户中的部署方式,使数据平面和数据保留在这些账户内。
该平台面向分布式运行,支持自动数据分布和集群扩展。其网站介绍了对数十亿条变化数据和每秒数千次查询的支持,但实际容量取决于应用配置和工作负载。