# Hailo AI 软件套件 Hailo AI 软件套件是一款边缘 AI SDK 与部署工具包,用于在 Hailo 处理器上编译、优化和运行 AI 模型,支持视觉与生成式 AI 工作流。 - Findings24: - 网站: - 价格: Freemium - 分类: AI 模型部署 ## 什么是 Hailo AI 软件套件? Hailo AI 软件套件是 Hailo 用于在 Hailo 处理器上构建和运行 AI 应用的边缘 AI SDK 与部署工具包。它将模型编译、优化、运行时推理、模型库和示例应用整合在一个软件栈中。 该套件旨在与 Hailo 的 AI 视觉处理器和 AI 加速器配合使用,支持在 Hailo 硬件上部署;在基于加速器的配置中,还支持在 x86 和 ARM 等主机处理器上部署。其工作流涵盖模型转换、量化与优化、推理执行,以及面向视觉和生成式 AI 用例的应用集成。 ## Hailo AI 软件套件 能做什么? ### 模型编译与优化 使用 Dataflow Compiler 为 Hailo 设备编译和优化深度学习模型,包括将常见框架中的模型转换为可执行的 Hailo 二进制格式。 ### 用于部署的运行时 提供 HailoRT 生产级运行时,以及用于推理、数据传输和设备控制的 C/C++ 与 Python API。 ### 视觉与 GenAI 模型库 包含 Model Zoo Vision 和 Model Zoo GenAI 模型集合,提供预训练和预编译模型,帮助团队更快完成原型设计和集成。 ### 模型探索与选择 提供面向视觉和 GenAI 的 Model Explorer 工具,让开发者在部署前浏览、筛选和比较模型。 ### 集成支持 支持 GStreamer、ONNX Runtime、REST API 和 Yocto Layer 打包等集成路径,适用于嵌入式和应用工作流。 ## 使用场景 ### 部署边缘推理流水线 使用 Dataflow Compiler 和 HailoRT 转换并部署模型,在生产环境中的 Hailo 硬件上执行实时推理。 ### 构建视觉应用原型 使用 Model Zoo Vision、Model Explorer Vision 和示例应用,在受支持的设备上测试计算机视觉任务并加快原型设计。 ### 集成生成式 AI 模型 使用 GenAI 模型资源、兼容 REST 的接口和运行时支持,构建设备端生成式 AI 工作流。 ### 将 Hailo 嵌入设备软件栈 使用 Yocto Layer、运行时库和设备控制工具,将 Hailo 软件整合到基于嵌入式 Linux 的产品构建中。 ### 连接现有应用框架 使用 GStreamer 插件、ONNX Runtime 支持以及 Python 或 C/C++ API,将 Hailo 推理连接到现有应用流水线中。 ## 常见问题 ### Hailo AI 软件套件包含哪些内容? Hailo 的软件栈围绕 Hailo 设备上的模型编译、优化和运行时推理构建。Hailo AI 软件套件包括 Dataflow Compiler、HailoRT、Model Zoo、Model Explorer 工具和示例应用。 ### 该软件可在哪些硬件上运行? 该套件直接支持 Hailo 视觉处理器;使用 Hailo AI 加速器时,也支持在 x86 和 ARM 等主机处理器上进行部署。 ### Hailo 支持哪些模型和运行时工作流? 资料重点介绍 TensorFlow 和 ONNX 模型工作流,以及 GStreamer、ONNX Runtime 和 REST API 等常见运行时与流水线集成,这些集成也适用于 GenAI 工作流。 ### 网站是否公布了价格? Hailo 的公开定价页面未显示套餐详情或价格。该网站转而引导用户通过产品咨询、登录和开发者专区访问软件与文档。 ## 快速信息 - **类别**: 边缘 AI 软件套件 - **主要用户**: 为 Hailo 处理器构建应用的开发者和团队 - **平台支持**: Hailo 视觉处理器和 Hailo AI 加速器;在加速器部署中支持 x86 和 ARM 等主机处理器 - **来源域名**: hailo.ai - **价格**: 网站未公开列出 - **典型工作流**: 模型编译、优化、运行时推理和应用部署