Luxonis 设备由专用的 (RVC) 硬件提供支持,可在边缘实现实时、低延迟的 AI 推理。
为此,我们提供了一个完整的工具链来处理 AI 模型:获取或训练模型、将其转换为设备兼容格式、部署以进行推理以及评估其性能。本节将介绍各个组件如何协同工作,以支持在 Luxonis AI 生态系统中使用 AI 模型。在深入了解各个主题之前,请参阅下图以获得对该流程的高级理解。
AI 模型可以从各种来源获取。 查看我们的 模型库, 通过各种预训练模型解锁无限可能。或者,使用我们的 训练工具 来构建针对您的应用程序量身定制的模型。在 Luxonis 设备上运行之前,必须将 AI 模型转换为与目标 RVC 平台兼容的格式。 有关更多信息,请参阅 转换部分。在 Luxonis 设备上运行模型推理的过程由 DepthAI 管道进行编排。 有关设 置推理管道以及后处理模型输出以获得有意义的见解和可操作数据的信息,请参阅 推理部分。使用我们的 基准测试工具在 Luxonis 设备上评估 AI 模型性能。测量推理速度、功耗和资源利用率等关键指标,以便就模型选择和应用程序优化做出明智的决策。我们内部的格式,用于标准化打包 AI 模型的方式。 NN Archive 将模型可执行文件和配置文件存储在一起,以简化运行时和转换期间的模型设置。除了上述选项外,我们还提供与外部源的集成,以简化在我们的平台中使用外部 AI 模型。 有关更多信息,请参阅 集成部分。