当前位置:首页>Linux>网络会议 - 赛道遥测:嵌入式 Linux 上的实时端侧 AI

网络会议 - 赛道遥测:嵌入式 Linux 上的实时端侧 AI

  • 2026-10-06 00:32:40
网络会议 - 赛道遥测:嵌入式 Linux 上的实时端侧 AI

在嵌入式 Linux 上部署端侧AI,远不止在本地设备上运行模型推理。这是一项完整的系统工程,涉及硬件资源限制、运行时兼容性、热管理和长期可维护性。当实时反馈至关重要且无法保证云端连接时,整个流水线(从模型优化到生产部署)都必须从一开始就为端侧 场景设计。

在本次网络研讨会中,#Toradex 现场应用工程师 João Victor Martins 和 #Torizon OS 副经理 Henrique Garcia 将展示一套实用的端到端工作流程,用于在嵌入式 Linux 上构建并交付实时端侧  AI 系统。基于一个需要在离线情况下进行低延迟分析的车载赛车遥测用例,他们将涵盖模型导出与量化、基于真实基准数据的 CPU 与 #NPU 分工,以及使用 Torizon OS 进行容器化部署。

关键要点:

  • • 如何使用 #ONNX 和 #TFLite 将 AI 模型导出、量化并部署到嵌入式 Arm 模块上
  • • CPU 与 NPU推理权衡:持续负载下的延迟、内存和发热管理
  • • 使用 Torizon OS 进行容器化端侧部署:可复制的构建、流水线隔离和 OTA 模型更新
  • • 在资源受限硬件上交付实时 AI 时,生产环境中会出现哪些问题,以及哪些设计需要尽早规划
  • • 我们还会在网络研讨会接近尾声时安排专门的现场问答环节

点击下方阅读原文注册网络会议。

最新文章

随机文章