
在嵌入式 Linux 上部署端侧AI,远不止在本地设备上运行模型推理。这是一项完整的系统工程,涉及硬件资源限制、运行时兼容性、热管理和长期可维护性。当实时反馈至关重要且无法保证云端连接时,整个流水线(从模型优化到生产部署)都必须从一开始就为端侧 场景设计。
在本次网络研讨会中,#Toradex 现场应用工程师 João Victor Martins 和 #Torizon OS 副经理 Henrique Garcia 将展示一套实用的端到端工作流程,用于在嵌入式 Linux 上构建并交付实时端侧 AI 系统。基于一个需要在离线情况下进行低延迟分析的车载赛车遥测用例,他们将涵盖模型导出与量化、基于真实基准数据的 CPU 与 #NPU 分工,以及使用 Torizon OS 进行容器化部署。
点击下方阅读原文注册网络会议。