基于Python+Flask+SQLAlchemy+JWT+Vue3+Vite+Element Plus前后端一体的一站式AI模型管理与测试平台(自己的学习平台)
作为一名AI技术爱好者或开发者,今天给大家带来本人最近学习AI大模型亲自搭建的名为 TigerAI Platform 的一站式AI模型管理与测试平台。
一、平台概览:你的AI模型“中央厨房”
TigerAI Platform 是一个多任务、多模态AI模型管理与测试学习平台,视觉、文本、语音、多模态全栈纳管。它就像AI模型的“中央厨房”——无论从HuggingFace还是ModelScope(魔搭社区)下载的模型权重,都能在这里统一管理、即点即测。
更难得的是,纯CPU即可运行——无需昂贵的GPU也能学习和测试AI模型。
二、技术架构
2.1 前端
多任务 / 多模态 AI 模型管理与测试平台的 Web 前端。基于 Vue 3 + Vite + Element Plus,提供模型全生命周期管理(纳管 / 拉权重 / 在线测试)与覆盖视觉·文本·语音·多模态的任务测试页面,并内置 RBAC 权限管理(用户 / 角色 / 部门 / 岗位 / 菜单)。
配套后端见 ../backend/README.md。
技术架构
浏览器 (SPA) │ axios(/api 前缀) ▼Vite Dev Server :5173 ── proxy /api ──▶ Flask 后端 :5001 │ ├─ Vue Router 4 路由 + 登录守卫(token 校验、动态拉取权限) ├─ Pinia 全局状态(用户信息 / token / 角色权限) ├─ Element Plus UI 组件库 + 图标 ├─ ECharts 首页统计图表(任务分布饼图 / 分类柱状图) └─ v-permission 按钮级权限指令(基于后端返回的 perms)
- 单页应用(SPA):前后端分离,前端打包为静态资源,经
/api 调用后端 REST 接口。 - 权限驱动 UI:登录后从后端拉取角色 / 菜单 / 按钮权限,路由守卫与
v-permission 指令据此放行。 - 任务页约定:每个 AI 任务一个页面(
views/ai/*),按 library + task 过滤可用模型,统一在线测试。
技术栈
| |
|---|
| Vue 3.4(<script setup> 组合式 API) |
| |
| Element Plus 2.7 + @element-plus/icons-vue |
| |
| |
| |
| |
| |
目录结构
frontend/├─ index.html├─ vite.config.js# 端口 5173 + /api 代理到 127.0.0.1:5001├─ package.json└─ src/ ├─ main.js# 应用入口(挂载 Element Plus / Pinia / Router) ├─ api/# 接口封装(ai.js 模型与推理、system.js 系统管理、request.js axios 实例) ├─ composables/# 组合式逻辑(useInferProgress 进度/ETA 等) ├─ directives/# 自定义指令(v-permission 按钮权限) ├─ layout/# 布局(侧栏 / 顶栏 / 菜单) ├─ router/# 路由表 + 全局守卫 ├─ store/# Pinia(user 等) └─ views/ ├─ Dashboard.vue# 首页(平台介绍 + 统计图表) ├─ Login.vue / Register.vue ├─ ai/# AI 任务页 │ ├─ model/# 模型管理(CRUD / 拉权重 / 测试 / 来源分类) │ ├─ image|video|camera/# 目标检测:图片 / 视频 / 摄像头 │ ├─ imgcls/# 图像分类 │ ├─ text/ generate/ ner/ qa/# 文本:分析 / 生成 / 实体识别 / 问答 │ ├─ asr/# 语音识别 │ ├─ tts/# 文本转语音 / 音色克隆 │ └─ talker/# 数字人合成
2.2 后端
多任务 / 多模态 AI 模型管理与测试平台的服务端。基于 Flask + SQLAlchemy + JWT,统一纳管多引擎 AI 模型,提供权重拉取(HuggingFace / ModelScope 双源)、在线推理测试,以及 RBAC 权限系统(用户 / 角色 / 部门 / 岗位 / 菜单)。纯 CPU 即可运行全部任务。
配套前端见 ../frontend/README.md。
技术架构
前端 (SPA) │ REST /api/* (JWT 鉴权) ▼Flask 应用 :5001 ├─ routes/ 蓝图:auth / user / role / dept / job / menu / ai_model ├─ security.py RBAC:JWT 解析 + 权限点(perms)校验装饰器 ├─ models/ SQLAlchemy 实体(User/Role/Menu/... + AiModel) ├─ extensions.py db / jwt / cors 实例 ├─ config.py 配置(读 .env:数据库 / JWT / 上传目录 / HF·MS 令牌) ├─ seed.py 种子数据(默认账号 / RBAC 菜单 / 示例模型,幂等) ├─ app.py 应用工厂 + 轻量迁移(_migrate) + 启动入口 └─ inference.py 多引擎推理层(惰性加载,按需导入) ├─ ultralytics YOLO 目标检测(图片/视频/摄像头) ├─ transformers 文本分类/零样本/完形/翻译/摘要/生成/NER/QA/图像分类/DETR/MMS-TTS ├─ funasr / funasr_onnx 语音识别(SenseVoice / 量化 onnx) ├─ sherpa-onnx MeloTTS 中英混合语音合成 ├─ CosyVoice (vendored) 语音合成 / 零样本音色克隆 └─ VibeVoice (vendored) 实时语音合成(预置音色) ▼MySQL(元数据) + uploads/(模型权重 / 上传媒体 / 输出)
- 应用工厂模式:
create_app() 注册蓝图、初始化 db/jwt/cors,启动时建表 + 轻量迁移 + 写种子。 - 多引擎、惰性加载:
inference.py 体积大的库(torch/transformers/funasr 等)全部按需导入,加快启动。 - 双下载源:
ai_model 的 source_url 主机名决定从 HuggingFace 或 ModelScope 拉权重。 - 权重存储:拉取后存
uploads/models/<模型标识>/(目录型)或单文件 .pt(YOLO)。
技术栈
| |
|---|
| Flask 3 + Flask-Cors + Flask-JWT-Extended |
| Flask-SQLAlchemy + PyMySQL → MySQL 8 |
| Python 3.10(conda 环境 cv_python_tigerpro) |
| torch / torchvision / torchaudio 2.11(CPU) |
| ultralytics(YOLO)、transformers 4.51、funasr、funasr_onnx、sherpa-onnx、onnxruntime |
| huggingface_hub、modelscope |
| OpenCV、imageio-ffmpeg(H.264)、soundfile、librosa |
| third_party/CosyVoice(+Matcha-TTS)、third_party/VibeVoice |
目录结构
backend/├─ app.py# 入口:create_app() + _migrate() + app.run(:5001)├─ config.py# 配置(.env 注入)├─ extensions.py# db / jwt / cors├─ security.py# permission_required 等 RBAC 装饰器├─ seed.py# 种子数据(幂等)├─ inference.py# 多引擎推理实现├─ models/# ORM 实体(user.py / ai_model.py / ...)├─ routes/# 蓝图(auth/user/role/dept/job/menu/ai_model)├─ requirements.txt├─ .env.example# 环境变量样例(复制为 .env)└─ uploads/# 运行时生成:models / videos / audios / outputs
三、核心功能亮点
1. 13类AI任务全覆盖
平台支持13类AI任务,跨域四大方向:
· 视觉:目标检测、图像分类、视频检测、摄像头实时检测
· 文本:文本分类、零样本分类、完形填空、翻译/摘要/生成、实体识别NER、智能问答QA
· 语音:语音识别ASR、语音合成TTS
· 多模态:数字人合成
2. 多源模型统一纳管
同时支持从 HuggingFace 和 ModelScope(魔搭社区) 双下载源拉取权重。HuggingFace汇集了数万个预训练模型,ModelScope则提供企业级部署和版本管理支持。双源打通,资源选择更自由。
3. 多推理引擎加持
推理引擎涵盖 YOLO、Transformers、FunASR、ONNX量化、CosyVoice、VibeVoice 等,无论是目标检测还是语音合成都能高效运行。
4. 模型全生命周期管理 + RBAC权限
从模型上传、版本管理到在线部署、权限控制。RBAC权限体系让团队协作中的模型访问可控可审计。
四、上手体验:从“想用”到“在用”
第一步:模型导入——在“模型管理”页面从HuggingFace或ModelScope拉取模型权重,平台自动完成环境配置。
第二步:选择任务——首页“AI智能识别”区域选择任务类型,如图片检测、目标检测、语音识别等。
第三步:在线测试——上传测试数据即可获得推理结果。支持图片检测、视频检测、摄像头实时检测等多种输入方式。
五、数据看板:一目了然
平台提供直观的数据看板:
· 模型总数34个、已就绪17个
· 任务种类12种、模型分类数12个
· 模型任务类型分布和分类统计可视化展示
六、谁适合使用这个平台?
· AI初学者:无需GPU,低成本上手各类AI任务
· 算法工程师:一站式管理多个模型,效率翻倍
· 技术团队:RBAC权限体系,协作有序
· 企业用户:模型全生命周期管理,安全可控
七、写在最后
TigerAI Platform的核心价值在于 “化繁为简” ——模型下载、管理、测试、权限控制全流程一站式搞定。无论你是想学习AI的学生、需要快速验证方案的工程师,还是管理多个模型的技术负责人,这个平台都值得一试。
如果你也在为“模型太多、管理太乱、测试太慢”而烦恼,不妨从TigerAI Platform开始,让AI模型的“管”与“测”变得简单高效。
本文基于TigerAI Platform产品界面及公开技术资料整理,具体功能以实际平台为准。
需要源码的关注公众号,评论区扣“源码”后私信获取!