当前位置:首页>Linux>Linux系统部署大语言模型:API调用版 + 本地开源模型 (附Codex编程助手)

Linux系统部署大语言模型:API调用版 + 本地开源模型 (附Codex编程助手)

  • 2026-10-11 05:47:27
Linux系统部署大语言模型:API调用版 + 本地开源模型 (附Codex编程助手)
  • 操作系统:Ubuntu 26.04 LTS
  • 显卡:NVIDIA RTX 5060 8GB
  • 驱动:595.58.03 / CUDA 13.2
一、API调用
1. 设置API Key
打开网址OpenAI Platform,注册账号并登录,进入API Keys页面,创建密钥,保存。
2. API部署
Linux系统终端,部署ChatGPT API。
## 系统更新sudo apt updatesudo apt upgrade -y## 安装Python 环境# 检查版本python3 --version# 常用组件sudo apt install -y python3-pip python3-venv git curl## 创建项目目录mkdir ~/chatgpt-apicd ~/chatgpt-apiconda deactivatepython3 -m venv venvsource venv/bin/activate## 安装OpenAI SDKpip install --upgrade pippip install openai## 配置API密钥# 编辑nano ~/.bashrc# 光标下移,再文件末添加export OPENAI_API_KEY="sk-xxxxxxxxxxxxxxxx"# 保存并退出Ctrl + OEnterCtrl + X# 生效source ~/ .bashrc# 验证echo $OPENAI_API_KEY
测试调用:
## 创建test.py文件# 进入项目目录cd ~/桌面/chatgpt-api# 创建文件nano test.py# 输入from openai import OpenAIclient = OpenAI()response = client.responses.create(    model = "gpt-4.1-mini",    input="你好")print(response.output_text)# 保存Ctrl + OEnterCtrl + X# 查看文件ls -l
3. API调用
cd ~/chatgpt-apisource venv/bin/activatepython test.py
二、本地开源模型
1. Ollama调用本地开源模型(方法一)
sudo snap install ollama # 安装ollama --version   # 验证
启用模型:
ollama run qwen2.5:7b
或者单词提问后退出:
ollama run qwen2.5:7b "介绍一下你自己"
2. HTTP API调用,Ollama提供了多个RESTful API端点(方法二)
## 文本生成接口curl http://localhost:11434/api/generate \  -H "Content-Type: application/json" \  -d '{    "model": "qwen2.5:7b",    "prompt": "什么是机器学习?"    "stream": false  }'## 对话接口curl http://localhost:11434/api/generate \  -H "Content-Type: application/json" \  -d '{    "model": "qwen2.5:7b",    "prompt": "什么是机器学习?"    "stream":false  }'## 流式响应(实时输出):curl http://localhost:11434/api/generate \  -H "Content-Type: application/json" \  -d '{    "model": "qwen2.5:7b",    "prompt": "写一首关于夏天的短诗",    "stream": true}'## 模型管理接口:# 列出已安装的模型curl http://localhost:11434/api/tags# 查看当前运行的模型curl http://localhost:11434/api/ps
三、Codex部署
1. 安装Codex CLI
curl -fsSL https://chatgpt.com/codex/install.sh | sh
2. 验证安装
codex --versioncodex --help
3. 登录/认证
codex

最新文章

随机文章