前面我们已经简单的说过了什么是LLM,那么这篇文章主要用来演示如何用通过python直接调用LLM进行聊天问答。
我们要做什么?
以往的时候,我们都是通过网页或者app与我们的大模型进行聊天,比如我们在deepseek网页端输入“给我讲一个冷笑话”,那么deepseek会给我们返回一个回答。我们今天的目的是通过python代码的形式,将以上的问答进行实现。
准备工作
首先你的电脑需要安装了python的环境,安装openai官方库
这里针对python的安装我就不多说了,有需要的自己可以去网上找安装文档或者直接B站搜索黑马的python教程,跟着视频一步一步的安装就行。
安装openai官方库
# 如果运行失败,您可以将pip替换成pip3再运行pip install -U openai
具体操作流程
我们今天主要以阿里云百练平台做操作介绍
Step1
首先先注册登录进入阿里云百练
https://bailian.console.aliyun.com/
登录后,选择API参考
Step2
我们先按照文档中“获取API Key ”章节里介绍的步骤去获取到我们的API Key
现在注册百练大平台会直接给我们很多的token使用,如果不够用的话也可以充值获取,几块钱就可以使很久
注意这里的API Key 不要随意的给到别人,避免自己的token额度被别人使用
Step3
找到文档中的“配置API Key到环境变量”章节 找到自己操作系统的介绍 根据文档里的内容进行配置
以上内容配置完成后,我们找到对话里的通义千问 右侧的代码可直接复制粘贴到我们自己本地的对话框中,直接运行,左侧是关于整个请求体的参数描述
我这边使用的是pycharm,使用jupyter notebook还是vscode等都可以,根据个人习惯和电脑配置的编辑器使用就行。
我这里第一次运行的时候,环境变量未生效,是我配置环境变量前就打开了pycharm,导致配置环境变量配置后无法在pycharm中生效,重启pycharm就可以使用了。
如果有与我一样情况的同学可以这操作看看,如果还是不行的话,就直接将自己的API Key明文配置进去验证也行(参考第五行的注释提示内容)
以上我们就完成了通过python直接调用LLM的操作了
延伸--调用其他大模型
deepseek
假如你不想使用通义千问模型,你想使用deepseek的模型,第一种方式是,直接用百练大模型中的对话里的deepseek模块(百练中有的大模型都可以进行调用)
第二种模式是,我们找到deepseek的官方,点击API开放平台
在deepseek中创建我们自己的API Key,然后按照百练介绍的配置环境变量的流程,可以把deepseek的API Key也配置一下,然后找到接口文档,用接口文档中的脚本到我们本地编辑器中运行即可。
调用前deepseek需要先充值,才可以使用。(如果你有token的额度,这个可以忽略)
openai
如果想要调用国外的大模型,比如openai,也是按照上述的流程获取到对于的API Key,然后进行调用即可,
注意:注册API key和请求openai都需要科学上网。
以上是我在学习大模型调用中的笔记记录,希望对你有所帮助。