百炼支持通过API调用大模型,涵盖OpenAI兼容接口、DashScope SDK等接入方式。
如果您已经熟悉大模型调用,也可以直接查看API参考文档文本生成-通义千问。
本文以通义千问为例,引导您完成大模型API调用。您将了解到:
如何获取 API Key
如何配置本地开发环境
如何调用通义千问 API
注册账号:如果没有阿里云账号,您需要先注册阿里云账号。 说明 使用RAM账号时,请由主账号所有者将其添加至主账号空间(授予访客/管理员角色)。详情请参见用户管理。 开通百炼:使用阿里云主账号前往百炼控制台,如果页面顶部显示以下消息,您需要开通百炼的模型服务,以获得免费额度。如果未显示该消息,则表示您已经开通。 说明 如果开通服务时提示“您尚未进行实名认证”,请先进行实名认证。 获取API Key:在控制台的右上角选择API-KEY,然后创建API Key,用于通过API调用大模型。 说明 请优先通过主账号空间获取API Key。使用子空间API Key需由主账号管理员为对应子空间开通模型授权(如本文使用 建议您把API Key配置到环境变量,从而避免在代码里显式地配置API Key,降低泄漏风险。 选择您熟悉的语言或工具,用于调用大模型API。 Python Node.js Java curl 其它语言 OpenAI Python SDK DashScope Python SDK 如果您安装完成了Python以及OpenAI的Python SDK,可以参考以下步骤发送您的API请求。 新建一个文件,命名为 将以下代码复制到 通过命令行运行 说明 本示例使用的运行命令需在Python文件所在目录执行,如果想要在任意位置执行,请在文件名前指定具体文件路径。 运行后您将会看到输出结果: A:您可以访问费用与成本中心,确保您的账户没有欠费即可调用通义千问模型。 A:该报错是因为您使用子业务空间的API Key,子业务空间无法访问主账号空间的应用或模型。使用子空间API Key需由主账号管理员为对应子空间开通模型授权(如本文使用 A:请根据您的使用情况参考以下步骤: Chatbox Cherry Studio Dify 在设置界面的模型提供方选择添加自定义提供方。 进行 API 设置 名称输入“阿里云-通义千问”(可自定义); API 域名输入 API 路径输入 API 密钥输入您的 API Key,获取方法请参见:获取API Key; 模型输入您需要使用的通义千问模型,此处以 qwen-max-latest 为例(更多可用的模型请参考模型列表中的通义千问模型); 单击保存,完成设置。 进行对话测试 在输入框输入“你是谁?”进行测试: 查看更多模型 示例代码以 qwen-plus 模型为例,百炼还支持其他通义千问模型与 DeepSeek、Llama 等第三方模型,支持的模型以及对应的API参考文档请参见模型列表。 了解进阶用法 示例代码仅完成了简单问答,如果您想了解通义千问 API 的更多用法,如流式输出(Stream)、结构化输出(JSON Mode)、工具调用(Function Call)等,请参见文本生成目录。 0代码创建大模型应用 请参见0代码构建私有知识问答应用。 通过代码创建大模型应用 请参见Assistant API。 在线体验大模型 如果您想像通义官网一样,通过对话框与大模型互动,请访问模型体验。 说明 通义官网将通义千问 API 与联网搜索、网页解析等工具进行了集成,与直接调用通义千问 API 效果略有差异。 0代码进行大模型微调 通常来说,对大模型微调需要有人工智能知识背景与工程能力,百炼提供了0代码对大模型进行微调的功能,您仅需提供数据集即可。详情请参见在控制台使用模型调优。账号设置
通义千问-Plus
模型),详情请参见授权子业务空间模型调用和部署。配置API Key到环境变量
选择开发语言
步骤 1:配置Python环境
检查您的Python版本
配置虚拟环境(可选)
安装OpenAI Python SDK或DashScope Python SDK
步骤 2:调用大模型API
hello_qwen.py
。hello_qwen.py
中并保存。import osfrom openai import OpenAItry:
client = OpenAI( # 若没有配置环境变量,请用百炼API Key将下行替换为:api_key="sk-xxx",
api_key=os.getenv("DASHSCOPE_API_KEY"),
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
completion = client.chat.completions.create(
model="qwen-plus", # 模型列表:https://help.aliyun.com/zh/model-studio/getting-started/models
messages=[
{'role': 'system', 'content': 'You are a helpful assistant.'},
{'role': 'user', 'content': '你是谁?'}
]
) print(completion.choices[0].message.content)except Exception as e: print(f"错误信息:{e}") print("请参考文档:https://help.aliyun.com/zh/model-studio/developer-reference/error-code")
python hello_qwen.py
或python3 hello_qwen.py
。我是阿里云开发的一款超大规模语言模型,我叫通义千问。
常见问题
免费额度用完后如何购买 Token?
调用通义千问模型会自动扣费,出账周期为一小时,消费明细请前往账单详情进行查看。
调用大模型API后报错
Model.AccessDenied
,如何处理?通义千问-Plus
模型)。详细操作步骤请参见授权子业务空间模型调用和部署。如何接入 Chatbox 、 Cherry Studio或 Dify?
此处以使用较多的工具为例,其它大模型工具接入的方法较为类似。
https://dashscope.aliyuncs.com/compatible-mode/v1
;/chat/completions
;下一步