Chatbox

2025-04-27   访问量:1006


Chatbox 是一款 AI 客户端应用和智能助手,您无需配置计算环境即可通过 Chatbox 与大模型进行对话。

前提条件

  • 您需要获取API Key,并确保已开通阿里云百炼的模型服务;

  • 模型列表选择您需要使用的通义千问或DeepSeek 模型。如果您是 RAM 用户,请参见如何使用业务空间,确保您有相应模型的调用权限。

    由于 Chatbox 的功能可能发生变化,模型的支持情况以实际效果为准。

1. 打开 Chatbox

前往Chatbox,根据您的设备下载并安装合适的版本,或直接启动网页版

2. 配置模型与 API Key

2.1. 选择自定义提供方

单击 Chatbotx 页面左下方的设置模型提供方选择添加自定义提供方

image.png

2.2. 配置模型与 API Key

配置项说明API 模式选择:OpenAI API 兼容。名称您可以自定义名称,此处填入“阿里云”。API 域名填入:https://dashscope.aliyuncs.com/compatible-mode/v1。每个模型的调用都使用同一个API 域名。API 路径一般会自动生成,如果没有请填入:/chat/completions。API 密钥填入您在阿里云百炼申请的 API Key。模型填入您想要使用的通义千问或 DeepSeek 模型,此处以qwq-plus为例。上下文的消息数量上限每次提问后,大模型参考的历史对话轮数。如果是日常聊天对话,建议您设为5-10即可。过多的上下文消息数量可能导致报错:Range of input length should be [1, xxx]。严谨与想象(Temperature)采样温度,控制大模型生成文本的多样性。Temperature越高,生成的文本更多样,适合内容创作、头脑风暴等场景;Temperature越低,生成的文本更确定。适合代码撰写、数学推理等场景。说明请设置为小于2的数,否则会报错'temperature' must be Float。Top P核采样的概率阈值,控制模型生成文本的多样性。与Temperature有相似的功能,建议您调整其中一个值即可。

image.png

配置完成后,单击右下角的保存

3. 对话

单击界面左侧的新对话按钮,即可开始对话。

当前无法传入视频或音频文件进行对话。

普通对话

传入图片

传入文档

在输入框输入“你是谁?”进行测试:

image.png

Chatbox 能够将 qwq-plus 模型的思考过程与回复内容进行展示。

常见问题

Q:如何集成百炼应用调用API?

A:Chatbox 当前暂不支持百炼的应用调用 API。

Q:如何计费?

A:阿里云百炼对模型输入与输出的 Token 进行计费,模型 Token 的费用请参见模型列表

多轮对话会带入历史对话记录,从而消耗较多 Token。您可以新开对话或降低上下文的消息数量上限,减少不必要的 Token 消耗。日常聊天建议设置上下文的消息数量上限5-10。

Q:Chatbox 报错:“连接 Custom Provider 失败”怎么办?

A:请您根据报错信息进行排查:

  • Range of input length should be [1, xxx]

    可能是您输入的内容过长,或多轮对话累积的上下文超过模型最大上下文长度。请您根据您的使用情况进行排查:

    • 首次对话即报错

      有可能是您输入的文本过长,或传入的文件包含较多 Token,您可以使用 qwen-turbo、qwen-long等上下文长度达到 1,000,000的模型来处理您的请求。

    • 多轮对话后报错

      有可能是多轮对话累积的 Token 超过了模型的最大上下文长度,您可以参考以下方法:

    1. 新开对话

      大模型回复时将不再参考历史对话。

    2. 减少上下文的消息数量上限

      使大模型回复时仅参考一定范围内的对话记录,避免输入所有历史对话。

    3. 更换模型

      更换为qwen-turbo、qwen-long等上下文长度达到 1,000,000的模型以处理更长的上下文,从而进行更多轮的对话。

  • Access denied, please make sure your account is in good standing.

    您可以查看阿里云账户是否欠费。如果欠费,即使模型有免费额度也无法调用。

  • 'temperature' must be Float

    模型的 temperature参数需要小于2,您可以将严谨与想象(Temperature)参数设为小于2的数。

如果您的问题不在上述范围,请参见错误信息进行排查。

Q:传入的图片和文档有什么限制?

A:

  • 图片:传入图片的限制请参见使用限制

  • 文档:Chatbox 会对传入的文档进行解析,解析生成的文本与上下文的 Token 长度不高于模型最大上下文长度即可。


热门文章
更多>