文本生成

文本生成是一种人工智能技术，它基于深度学习算法，根据给定的提示信息创作出有逻辑、连贯的文本内容。

文本生成所需的输入（提示或Prompt）可以是简单的关键词、一句话概述或是更复杂的指令和上下文信息。文本生成模型通过分析大量现有数据，学习语言模式，广泛应用于以下领域：

• 内容创作：自动生成新闻报道、商品介绍、短视频脚本等。

• 客户服务：在聊天机器人中应用，提供24小时客服支持，解答常见问题。

• 文本翻译：快速准确地将文本从一种语言翻译成另一种语言。

• 摘要生成：为长篇文章、报告、客户邮件自动生成摘要。

• 法律文档编写：自动化生成合同模板、法律意见书的基础框架。

文本生成示例：根据需求提取客户邮件中的关键信息

请从这封客户反馈邮件中提取以下信息：1.客户信息 2.软件版本 3.错误代码 4.问题描述 5.操作系统 6.其他相关细节
------------
邮件正文：
主题：【报障求助】智能百炼助手启动故障
尊敬的百炼客服和技术支持团队，
我是来自通义科技的张伟，我的用户ID是12345。我正在使用的智能百炼助手软件版本为V3.1.8，在此向您报告一个严重影响工作进度的技术问题，望尽快协助解决。
自昨日下午起，我在启动智能百炼助手时遇到严重障碍，软件启动过程卡在初始化界面，错误码为ERR-2007，并弹出错误提示“数据库连接失败”，导致所有功能模块无法正常使用。这一情况已经持续至今，严重影响了我司的办公效率。
我目前使用的服务器操作系统是Windows 10版本1909，针对64位架构进行优化。在遇到问题后，我已经采取了若干初步故障排除措施，其中包括完全关闭并重新启动系统以试图清除可能的临时软件冲突或系统挂起状态，以及彻底卸载并重新安装相关软件，旨在消除可能存在的软件损坏或配置错误问题。然而，尽管进行了这些常规解决尝试，问题仍然持续存在，未见任何改善。
为了便于更深入地诊断问题，我已将详细的错误截图和系统日志文件作为附件一并提供。这些材料应当能精确展示错误发生时的软件状态、异常详情以及任何相关的错误代码，为快速定位并解决当前遇到的技术障碍提供了关键信息。
期待您的尽快回复！

1.客户信息：通义科技张伟（ID12345）
2.软件版本：智能百炼助手V3.1.8
3.错误代码：ERR-2007
4.问题描述：能百炼助手在启动过程中卡在初始化界面，出现“数据库连接失败”的错误提示，导致所有功能模块无法使用，问题自昨日下午开始持续存在。
5.操作系统：Win10 1909 64位
6.其他相关细节：已尝试的解决措施包括重启系统和重装软件，但问题未解决。附件包含错误截图与日志文件。

更多示例可以参考文本生成样例。

文本生成模型

百炼大模型服务平台支持通义千问商业版、通义千问开源版与一些知名第三方模型，详细的模型列表请参考文本生成模型列表。

模型选型建议

• 通义千问-Max、通义千问-Plus 和通义千问-Turbo 均适用于智能客服、文本创作（如撰写文稿、文案创作）、文本润色以及总结摘要等多种场景。如果您暂时不确定选择哪个模型，建议优先尝试使用通义千问-Plus，它在效果、速度和成本上相对均衡。

  推理能力：通义千问-Max > 通义千问-Plus > 通义千问-Turbo

  响应速度：通义千问-Turbo > 通义千问-Plus > 通义千问-Max

  三个模型都兼容OpenAI 调用方式，相关细节请参考如何通过OpenAI接口调用通义千问模型。

• 如果您有明确的业务诉求，也可以选择更适合该场景的模型，比如：

• 希望实现超长文档的总结分析，可以尝试Qwen-Long（最大千万Token）、通义千问-Turbo（最大百万Token）或通义千问-Plus（最大131,072 Token）。

• 数学解题场景推荐使用通义千问数学模型。

• 代码场景推荐使用通义千问代码模型。

• 法律领域推荐使用通义法睿，适用于检索法律知识、生成法律文书、检查合同条款等。

• 机器翻译场景推荐使用通义千问翻译模型，适用于中英互译、中文与小语种互译、英文与小语种互译。

• 您也可以结合具体任务充分体验和评测，对比模型表现后再做决定：

• 使用模型体验功能，通过选择多个文本生成模型，根据相同输入对模型能力进行快速、直观地横向比较。

• 使用模型评测功能，系统地比较模型表现。通过使用不同的模型评测方法，帮助您系统地评估模型表现。

• 更多可量化对比的信息可前往：模型计费详情、性能与限流。

如何使用

文本生成模型将接收的信息作为提示（Prompt），并返回一个根据提示信息生成的输出。百炼支持 OpenAI SDK、DashScope SDK、HTTP 接入方式。

本文以调用通义千问模型为例，介绍如何使用文本生成模型。使用 OpenAI 接口进行模型调用的完整参数列表参考 OpenAI 兼容 API 参考，DashScope 模型调用的完整参数列表参考DashScope API 参考。

消息类型

您通过API与大模型进行交互时的输入和输出也被称为消息（Message）。每条消息都属于一个角色（Role），角色包括系统（System）、用户（User）和助手（Assistant）。

• 系统消息（System Message，也称为System Prompt）：用于告知模型要扮演的角色或行为。例如，您可以让模型扮演一个严谨的科学家等。默认值是“You are a helpful assistant”。您也可以将此类指令放在用户消息中，但放在系统消息中会更有效。

• 用户消息（User Message）：您输入给模型的文本。

• 助手消息（Assistant Message）：模型的回复。您也可以预先填写助手消息，作为后续助手消息的示例。

快速开始

API 使用前提：已获取API Key并完成配置API Key到环境变量。

import osfrom openai import OpenAItry:
    client = OpenAI(        # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
        api_key=os.getenv("DASHSCOPE_API_KEY"),
        base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
    )

    completion = client.chat.completions.create(        # 模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
        model="qwen-plus",
        messages=[
            {'role': 'system', 'content': 'You are a helpful assistant.'},
            {'role': 'user', 'content': '你是谁？'}
            ]
    )    print(completion.choices[0].message.content)except Exception as e:    print(f"错误信息：{e}")    print("请参考文档：https://help.aliyun.com/zh/model-studio/developer-reference/error-code")

我是来自阿里云的超大规模语言模型，我叫通义千问。

import osimport asynciofrom openai import AsyncOpenAIimport platform# 创建异步客户端实例client = AsyncOpenAI(    # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1")# 定义异步任务列表async def task(question):    print(f"Sending question: {question}")
    response = await client.chat.completions.create(
        messages=[
            {"role": "user", "content": question}
        ],
        model="qwen-plus",  # 模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
    )    print(f"Received answer: {response.choices[0].message.content}")# 主异步函数async def main():
    questions = ["你是谁？", "你会什么？", "天气怎么样？"]
    tasks = [task(q) for q in questions]    await asyncio.gather(*tasks)if __name__ == '__main__':    # 设置事件循环策略
    if platform.system() == 'Windows':
        asyncio.set_event_loop_policy(asyncio.WindowsSelectorEventLoopPolicy())    # 运行主协程
    asyncio.run(main(), debug=False)

控制生成的常用参数

Temperature 和 top_p

这两个参数都用于控制模型生成文本的多样性。temperature 或 top_p 越高，生成的文本更多样，反之生成的文本更确定。

• 具有多样性的文本，适用于创意写作（如小说、广告文案）、头脑风暴、聊天应用等场景。

• 具有确定性的文本，适用于有明确答案（如问题分析、选择题、事实查询）或要求用词准确（如技术文档、法律文本、新闻报导、学术论文）的场景。

API 参考

使用 OpenAI 接口进行模型调用的完整参数列表参考 OpenAI 兼容 API 参考，DashScope 模型调用的完整参数列表参考DashScope API 参考。

了解更多

提示（Prompt）工程

提示（Prompt）是输入给大语言模型的文本信息，用于明确地告诉模型想要解决的问题或完成的任务，也是模型理解需求并生成相关、准确内容的基础。通过精心设计和优化 Prompt，向模型“明确”任务目的，使模型输出的结果更符合预期，这一过程被称之为"提示工程（Prompt Engineering）"。这个过程包括以下关键步骤：

如果您对提示工程感兴趣，请前往Prompt 最佳实践了解如何构建有效的Prompt来提升模型表现。

也可以浏览百炼服务平台的 Prompt工程页面，从而快速了解如何利用模板来快速生成所需的文本内容。

多模态能力

多模态能力是指模型能够处理和结合多种不同类型的数据模态（如文本、图像、音频、视频等）进行信息的理解、处理和生成的能力。这种能力使得模型能够更全面地理解和生成内容，增强上下文理解，提高模型表现。

当前百炼支持的多模态模型有：

• 通义千问VL（文+图->文）：具有图像理解能力的通义千问模型，能完成 OCR、视觉推理、本文理解等任务，支持超百万像素分辨率和任意宽高比的图像。

• 通义千问Audio（文+音->文）：具有音频理解能力的通义千问模型，不仅能对输入的音频进行转录，还具备更深层次的语义理解、情感分析、音频事件检测、语音聊天等能力。

• 语音识别模型（音->文）：识别并转写音频中的语音内容，支持中文（含粤语等各种方言）、英文、日语、韩语等。