基于异构机密计算实例构建安全大语言模型推理环境
随着大语言模型技术的普及，企业对推理过程中的数据安全问题日益关注。本文将介绍如何基于阿里云异构机密计算实例及Confidential AI方案（以下简称CAI），快速构建安全的大语言模型推理环境。背景说明阿里云异构机密计算实例（gn8v-tee）在CPU TDX机密计算实例的基础上，额外将GPU引入到TEE（Trusted Execution Environment
2025-06-26
浏览:1000+
使用SD-WebUI容器镜像加速文生图
对于需要文生图的业务场景，通过使用Stable Diffusion模型可以实现文生图功能。相比未使用DeepGPU加速的情况，借助DeepGPU可以加速Stable Diffusion模型的计算和推理性能。例如，文本生成分辨率为512x512图像的情况下，使用DeepGPU功能其加速性能可能提升约88%。本文为您介绍如何在GPU实例上部署SD-WebUI容器镜像以加速文生
2025-06-26
浏览:1000+
使用vLLM镜像快速构建模型的推理环境
在GPU的实例上部署vLLM镜像后，可以帮助您快速且方便地构建大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型）的推理环境，主要应用在智能对话系统、文本分类或分析等自然语言处理业务场景，您无需深入了解底层硬件，也无需额外配置即可开箱即用。本文为您介绍如何在GPU实例上使用vLLM容器镜像
2025-06-26
浏览:1000+
使用DeepGPU-LLM镜像构建模型的推理环境
在GPU实例上配置DeepGPU-LLM容器镜像后，可以帮助您快速构建大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型）的推理环境，主要应用在智能对话系统、文本分析、编程辅助等自然语言处理业务场景，您无需深入了解底层的硬件优化细节，镜像拉取完成后，无需额外配置即可开箱即用。本文为您介绍如
2025-06-25
浏览:1000+
使用TensorRT-LLM构建模型的推理环境
在GPU的实例上安装推理引擎TensorRT-LLM，可以帮助您快速且方便地构建大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义千问Qwen模型）的推理环境，主要应用在智能对话系统、文本分析等自然语言处理业务场景。本文为您介绍如何在GPU实例上安装和使用TensorRT-LLM来快速构建大语言模型的高性能推理优化功能。
2025-06-25
浏览:1000+
使用eRDMA容器镜像快速配置eRDMA提升网络性能
eRDMA（Elastic Remote Direct Memory Access）是一种高性能网络通信技术，将eRDMA功能引入容器（Docker）环境可以实现容器应用程序绕过操作系统内核直接访问主机的物理eRDMA设备，从而提供更快的数据传输和通信效率，适用于在容器中需要大规模数据传输和高性能网络通信的应用场景。本文介绍如何使用eRDMA镜像在GPU实例上快
2025-06-25
浏览:1000+
使用FastGPU一键部署并训练应用或任务
在开发者实验室中，阿里云为您提供了使用FastGPU进行一键部署并训练应用的相关实验教程，例如针对图像分类应用、bert-perseus应用以及手势识别应用的教程。该教程基于 Cloud Shell提供的真实环境，您可以通过在线Web IDE（Cloud Shell内置的代码编辑器）、命令行以及步骤式的教程指引，体验并完成所需教程的学习与实验。说明
2025-06-24
浏览:1000+
部署NGC容器环境构建深度学习开发环境
NGC（NVIDIA GPU CLOUD）是NVIDIA开发的一套深度学习生态系统，方便您免费访问深度学习软件堆栈，建立适合深度学习的开发环境。本文以搭建TensorFlow深度学习框架为例，为您介绍如何在GPU实例上部署NGC环境以实现深度学习开发环境的预安装。背景信息NGC网站提供了目前主流深度学习框架不同版本的镜像，例如Caffe、Caffe2、C
2025-06-24
浏览:1000+
基于GPU实例单机部署满血版DeepSeek模型
DeepSeek-V3/R1是一个具有超过600亿参数的专家混合（MoE）模型，且已开源其模型权重。本文将介绍如何利用SGLang作为DeepSeek模型的推理框架，在一台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置，即可实现开箱即用。核心工具介绍NVIDIA GPU驱动：用来驱动NVIDIA GPU的程序，本文以Driver版本 550.127.08
2025-06-24
浏览:1000+
基于GPU实例双机分布式部署满血版Deepseek模型
DeepSeek-V3/R1是一个具有超过600亿参数的专家混合（MoE）模型，且已开源其模型权重。本文将介绍如何利用vllm作为DeepSeek模型的推理框架，在两台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置，即可实现开箱即用。操作步骤步骤一：准备环境创建GPU实例并正确安装驱动。具体操作，请参见创建GPU实例。关键
2025-06-23
浏览:1000+
