tencent cloud

腾讯云 TI 平台

产品简介
产品概述
产品定价
客户价值
应用场景
购买指南
计费概述
购买方式
续费说明
欠费说明
安全合规
数据安全保护机制
监控、审计与日志
安全合规资质
快速入门
平台使用准备
操作指南
大模型广场
任务式建模
开发机
模型管理
模型评测
在线服务
资源组管理
数据源管理
Tikit
GPU 虚拟化
实践教程
LLM 部署及推理
LLM 训练及评测
内置训练镜像列表
自定义训练镜像规范
Angel 训练加速功能介绍
基于标签实现子用户间资源隔离
相关协议
TI Platform 隐私协议
TI Platform 数据处理和安全协议
开源软件信息
联系我们

GPU 虚拟化

PDF
聚焦模式
字号
最后更新时间: 2025-05-12 17:48:22

概述

腾讯云 TI 平台提供 GPU 虚拟化功能,可将同一张 GPU 卡的算力分配给不同训练任务和推理服务使用,提升资源分配灵活性和使用效率。

支持的 GPU 型号

平台 GPU 虚拟化功能已支持的 GPU 型号如下:
T4...(其余机型将陆续上架国际站,敬请期待)

功能使用说明

前置条件

您需要在资源组管理页面提前创建资源组,并将您的 CVM 以节点形式添加至资源组。


使用方式

新建开发机实例新建任务式建模训练任务新建在线服务时,当选择您的资源组后,如果其中包括已支持虚拟化的 GPU 卡型号,则可以在配置资源时,选择 GPU 卡数为0.1至1之间的数值。


注意事项

由于市面上的 GPU 卡型号在不断增多,相关驱动也在持续更新,因此平台的 GPU 虚拟化功能对于 GPU 型号的支持是逐步扩展的。平台新支持虚拟化的 GPU 可能无法在存量资源组中使用虚拟化功能,请您在使用时关注平台的相关提示。
如果在创建资源组时添加了平台尚未支持虚拟化的 GPU 卡型号的节点,则在平台后续支持该卡型号虚拟化后,仍无法使用该资源组内上述 GPU 的虚拟化功能。
在上述情况下,您也无法上述节点直接移动至其他资源组;但可以将节点从资源组中移除,并重新添加至新创建的资源组,从而可以使用虚拟化功能。


帮助和支持

本页内容是否解决了您的问题?

填写满意度调查问卷,共创更好文档体验。

文档反馈