脚本专栏 
首页 > 脚本专栏 > 浏览文章

Tensorflow设置显存自适应,显存比例的操作

(编辑:jimmy 日期: 2024/10/26 浏览:3 次 )

Tensorfow框架下,在模型运行时,设置对显存的占用。

1. 按比例

config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.4 # 根据自己的需求确定
session = tf.Session(config=config, ...)

2. 自适应

config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config, ...)

设置GPU的使用率的时候,都是在创建Session的时候,对config类进行设置。

此外,当电脑上有多块GPU的时候,可以指定选取哪一快GPU进行计算。

# 在程序开头添加
os.environ['CUDA_VISIBLE_DEVICES'] = '0' #使用 GPU 0 0对应着ubuntu系统给GPU的序号,可通过Nvidia-smi命令查看

若存在多个GPU

os.environ['CUDA_VISIBLE_DEVICES'] = '0,1' # 使用 GPU 0,1

一个常见的在代码中指定GPU使用的范例:

import tensorflow as tf
import numpy as np
import os

os.environ['CUDA_VISIBLE_DEVICES']='0'
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction=0.6

with tf.Session(graph=...,config=config) as sess:

## 后续的操作

以上这篇Tensorflow设置显存自适应,显存比例的操作就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。

上一篇:Python使用enumerate获取迭代元素下标
下一篇:TensorFlow 显存使用机制详解
一句话新闻
微软与英特尔等合作伙伴联合定义“AI PC”:键盘需配有Copilot物理按键
几个月来,英特尔、微软、AMD和其它厂商都在共同推动“AI PC”的想法,朝着更多的AI功能迈进。在近日,英特尔在台北举行的开发者活动中,也宣布了关于AI PC加速计划、新的PC开发者计划和独立硬件供应商计划。
在此次发布会上,英特尔还发布了全新的全新的酷睿Ultra Meteor Lake NUC开发套件,以及联合微软等合作伙伴联合定义“AI PC”的定义标准。
友情链接:杰晶网络 DDR爱好者之家 南强小屋 黑松山资源网 白云城资源网 SiteMap