|
- import GPUtil
- import json
- # 网址:https://github.com/anderskm/gputil
- GPUtil.showUtilization()
- #返回可用 GPU 的列表 ID。
- # order- 确定返回可用 GPU 设备 ID 的顺序。order应指定为以下字符串之一:
- # 'first'- 按升序排列可用的 GPU 设备 ID(默认)
- # 'last'- 按 id 降序排列可用的 GPU 设备 id
- # 'random'- 随机订购可用的 GPU 设备 ID
- # 'load'- 按负载递增排序可用的 GPU 设备 ID
- # 'memory'- 通过升序内存使用来排序可用的 GPU 设备 ID
- # limit- 将返回的 GPU 设备 ID 数量限制为指定数量。必须是正整数。(默认 = 1)
- # maxLoad- 被认为可用的 GPU 的最大当前相对负载。负载大于 的 GPUmaxLoad不会返回。(默认 = 0.5)
- # maxMemory- 被视为可用的 GPU 的最大当前相对内存使用量。maxMemory不返回当前内存使用量大于的 GPU 。(默认 = 0.5)
- # includeNan- 真/假标志,指示是否包括负载或内存使用为 NaN 的 GPU(指示无法检索使用情况)。(默认 = 假)
- # excludeID- ID 列表,应从可用 GPU 列表中排除。见GPU类描述。(默认 = [])
- # excludeUUIDexcludeID-除了它使用 UUID 之外,其他相同。(默认 = [])
- # 输出
- # deviceIDs - 所有可用 GPU 设备 ID 的列表。如果当前负载和内存使用量分别小于maxLoad和maxMemory,则认为 GPU 可用。该列表是根据 排序的order。返回的设备 ID 的最大数量由 限制limit。
- deviceIDs = GPUtil.getAvailable(order = 'memory', limit = 1, maxLoad = 0.8, maxMemory = 0.8, includeNan=False, excludeID=[], excludeUUID=[])
- print(deviceIDs)
- # 返回第一个可用的 GPU。可用性是根据当前的内存使用和负载确定的,排序由指定的顺序确定。如果找不到可用的 GPU,则会引发错误。使用默认值时,与getAvailable(order = 'first', limit = 1, maxLoad = 0.5, maxMemory = 0.5)
- # 输入
- # order- 见描述GPUtil.getAvailable(...)
- # maxLoad- 被认为可用的 GPU 的最大当前相对负载。负载大于 的 GPUmaxLoad不会返回。(默认 = 0.5)
- # maxMemory- 被视为可用的 GPU 的最大当前相对内存使用量。maxMemory不返回当前内存使用量大于的 GPU 。(默认 = 0.5)
- # attempts- 在放弃寻找可用 GPU 之前,该函数应进行的尝试次数。(默认 = 1)
- # interval- 每次尝试查找可用 GPU 的时间间隔(以秒为单位)。(默认 = 900 --> 15 分钟)
- # verbose- 如果True是,则在每次尝试之前打印尝试次数,如果找到可用的,则打印 GPU id。
- # includeNan- 见说明GPUtil.getAvailable(...)。(默认 = 假)
- # excludeID- 见说明GPUtil.getAvailable(...)。(默认 = [])
- # excludeUUID- 见说明GPUtil.getAvailable(...)。(默认 = [])
- # 输出
- # deviceID - 包含 1 个元素的列表,其中包含第一个可用的 GPU 设备 ID。如果当前负载和内存使用量分别小于maxLoad和maxMemory,则认为 GPU 可用。顺序和限制分别固定为'first'和1。
- deviceID = GPUtil.getFirstAvailable(order = 'first', maxLoad=0.5, maxMemory=0.5, attempts=1, interval=900, verbose=False)
- print(deviceID)
- GPUtil.showUtilization(all=True, attrList=None, useOldCode=True)
- # 打印所有 GPU 的当前状态(id、内存使用情况、uuid 负载)
- # 输入
- # all- 真/假标志,指示是否应显示 GPU 上的所有信息。覆盖attrList。
- # attrListGPU-要显示的属性列表列表。有关更多信息/示例,请参见代码。
- # useOldCode- 真/假标志,指示是否应使用显示 GPU 利用率的旧代码。
- # 输出
- # 没有任何
-
- GPUs = GPUtil.getGPUs()
- for gpu in GPUs:
- print(gpu.id)
- # 输入
- # 没有任何
- # 输出
- # GPUs- 所有 GPU 的列表。每个GPU对应于计算机中的一个 GPU,并包含一个设备 ID、相对负载和相对内存使用情况。
- if __name__ == "___main__":
- pass
|