import GPUtil # order- 确定返回可用 GPU 设备 ID 的顺序。order应指定为以下字符串之一: # 'first'- 按升序排列可用的 GPU 设备 ID(默认) # 'last'- 按 id 降序排列可用的 GPU 设备 id # 'random'- 随机订购可用的 GPU 设备 ID # 'load'- 按负载递增排序可用的 GPU 设备 ID # 'memory'- 通过升序内存使用来排序可用的 GPU 设备 ID # limit- 将返回的 GPU 设备 ID 数量限制为指定数量。必须是正整数。(默认 = 1) # maxLoad- 被认为可用的 GPU 的最大当前相对负载。负载大于 的 GPUmaxLoad不会返回。(默认 = 0.5) # maxMemory- 被视为可用的 GPU 的最大当前相对内存使用量。maxMemory不返回当前内存使用量大于的 GPU 。(默认 = 0.5) # includeNan- 真/假标志,指示是否包括负载或内存使用为 NaN 的 GPU(指示无法检索使用情况)。(默认 = 假) # excludeID- ID 列表,应从可用 GPU 列表中排除。见GPU类描述。(默认 = []) # excludeUUIDexcludeID-除了它使用 UUID 之外,其他相同。(默认 = []) # 输出 # deviceIDs - 所有可用 GPU 设备 ID 的列表。如果当前负载和内存使用量分别小于maxLoad和maxMemory,则认为 GPU 可用。该列表是根据 排序的order。返回的设备 ID 的最大数量由 限制limit。 def get_gpu_ids(content): deviceIDs = GPUtil.getAvailable(order=content["gpu"]["order"], limit=int(content["gpu"]["limit"]), maxLoad=float(content["gpu"]["maxLoad"]), maxMemory=float(content["gpu"]["maxMemory"]), includeNan=content["gpu"]["includeNan"], excludeID=content["gpu"]["excludeID"], excludeUUID=content["gpu"]["excludeUUID"]) return deviceIDs def get_all_gpu_ids(): return GPUtil.getGPUs()