Bladeren bron

Update loss for FP16 `tobj` (#7088)

modifyDataloader
Glenn Jocher GitHub 2 jaren geleden
bovenliggende
commit
a2d617ece9
Geen bekende sleutel gevonden voor deze handtekening in de database GPG sleutel-ID: 4AEE18F83AFDEB23
1 gewijzigde bestanden met toevoegingen van 1 en 1 verwijderingen
  1. +1
    -1
      utils/loss.py

+ 1
- 1
utils/loss.py Bestand weergeven

@@ -125,7 +125,7 @@ class ComputeLoss:
# Losses
for i, pi in enumerate(p): # layer index, layer predictions
b, a, gj, gi = indices[i] # image, anchor, gridy, gridx
tobj = torch.zeros(pi.shape[:4], device=self.device) # target obj
tobj = torch.zeros(pi.shape[:4], dtype=pi.dtype, device=self.device) # target obj

n = b.shape[0] # number of targets
if n:

Laden…
Annuleren
Opslaan