Bladeren bron

set clip_grad_norm = 4

yjh0410 2 jaren geleden
bovenliggende
commit
c40162d2b2
1 gewijzigde bestanden met toevoegingen van 1 en 1 verwijderingen
  1. 1 1
      engine.py

+ 1 - 1
engine.py

@@ -739,7 +739,7 @@ class RTCTrainer(object):
         self.criterion = criterion
         self.world_size = world_size
         self.grad_accumulate = args.grad_accumulate
-        self.clip_grad = 35
+        self.clip_grad = 4
         self.heavy_eval = False
         # weak augmentatino stage
         self.second_stage = False