Explorar el Código

set clip_grad_norm = 4

yjh0410 hace 2 años
padre
commit
c40162d2b2
Se han modificado 1 ficheros con 1 adiciones y 1 borrados
  1. 1 1
      engine.py

+ 1 - 1
engine.py

@@ -739,7 +739,7 @@ class RTCTrainer(object):
         self.criterion = criterion
         self.world_size = world_size
         self.grad_accumulate = args.grad_accumulate
-        self.clip_grad = 35
+        self.clip_grad = 4
         self.heavy_eval = False
         # weak augmentatino stage
         self.second_stage = False