소스 검색

set clip_grad_norm = 4

yjh0410 2 년 전
부모
커밋
c40162d2b2
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      engine.py

+ 1 - 1
engine.py

@@ -739,7 +739,7 @@ class RTCTrainer(object):
         self.criterion = criterion
         self.world_size = world_size
         self.grad_accumulate = args.grad_accumulate
-        self.clip_grad = 35
+        self.clip_grad = 4
         self.heavy_eval = False
         # weak augmentatino stage
         self.second_stage = False