[하나도 도움안되는 후기] Weight And Bias 써봤음

도구가 도움 안된다는게 아니라 제 글이 구리다는겁니다

 

튜토리얼

https://wandb.ai/authors/bcnn/reports/Weights-Biases-Data-Science---Vmlldzo4MDA0Nzg  

 

뭐하는 건가요?

• 데이터셋, 모델, 시스템 정보 등을 추적하는 도구
• 이런 정보들을 전용 페이지 UI에 예쁘게 뿌려줌!
• TensorFlow, Keras, PyTorch, Sklearn, fastai 등 호환
• 가지고 있는 기능은 크게,
  • 대시보드(Dashboard): 실험 추적
    -> 이건 진짜 간단하게 확인 가능
  • 아티팩트(Artifacts): 데이터세트 버저닝(versioning), 모델 버저닝(versioning)
  • 스윕(Sweep): 초매개변수(Hyperparameter) 최적화
  • 리포트(Report): 재현 가능 결과의 저장 및 공유

 

실험 돌아가고있는지를 모바일에서도 확인할 수 있어서 좋은 것 같다.

체크포인트도 따로 저장할 수 있음

 

 

 

 

 

레포트

보여주고 싶은 것들 골라서 작성 가능

-> 발표 슬라이드 만들때 좋을 듯

 

튜토리얼 보면 아티팩트 추가하는게 있던데, 그냥 mmdetection 기본으로 돌리면 이랬음

last epoch 모델이 저장되어있어 Files 탭에서 다운로드 할 수 있음

 

 

스윕은 한번 써보려고 했는데 뭐가 너무 많아서 잘 모르겠음

일단 자동생성된 sweep.yml것중에서 필요한것만 남겼는데, 내가 실험을 원래 bash 파일로 돌리다보니까 뭔가 안맞음..

program 대신에 command 지정하는게 있는데, 아래 링크 참고해서 바꿔줬지만 수정한 sweep.yml이 웹상에 save가 안됨.. ㄱ-

 

스윕은 좀 더 간단한 코드를 돌릴때 사용해봐야겠다.

https://stackoverflow.com/questions/71223654/how-to-get-wandb-to-pass-arguments-by-position

method: bayes
metric:
  goal: minimize
  name: Relative Time (Process)
parameters:
  lr_config.warmup_iters:
    distribution: int_uniform
    max: 10
    min: 3
  model.backbone.deepen_factor:
    distribution: uniform
    max: 2.66
    min: 0.665
  model.backbone.widen_factor:
    distribution: uniform
    max: 2.5
    min: 0.625
  optimizer.lr:
    distribution: uniform
    max: 0.04
    min: 0.01
  optimizer.type:
    distribution: categorical
    values:
      - SGD
  runner.max_epochs:
    distribution: int_uniform
    max: 200
    min: 50
program: ./tools/train.py
command:
  - ${program}
  - ${configs/challenge/yolox_x.py}

 

후레 찍먹후기 요약

- 아 텐서보드보다 편하다(?)

- 기능이 많아보이는데 모르겠고 그냥 간단히 쓸수 있는것만 적용해도 실험정리 편하구나