[네이버 부스트 캠프] AI-Tech - Lv3 모델 경량화(6)

대회 팀 회고

[회고]

• Optuna API를 이용하는데 있어서 이해가 많이 늦었던 것 같다. 많은 기능들의 활용이 있었던 것 같은데 document를 직접 이용해보지 못했던 것 같다. DB 활용해서 팀원들과 분산 작업을 진행했던 점은 새롭게 배웠던 것 같았다. 자원을 분배했기에 시간 절약에 매우 용이했던 것 같다. postgreSQL에 대해 좀 더 깊이 있는 배움이 있다면 좋겠다는 생각이 들었다.
• 이론에 대해 많은 것을 배우긴 했는데 너무 어려웠던 것 같다. 마지막에 알려준 경량화 기법인 Quantization의 FP16에 대해서는 완벽한 이해를 하지 못했던 것 같았다.
• 직접 API를 이용하고 실험해보고 싶은데 계속 잘 안되는 것 같다.. 내가 직접하면서 다른 사람들에게 공유를 하며 도움을 줬더라면,,, 하는 ,, 아쉬움이 남았다.

[계획]

• Optuna를 활용한 최적화 모델 설계 해보기
• Quantization을 이용한 FP16 경량화 모델 만들어보기
• ShuffleNet, EfficientNet, MobileNet 논문 공부
• DWConv, InvertedRes, 내부 activation 개념 정리