개선된 지식 증류 기법을 활용한 효율적인 ESRGAN 압축

초록

최근 초해상화 연구에서 생성적 적대 신경망을 활용한 모델들이 높은 성능을 보이며 주목받고 있다. 그러나 이러한 모델들은 복잡한 구조와 다수의 파라미터로 인해 제한된 환경에서의 적용이 어려운 문제가 있다. 이러한 문제를 해결하기 위해 본 연구에서는 생성적 적대 신경망 기반 초해상화 모델의 경량화를 목표로 가지치기와 지식 증류 기법을 결합한 새로운 방법을 제안한다. 제안된 방법은교사 모델에 가지치기를 적용하여 불필요한 가중치를 제거하고, 중요한 지식만을 학생 모델에 전달함으로써 모델 크기를 교사 모델의39%까지 줄이면서도 성능 저하를 최소화한다. 실험 결과, 테스트 데이터셋에서 PSNR에서 최대 1.2dB, SSIM에서 최대 0.04의 향상을 기록하였으며, FID와 LPIPS 지표에서도 기존 모델과 유사한 성능을 유지하였다. 본 연구는 제한된 자원 환경에서도 고품질의 초해상화 이미지를 생성할 수 있는 생성적 적대 신경망 모델 경량화의 실용적 가능성을 제시한다.

키워드