향상된 흉부 엑스레이 진단을 위한 멀티 클래스 토큰 기반 하이브리드 트랜스포머 모델

초록

흉부 엑스레이(Chest X-ray)는 폐의 이상을 진단하고 발견하는 데 일반적으로 사용되는 의료 영상 기술 중 하나로 딥러닝, 특히 컨벌루션 신경망 (Convolutional Neural Network, CNN)을 기반으로 한 컴퓨터 보조 진단(Computer Aided Diagnosis, CAD) 시스템은 의사들의 진단을 돕는데 많이 활용되고 있다. 이 연구에서는 CNN과 트랜스포머를 효과적으로 통합하여 흉부 질환의 분류 성능을 높이는 새로운 모델, 즉 Multi-Class Token CheXFormer (MCTCheXFormer)를 제안한다. 이 모델은 convolution 연산과 self-attention 메커니즘을 사용하여 흉부 엑스레이 내 지역 및 전역적인 특징을 효과적으로 활용하도록 설계되었다. MCTCheXFormer는 트랜스포머와 흉부 엑스레이 분류에서 뛰어난 성능을 보여주는 CNN 모델인 CheXNet으로 구성되며, 트랜스포머의 class token은 single-class token에서 multi-class token으로 확장하였다. 확장된 class token은 클래스별 특징을 학습하고 구분할 수 있도록 해 다중 레이블 분류 성능을 높였다. 또한, CheXNet을 통해 생성한 신뢰도 점수를 multi-class token에 attention 가중치로 적용하는 Iterative Class Token Weighting (ICW) 기법을 제안하여 모델의 흉부 질환 분류 성능을 높이고자 하였다. 제안 모델의 트랜스포머는 Pyramid Vision Transformer (PVT)를 기반으로 하고 있으며 총 4단계로 이루어져 있다. Token refinement 모듈을 추가하여 각 단계에서 생성되는 다양한 크기의 patch token의 차원과 multi-class token의 차원이 같도록 조절하였다. 제안한 MCTCheXFormer는 14개의 흉부 질환에 클래스 레이블을 제공하는 ChestX-ray14 데이터셋에서 CNN 또는 트랜스포머를 사용하는 기존 흉부 엑스레이 분류 모델과 비교하였다. 비교 결과 MCTCheXFormer는 다른 모델 대비 뛰어난 성능을 보였고, 이를 통해 흉부 질환에서 정확하고 효율적인 진단을 위한 트랜스포머의 활용 가능성을 보여주었다.

키워드