드론 객체 탐지를 위한 YOLO 조기 종료 하이퍼 파라미터 성능 평가

Abstract

최근 객체 탐지 분야에서 YOLO (You Only Look Once) 계열 모델은 빠른 처리 속도와 높은 정확도로 널리 활용 되고 있으나 동일한 조건으로 학습시켜도 결과에는 편차가 발생할 수 있다. 본 연구에서는 Patience 옵션 기반의 조 기 종료(Early Stopping) 기법을 적용하고, YOLOv3, YOLOv8, YOLOv11 모델을 동일 조건에서 30회 반복 학습하 고 성능 분포를 분석하였다. 드론 연직 영상 기반 실험에서 조기 종료 학습의 AP50은 YOLOv3에서 0.879~0.977, YOLOv8에서 0.846~0.967, YOLOv11에서 0.801~0.928 범위로 나타났으며, 이는 단일 학습 결과만으로는 모델 간 성능을 신뢰성 있게 비교하기 어렵다는 점을 의미한다. 또한, 모든 모델에서 대조군으로 설정한 고정 100 에폭 (Epoch) 학습보다 조기 종료 학습이 평균적으로 높은 성능을 보였다. 한편 수렴 에폭은 모델별로 124회에서 818회 로 분포하였고, 수렴 에폭과 성능 지표 간의 결정계수(R 2)는 YOLOv3에서 0.20, YOLOv8에서 0.02, YOLOv11에서 0.04로 낮게 나타나 종료 에폭 시점만으로는 성능 변동을 설명하기 어려웠다. 따라서 학습 종료 시점을 임의로 고정 하는 방식보다, 검증 성능 변화를 기준으로 동적 조정하는 조기 종료 기법을 적용하는 것이 타당하다. 본 연구는 반 복 학습 결과의 평균 및 분포 특성과 조기 종료 기법을 결합함으로써 객체 탐지 모델의 학습 안정성과 평가 신뢰도 를 향상시킬 수 있음을 실험적으로 확인하였다.