단말간 직접 통신 네트워크를 위한 심층 강화학습 기반 분산적 스케쥴링 알고리즘

A Distributed Scheduling Algorithm based on Deep Reinforcement Learning for Device-to-Device communication networks

초록

본 논문에서는 오버레이 단말 간 직접 (Device-to-Device : D2D) 통신 네트워크를 위한 강화학습 기반 스케쥴링 문제를 연구한다. 강화학습 모델 중 하나인 Q-learning을 이용한 D2D 통신 기술들이 연구되었지만, Q-learning은 상태와 행동의 개수가 증가함에 따라서 높은 복잡도를 유발한다. 이러한 문제를 해결하기 위하여 Deep Q Network (DQN) 기반 D2D 통신 기술들이 연구되었다. 본 논문에서는 무선 통신 시스템 특성을 고려한 DQN 모델을 디자인하고, 피드백 및 시그널링 오버헤드를 줄일 수 있는 DQN 기반 분산적 스케쥴링 방식을 제안한다. 제안 방식은 중앙집중식으로 변수들을 학습시키고, 최종 학습된 파라미터를 모든 단말들에게 전달한다. 모든 단말들은 최종 학습된 파라미터를 이용하여 각자의 행동을 개별적으로 결정한다. 제안 방식의 성능을 컴퓨터 시뮬레이션을 통하여 분석하고, 최적방식, 기회주의적 선택 방식, 전체 전송 방식과 비교한다.

키워드

단말간 직접 통신기계학습강화학습DQN스케쥴링 알고리즘Device-to-Device communicationMachine learningReinforcement learningDQNScheduling algorithm
제목
단말간 직접 통신 네트워크를 위한 심층 강화학습 기반 분산적 스케쥴링 알고리즘
제목 (타언어)
A Distributed Scheduling Algorithm based on Deep Reinforcement Learning for Device-to-Device communication networks
저자
정무웅김륜우반태원
DOI
10.6109/jkiice.2020.24.11.1500
발행일
2020
저널명
한국정보통신학회논문지
24
11
페이지
1500 ~ 1506