박형곤 교수팀, ‘패킷 손실 문제 해결’로 차세대 연합학습 핵심 기술 선도
저손실·고효율 연합학습(Federated Learning) 통신 알고리즘 개발
50% 지연 감소·정확도 96% 이상 유지
전자전기공학전공 박형곤 교수 연구팀이 불안정한 네트워크 환경에서도 연합학습(Federated Learning)의 성능을 크게 향상시키는 신규 패킷 복구 알고리즘을 제안하며 모바일·AI 통신 분야에서 주목할 만한 성과를 거두었다. 연구 결과는 저명 SCIE 저널 <IEEE Transactions on Mobile Computing>에 게재되며 기술적 우수성을 인정받았다.
분산 학습 모델인 연합학습은 각 디바이스가 데이터를 공유하지 않고 모델만 학습·전송하는 최신 인공지능(AI) 학습 방식으로, 향후 6G·사물인터넷(IoT)·모바일 엣지 컴퓨팅(MEC) 환경에서 널리 활용될 것으로 예상되어 주목을 받고 있다. 그러나 전통적인 전송 제어 프로토콜(TCP) 기반의 연합학습은 재전송으로 인한 지연 문제와 일부 작업 지연으로 인한 전체 처리 성능이 저하되는 straggler 문제를 포함하고 있으며, 사용자 데이터그램 프로토콜(UDP) 기반의 연합학습은 패킷 손실을 허용해 모델 정확도와 안정성이 크게 떨어지는 문제가 지속적으로 제기되어 왔다.
박형곤 교수 연구팀은 이러한 문제를 해결하기 위해 ‘저랭크 근사(Low-Rank Approximation)’와 ‘체계적 네트워크 코딩(SysNC)’을 결합한 완전히 새로운 접근법을 제시했다. 연구팀은 전송해야 하는 거대한 모델 파라미터에서 가장 중요한 정보(S-dynamic singular values)만을 정확히 추출해 전송량을 줄이고, 나머지는 근사 복원 가능하도록 설계했다. 중요한 패킷은 SysNC 기반으로 보강해 손실 위험을 최소화함으로써, 일부 패킷이 유실되더라도 모델 정확도를 안정적으로 유지할 수 있다.
실험 결과 제안된 알고리즘은 패킷 손실률 10% 환경에서도 손실 없는 경우의 96% 이상 정확도를 유지했으며, 기존 UDP 전송 대비 약 50%의 지연시간 감소를 달성했다. 또한 MNIST와 CIFAR-10 등 다양한 데이터셋에서 기존 알고리즘 대비 가장 높은 정확도와 안정성을 보였으며, FedAvg·FedProx·FedALA 등 최신 연합학습 알고리즘에 적용해도 일관된 성능 향상 효과가 검증됐다.
이 연구는 ▲IoT·엣지 디바이스 환경 ▲5G/6G 기반 지능형 서비스 ▲고신뢰 네트워크가 필요한 헬스케어·모빌리티 AI 등 다양한 분야에서 연합학습의 실제 적용 가능성을 크게 확장할 핵심 기술로 평가된다.
박형곤 교수는 “본 연구는 패킷 손실이라는 현실적 네트워크 한계를 수학적 근사와 체계적 네트워크 코딩기법을 통해 구조적으로 해결한 첫 사례”라며 “향후 대규모 분산 AI 학습 시스템의 효율성과 신뢰성을 혁신적으로 높일 것”이라고 밝혔다.
권정민 강원대 교수(제1저자), 박형곤 교수(교신저자)
본 연구를 담은 논문 「Efficient and Resilient Packet Recovery for Federated Learning via Approximation」은 박형곤 교수(교신저자)와 본 연구실 졸업생인 권정민 강원대 교수(1저자)의 공동연구로 수행됐으며, 정보통신기획평가원(IITP)의 ‘분산/협력 AI 기반 5G+ 네트워크 데이터 분석 기능 및 제어 기술 개발’ 과제의 지원으로 수행됐다.
논문 바로 가기: https://doi.org/10.1109/TMC.2025.3636594