연합 학습(Federated Learning)

문제6) 개인정보 보호를 위한 분산 인공지능(AI, Artifical Intelligence) 학습 모델인 연합학습 (Federated Learning) 에 대하여 아래 사항을 설명 하시오.

가. 연합학습의 동작 원리

나. 연합학습의 주요 알고리즘

다. 연합학습의 보안 및 프라이버시 보장형 기술

 

답)

 

1. 분산 인공지능 학습 모델인 연합학습(Federated Learning)의 개요

 

정의	개인정보 보호를 위해 기기나 기관 등 여러 위치에 분산 저장된 데이터를 직접 공유하지 않으면서, 서로 협력하며 AI 모델을 학습할 수 있는 분산형 머신러닝 기법
주요특징	우수한 연산 속도	중앙 서버에서 일괄 연산이 아닌 로컬 디바이에서 개별 연산
	개인정보 보호	개인 데이터는 중앙 서버에 전송하지 않고 로컬에 보관
	모델의 성장성	AI 학습 모델이 실시간 준하는 업데이트가 지속적으로 일어남
다양한 기기에서 분산 저장된 데이터를 직접 공유하지 않으면서, 모델 훈련을 하는 기법 연합학습은 중앙서버와 분산된 Client 간의 상호작용으로 동작됨

 

2. 연합학습의 동작 원리 및 주요 알고리즘 설명

가. 연합학습의 동작 원리 설명

단말은 생성한 로컬 AI 모델의 결과값 (파라미터)을 압축 및 암호화하여 클라우드 서버로 전송 개선된 글로벌 AI 모델은 다시 개인 스마트폰에 전송되어 기존 모델을 업데이트 함으로써 점점 예측력이 높은 로컬 모델이 만들어짐 FedSGD, FedAvg 등 주요 알고리즘이 존재함.

 

나. 연합학습의 주요 알고리즘 설명

구분	설명
주요 알고리즘 개념도
주요 알고리즘	FedSGD	모든 참가자가 참여를 하며, 각 트레이닝 라운드마다 오직 하나의 pass 만(1 step training) 을 수행
	FedAvg	각 단말이 일정한 횟수 K 만큼 반복적으로 학습을 수행한 후의 파라미터 값을 서버 로 전달하는 방식
	FedBCD	각 참가자들은 global aggregation 을 위한 통신 전에 multiple 한local update 를 수행
	FedTrans	통신 비용을 줄이는 방법은 수렴 속도를 증가 시키게끔 학습 알고리즘을 변경
	HierFaVG	edge server 가 local model 의 파라미터들을 집계
연합학습 알고리즘만으로는 프라이버시 보호로부터 완전히 자유로울 수는 없다는 사실들이 증명, 이러한 프라이버시 및 보안 문제를 해결하기 위해 최근 다양한 알고리즘 연구가 진행

 

3. 연합학습의 보안 및 프라이버시 보장형 기술

가. 연합학습의 보안 및 프라이버시 보장형 기술 설명

 

개인 정보 보호를 위해 노이즈를 추가하거나 암호화된 결과로 연산하는 등 다양한 기술이 존재

 

나. 연합학습의 보안 및 프라이버시 보장형 기술 상세 설명

 

주요기술	개념도	설명
차등 정보 보호		하나의 개인정보가 전체 자료에 추가로 포함될 때 증가하는 노출 위험을 ‘차등 정보 보호 ’라 정의 원 데이터에 수학적 노이즈 추가 파라미터에 노이즈를 추가하여 프라이버시 노출을 방지
동형 암호		암호화된 데이터를 복호화 없이도 연산할 수 있는 암호기술 각 단말은 자신의 데이터를 동형 암호화 동형 암호화된 값을 서버로 전달 서버는 각 단말에서 전달받은 암호 값을 연산 후 복호화
안전한 다자간 계산		동형암호와 유사 각 단말에서 서버로 전달하는 원래의 값을 노출하지 않고 전체 합을 알 수 있음 가장 대표적인 다자간 계산 알고리즘으로 Secure Aggregation
연합학습은 기존 분산 학습과 유사한 개념이지만 이와 다른 분산 최적화 이슈가 존재하며 해결 방안이 필요

 

4. 연합학습의 분산 최적화 이슈 및 해결 방안

분산 최적화 이슈 외 사이버 공격, 공정성, 편향성 문제 또한 고려가 되어야 함.

 

 

---

 

공감과 댓글은 아이티신비에게 큰 힘이 됩니다.

블로그 글이 유용하다면 블로그를 구독해주세요.♥