문제4) 최근 인공지능 기술 활용이 증가하면서 다양한 보안 위협이 증가하고 있다. 이와 관련하여 아래 사항들에 대하여 설명하시오.
1) 머신러닝 학습과정에서의 적대적 공격 4가지와 방어기법
2) 생성형 언어모델 기반의 인공지능 기술 활용 시 발생할 수 있는 보안취약점
답)
1. 머신러닝의 적대적 공격 개요
정의
|
러닝의 심층신경망을 이용한 모델에 적대적 교란(Adversarial Perturbation)을 적용하여 오분류
를 발생시키는 공격기술 |
유형
|
![]() |
|
2. 머신러닝 학습과정에서의 적대적 공격 4가지와 방어기법
가. 머신러닝 학습과정에서의 적대적 공격 4가지 공격 기법 설명
공격 기법
|
설명
|
사례
|
Poisoning attack
(중독 공격, 오염 공격) |
|
|
Evasion attack
(회피 공격) |
|
|
Inversion attack
(전도 공격, 학습 데이터 추출 공격) |
|
|
Model extraction attack
(모델 추출 공격) |
|
|
|
나. 머신러닝 학습과정에서의 적대적 공격 방어기법
![]() |
|
방어기법
|
설명
|
Defense-GAN
|
|
적대적 훈련
(Adversarial training) |
|
결과값
분석 차단 |
|
적대적 공격
여부를 탐지 |
|
쿼리 횟수 제한
|
|
|
3. 생성형 언어모델 기반의 인공지능 기술 활용 시 발생할 수 있는 보안취약점
보안 취약점
|
보안 취약점 상세
|
설명
|
피싱 메일 및
악성 코드 생성 |
생성형 언어모델의 결과물을 사이버 공격에 활용
|
|
악성코드 생성 테스트
|
|
|
텍스트, 소스코드 빠른 분석 및 지식 습득
|
|
|
민감정보
유출과 결과물 오남용 |
무분별한 데이터 입력으로 인한 민감정보 유출 가능성
|
|
잘못된 결과물의 생산 및 활용
|
|
|
인공지능에
대한 공격 |
인공지능에 대한 고유의 보안 위협 존재
|
|
4. 생성형 언어모델 기반의 인공지능 기술 활용 시 발생할 수 있는 보안취약점 대응방안
구분
|
대응방안
|
설명
|
대응
|
악용에 대한 선제적 대응
|
|
활용
|
안전한 활용 및 도입 촉진
|
|
정책
|
인공지능 보안 정책 마련
|
|
공감과 댓글은 아이티신비에게 큰 힘이 됩니다.
블로그 글이 유용하다면 블로그를 구독해주세요.♥
'정보관리기술 > 인공지능' 카테고리의 다른 글
머신러닝 적대적 공격 (20) | 2024.03.25 |
---|---|
의사결정나무(Decision Tree) (24) | 2024.03.25 |
머신러닝 최적화 알고리즘 (Optimization Algorithm) 유형 및 장단점 / ① (24) | 2024.03.24 |
머신러닝(Machin Learning)과 딥러닝(Deep Learning) /① (22) | 2024.03.23 |
인공지능 학습 / ① (24) | 2024.03.23 |