인공지능 윤리

문제6) 인공지능(AI)에서 윤리의 필요성 및 선진국의 정책 동향을 설명하고, 바람직한 AI 윤리정책 수립 시 고려

사항에 대하여 설명하시오.

 

답)

 

1. 인공지능(AI)에서 윤리의 필요성

가. 인공지능 윤리의 개념

• 인공지능(AI) 기술을 활용하는 정부와 공공기관, 기업, 이용자 등 사회 전체 구성원이 인공지능 개발~활용 전 단계에서 함께 지켜야 할 윤리 원칙

 

나. 인공지능(AI) 윤리의 필요성

 

인공지능의 특성을 감안한 필요성	인공지능의 자율성과 우월한 지능이라는 특성은 인공지능이 발전함에 따라 인간과 대등한 지식을 축적하거나 더 나아가 인간의 지식과 예측, 제어를 뛰어넘는 상황을 야기할 수도 있음
이미 발생한 사건에 근거한 필요성	이미 발생한 여러 사례(자율주행자동차 사고, 로보어드바이저의 주식투자손실, 인공지능 편견 사건 등)를 통해 인공지능 윤리 구축에 대한 필요성이 강조되고 있다는 점
인터넷 윤리의 연장선 으로의 필요성	인공지능이 취득한 개인정보와 사생활 정보에 대한 유출이나 인공지능 서비스 이용에 대한 빈익빈 부익부 현상 등 인공지능 윤리적 이슈는 현재의 인터넷 윤리가 심화되고 확산되는 형태를 취하고 있음
경쟁력 확보	글로벌 경쟁에 있어 ‘글로벌 표준화’에 우리 기업과 사회가 어떻게 준비하고 대응하고 있는지에 따라 경쟁력에 대한 희비가 갈릴 수 있음

 

2. 인공지능(AI)에서 윤리의 선진국의 정책 동향

 

구분	주체	AI윤리 관련 정책 대응 동향
정부	미국	백악관, AI 이니셔티브('19.2)
	일본	AI 개발 원칙('17), AI 사회 원칙('19)
	영국	데이터 윤리 프레임워크('18.8) 알란튜링연구소, 인공지능 윤리와 안전성의 이해 가이드라인('19) 정보위원회(ICO), 인공지능 및 데이터 보호 가이드라인('20.7)
	한국	인공지능 윤리 기준('20.12) 발표
국제 사회	OECD	OECD AI원칙('19.5), G20DPTJ OECD AI 원칙 수용('19.60
	EU	신뢰할 만한 인공지능 윤리 가이드라인('19.4) 및 평가 목록 발표('20.7)
	UNESCO	인공지능 윤리에 대한 권고사항 초안(19.5)

 

3. 바람직한 AI 윤리정책 수립 시 고려사항

 

구분	3대 요소, 7대 요구사항	설명
필수 3대요소	적법성(Lawful)	법적 구속력이 있는 모든 법률과 규정 준수
	윤리성(Ethical)	구속력이 없더라도 윤리적 원칙과 가치에 부합해야 함
	견고성(Robust)	기술적⋅사회적 측면 의도치 않은 피해를 유발 방지
7대 요구사항	① 인간 행위자와 감독	인간의 자율성과 의사결정을 보조하는 역할을 수행 AI 시스템에 대한 인간의 감독권을 허용
	② 기술적 견고성과 안전성	외부 공격 대응, 오류 발생시 체계적 대처, AI 기능의 정확성과 재현성 확보, 의도치 않은 결과와 작동 오류를 최소화
	③ 프라이버시와 데이터 거버넌스	AI 시스템 전주기의 개인정보 및 데이터 보호 학습용 데이터의 품질 확보와 문서화 개인정보 처리시 데이터 접근 규정 마련
	④ 투명성	데이터 수집⋅가공 및 학습 과정의 문서화 추적 가능성 제고, 설명요구권 대응, 인지⋅역량⋅한계를 사용자 에게 제공
	⑤ 다양성, 차별 금지, 공정성	불공정한 편향성 방지 및 다양성 확보 노력 연령⋅성별⋅국적⋅장애 요인에 무관한 보편적 설계 AI 시스템과 연관된 이해관계자와의 참여 독려 및 협의
	⑥ 사회적, 환경적 웰빙	환경친화적 AI 시스템 개발과정 수립 AI 시스템의 사회적 역기능 방지를 위한 모니터링 정치적 의사결정 및 선거 상황 등에서의 활용에 신중한 고려
	⑦ 책임성	AI 시스템 개발⋅배포⋅이용 과정상에 발생할 수 있는 책임을 이행하기 위해 감사, 영향평가, 상충 관계 평가, 구제방안 수립

---

 

공감과 댓글은 아이티신비에게 큰 힘이 됩니다.

블로그 글이 유용하다면 블로그를 구독해주세요.♥