온디바이스 AI(Artificial Intelligence)

문제4) 온디바이스 AI(Artificial Intelligence)에 대한 아래의 사항을 설명하시오.

가. 온디바이스 AI의 개념

나. 온디바이스 AI의 하드웨어 및 소프트웨어 기술

다. 온디바이스 AI의 시사점

 

답)

 

1. 온디바이스 AI(Artificial Intelligence)의 개념

정의	멀리 떨어진 클라우드 서버를 거치지 않고 스마트기기 자체적으로 정보를 수집하고 연산할 수 있는 AI 기술

 

2. 온디바이스 AI의 하드웨어 및 소프트웨어 기술

가. 온디바이스 AI의 하드웨어 기술

 

구분	기술	설명
국내	인공지능 가속기	뉴로모픽 기술에 집중하여 엣지 및 디바이스에서 사용 가능한 인공지 능 가속기 기술
	NeuroMem 기술	에너지 효율적 소형 폼팩터 구성을 위한 기술
	NPU(Neural Processing Unit)	인공지능 네트워크 연산에 사용되던 GPU와 유사한 구조이나 인공지능 기술에 특화하여 연산 효율을 높이거나 에너지 효율을 증가시키기 위해 개발한 칩
	AI SoC 솔루션	비전 관련 작업 가속기 및 음성 관련 작업 가속기를 탑재하여 가전에 서 필요한 영상 및 음성 AI 분석을 지원
국외	뉴럴 엔진	Apple의 인공지능 서비스 품질 향상을 위해 개발된 NPU
	Volta GPU	엔디비아는 AI 가속을 위한 GPGPU를 개발
	NVDLA	AI 추론 가속기 아키텍처를 통한 디바이스에서 클라우드까지 확장성 제공
	NNP	인텔에서 구현한 NPU 하드웨어 기술
	엣지 TPU	구글이 개발한 엣지 디바이스 환경의 온디바이스 AI 수행을 위한 기술

 

나. 온디바이스 AI의 소프트웨어 기술

구분	기술	설명
경량 AI 모델	모델 구조 변경	잔여 블록, 병목 구조, 밀집 블록 등 다양한 신규 계층 구조를 이용 하여 파라미터 축소 및 모델 성능을 개선(ResNet, DenseNet, SqueezeNet
	합성곱 필터 변경	합성곱 신경망의 가장 큰 계산량을 요구하는 합성곱 필터의 연산을 효율적으로 감소(MobileNet, ShuffleNet)
	자동 모델 탐색	특정 요소(지연시간, 에너지 소모 등)가 주어진 경우, 강화 학습을 통해 최적 모델을 자동 탐색(NetAdapt, MNasNet)
AI 모델 경량화 기술	모델 압축	가중치 가지치기, 양자화/이진화, 가중치 공유 기법을 통해 파라미 터의 불필요 한 표현력을 감소(Deep Compression, XNOR-Net)
	모델 압축 자동 탐색	알고리즘 경량화 연구 중 일반적인 모델 압축 기법을 적용한 강화 학습 기반의 최적 모델 자동 탐색 연구(PocketFlow, AMC)
온디바이스 AI에 대한 활용성이 점점 증가하면서 온디바이스 AI 기술은 점점 발전되고 있음

 

3. 온디바이스 AI의 시사점

시사점	설명
AI를 통한 HW 경쟁력 강화	온디바이스 AI는 프로세스, 메모리 등 HW 역량을 충분히 활용할 수 있도록 지원할뿐 아니라 신기능 구현에도 필요한 핵심기술 클라우드 AI만으로는 수많은 기기에 필요한 AI를 효과적으로 지원하기 어려울 것으로 예상되므로 단말의 특성에 최적화된 AI를 수행하기 위한 온디바이스 AI의 역할도한층 커질 것으로 기대
클라우드 AI와의 연계를 통한 AI 저변 확대	디바이스 성능이 급속도로 발전하고 있지만 AI를 위한 빅데이터 수집과 분석 능력은 클라우드 데이터센터보다 한참 뒤떨어짐 따라서 온디바이스 AI 단독 적용되기 보다는 클라우드 AI와 연계해 활용될 가능성이 높고 유지적 결합을 통해 AI를 적용할 수 있는 범위 증대
핵심 경쟁력으로 부상하는 AI 반도체	AI 구현의 완성도를 높이기 위해서는 궁극적으로 시스템의 근본인 반도체의 변화가 필수적임 국내외 여러 비 반도체 기업들도 AI 반도체 기술선점을 서두르고 있음
온디바이스 AI와 클라우드 AI의 융합으로 엠비언트 컴퓨팅 시대가 도래 될 수 있음

 

 

---

 

공감과 댓글은 아이티신비에게 큰 힘이 됩니다.

블로그 글이 유용하다면 블로그를 구독해주세요.♥