온디바이스 AI 생태계 구축 가속화

1. 인공지능(AI)의 디바이스 본격화....온디바이스 AI 새로운 트렌드로 부상

1) 생성형 AI 의 보급 확산으로 빅테크 기업을 포함한 국내외 IT 기업은 개인용 스마트 기기를 비롯한 모든 전자기기에 온디바이스(On-Device) AI 도입 확산

 

클라우드AI	구분	온디바이스AI
	구성도
대규모 컴퓨팅 지원을 바탕으로 높은 수준의 AI 기술 구현 가능 거대 규모의 모델 운용을 통한 AI 학습 및 추론 성능 극대화 다만, 통신 상태에 따라 제약받을 가능성 있음.	특징	기기에 내 컴퓨팅 자원을 최대한 활용하여 AI 구현 클라우드 서버에 데이터를 전송하지 않고 기기 내에서 처리하여 데이터 보안 강화 클라우드 서버와의 연결이 필요하지 않아 통신 지연 없이 즉시 AI 기능 사용 가능
온디바이스 인공지능은 클라우드 데이터를 전송하는데 필요한 에너지 소모와 지연 시간을 감소시켜 에너지 효율성 향상시킴

 

2) 기존 인공지능과 온디바이스 인공지능 비교

항목	기존 인공지능	온디바이스 인공지능
전송방식	모바일 등 스마트 기기에서 수집한 정보를 중앙 클라우드 서버로 전송해 분석하고 다시 기기에 보내는 방식으로 진행	스마트 기기 자체적으로 정보를 수집하고 연산할 수 있어 빠른 작업이 가능
온디바이스AI	중앙 서버를 통하지 않기 때문에 클라우드 AI 의 문제점으로 대두 되었던 보안 문제 해결 예상 별도의 네트워크가 필요 없기 때문에 인터넷 연결이 어려운 상황에서도 실시간 번역과 같은 작업이 가능 사용자와 직접 접촉하는 하드웨어에 AI거 결합된 온디바이스 AI 는 환경을 직접 경험하고 정보를 처리 실제 사용하는 사람에게 더욱 적합한 결정을 내릴 수 있음
온디바이스AI 강점	데이터 보안강화, 응답성 향상, 에너지 효율성 향상

 

3) 생성형 AI 는 데이터와 수준 높은 연산 능력이 필요하므로 온디바이스 AI 를 활용하여 모바일·스마트 기기 내에서 구현하는 것이 경쟁력 요인

 

• 온디바이스 AI를 활용하면, 기기 내에서 생성형 AI 모델을 학습할 수 있어 기기 내에서 실시간으로 생성형 AI 구현이 가능하며 생성형 AI 모델의 결과물을 기기 내에서 안전하게 저장 가능

 

2. 온디바이스 AI, 각종 IT제품에 탑재하며 새로운 경험 제공

1) (스마트폰) 삼성전자와 애플, 구글 등 글로벌 스마트폰 제조사는 신제품에 온디바이스 AI 기능을 탑재

 

• 삼성전자는 자체 개발한 생성형 AI '삼성 가우스(Samsung Gauss)' 와 외부 클라우드에 접속하지 않고 기기 안에 생성형 AI 기능을 담는 '온디바이스 AI(On-Device AI') 기술 공개(11.8)
• 아울러 2024년 1월 갤럭시 언팩에서 공개될 '갤럭시 24' 에 삼성 가우스를 온디바이스 AI 형태로 탑제 계획도 언급
• 사용자는 갤럭시 S24 에 장착된 삼성 가우스를 통해 스마트폰을 제어하고 문장을 요약하며 문법을 교정할 수 있는 등 더 편리하게 사용할 수 있을 전망
• 온디바이스 AI를 탑재로 사용자의 사용 패턴과 선호도, 취향 등을 학습해 각정 기능을 제공하며 기존의 빅스비 및 시리와는 달리 '사용자 개인' 의 일상과 편의에 최적화될 것으로 예상
• 특히, '온디바이스 AI'를 탑재하는 갤럭시 스마트폰에 실시간 통역 통화인 'AI 라이브 통역 콜(AI Live Translate Call)' 기능을 탑재할 계획
• AI 라이브 통역 콜은 갤럭시 생성형 AI 스마트폰을 사용자가 통화 중 모국어오 말하면 별도의 앱 설치 없이 실시간으로 상대방에게 통역해 내용을 전달해 주는 점이 특징

 

구성모델	특징
텍스트를 생성하는 언어모델	텍스트 생성 및 메일 작성, 문서 요약, 번역 등 보조
코드를 생성하는 언어모델	코드 언어 특화 및 개발자의 코딩 작업 조력
이미지를 생성하는 이미지 모델	이미지 생성·편집 및 저해상도 이미지의 고해상도 전환

• 애플도 차기 'iOS 18' 에 생성형 AI를 탑재하고자 자체 거대언어모델(LLM) 을 훈련시키고 있으며, 2014년 챗 GPT 와 같은 생성형 AI를 이어폰에 탑재하는 방향을 검토 중
• 애플이 LLM 개발에 나서면서 이를 어떻게 적용할지 세간의 관심 집중, 2024년 발표할 아이폰의 새 운영체제 'iOS 18' 에 생성형 AI 기능을 탑제하고 소프트웨어 업데이트를 통한 AI 서비스 제공 예상
• AI 음성 비스 서비스 '시리'와 '메시지(Messdages)', 애플 뮤직(Apple Music)' 에 생성형 AI 를 접목해 사용자의 질문에 알맞게 답할 수 있는 서비스를 제공하는 등 새로운 고객 경험 서비스 제공 다각화 전망
• 또한, 애플의 자체 오피스 앱에 적용돼 문서와 프레젠테이션 자료를 자동으로 작성해 주거나 개발자의 모바일 앱 개발을 돕는 방식으로 활용 가능
• 애플이 스마트폰 소프트웨어 분야에서 가장 앞선 기업으로 평가받고 있는 만큼 시리 서비스를 처음 선보였을 때와 같이 생성형 AI 기술로 혁신을 창출할 수 있다는 시장 기대감 고조
• 구글은 온디바이스 AI 칩 '텐서 G3(Tensor G3)' 를 장착한 스마트폰 픽실8(Pixel 8) 공개(10.4)
• 픽셀8에는 멀티모달 기반 생성형 AI '제미나이'를 탑재해 텍스트와 이미지, 음성까지 해석·추론·생성 능력을 바탕으로 이메일 관리 등 각종 업무 처리가 더욱 편리해질 전망
• 특히, '녹음 요약', '지보드(Gboard) 스마트 답장' 기능을 대폭 강화하여 녹음된 발표 내용과 인터뷰 등을 요약하고 와츠앱 대화 내용 등을 자동 인식해 이를 토대로 여러 개 고품질 응답을 생성하고 이 중에 선택하도록 제안

 

2) (노트북) AI 두뇌를 탑재한 삼성전자 '갤럭시 북4'와 LG전자 2024년 신형 '그램'의 노트북 대전 주목

• 삼성전자와 LG전자는 인텔 코어 울트라(Intel Core Ultra)가 내장된 '갤럭시 북 4'와 '2024년형 LG 그램' AI 노트북을 각각 공개(12.15)
• 인텔 코어 울트라 프로세서는 AI 연산에 특화한 NPU(신경망처리장치)가 내장돼 머신러닝과 딥러닝등 효율적인 AI 작업을 지원하는 것이 특징으로 외부 클라우드 등 네트워크와의 연결 없이도 기기 자체적으로 AI 연산이 가능해 게임, 비디오 편집 등 다양한 앱 가능 향상이 가능
• 양사는 같은 인텔의 CPU 를 사용했지만 노트북의 부가적인 기능에서는 차이점이 있으며 삼성전자의 '갤럭시 북4'는 물리적으로 분리된 '삼성 녹스' 보안 칩셋을 사용해 사용자 민감정보를 좀 더 강력하게 보호할 수 있는 점이 가장 큰 특징
• 아울러, 캘럭시 기기에서 편집하던 영상을 이어서 작업할 수 있는 '삼성 스튜디오', '저화질 이미지를 고화질로 바꿔주는 '포토 라마스터', 갤럭시 버즈2 프로로 작업할 때 걸려 온 전화에 자동으로 연결하는 '오토 스위치' 기능을 구현
• 2024년 LG 그램은 인터넷 연결 없이도 파일 전송이 가능한 '그램 링크(gram Link)' 기능이 핵심으로 운영체제 제약 없이 그램에 스마트·태블릿PC 를 최대 10대까지 연결 가능
• 또한, AI 를 활용한 스마트 배터리 기능은 사용자가 자주 사용하는 앱과 패턴 등을 분석해 최적의 배터리 사용 조건을 마련

 

3. 온디바이스 AI 제품 등장으로 메모리 반도체 수요 확대에 긍정적 영향 기대

 

배경	AI 연산 처리를 위해 모바일 애플리케이션프로세서 성능 외에도 메모리 속도, 용량, 전력 효율성 등이 우수한 고성능 소형의 반도체 칩 필요
	서버 AI 가 복잡한 연산을 위해 클라우드를 거치는 반면 온디바이스 AI 는 수억 개 연산을 기기에서 곧바로 수행해 저전력, 대용량, 초고속 연산이 가능한 D램 성능 고도화 필수
	온디바이스 AI 스마트폰 시대를 맞아 반도체에서 수직 적층기술(로직과 메모리를 수직 배열해 전기 신호 전달 경로를 짧게하는)급부상
시장동향	삼성전자는 로직과 메모리를 수직 적층하는 구조의 '저지연성와이드 I/O(LLW) D램' 을 2024년 말 양산 목표로 준비 중
	LLW 는 정보가 들어오고 나가는 통로인 입출구(I/O) 를 늘려 기존 모바일 제품인 LPDDR 대비 대역폭을 높인 특수 D램으로 대역폭은 전송속도와 비례하기 때문에 거기에서 실시간으로 생성되는 데이터를 처리하는 데 훨씬 유리
	삼성전자는 2020년 이전부터 온디바이스 AI 경량화 알고리즘을 개발해 시스템온칩(SoC)과 메모리·센서에 적용하며 온디바이스 AI 용 반도체 경쟁력을 높여온 만큼, 2024년 '삼성 가우스'의 모바일 제품 탑재를 시작으로 본격적인 시장 선점에 나설 것으로 예상
	SK하이닉스도 온디바이스 AI에 특화한 LLW(Low Latency Wide) D 램을 2024년부터 공급할 예정
	신경망처리장치(NPU-Neural Processing Unit) 핵심 설계 기술인 반도체 설계자산(IP) 도 동시에 확보하고 있어 일괄 생산 체제 구축도 가능할 전망

 

4. 온디바이스 AI가 가져올 변화를 긍정적인 방향으로 이끌 수 있는 노력 필요

 

온디바이스 AI	발전전망	비고
생성형 AI 를 현실화	스마트폰·PC 등 모바일 기기를 시작으로 IoT 자동차 등 다양한 디바이스로 확장	실시간 통역 통화 등
온디바이스 AI 기반 서비스	사용자 맞춤형 서비스(사용자 일상생활정보와 데이터를 직접 파악)	높은 가격의 온디바이스 AI 기기를 선택할 수 있는 킬러 앱과 차별화 서비스 개발 필수
생태계 안착	첨단 반도체를 비롯해 센서·디바이스·네트워크·인프라 등 전방위적인 기술 융합	기술 융합을 위한 전문가확보 필요

 

---

본 내용의 출처는 정보통신기획평가원 ICT Brief 자료를 참고해서 작성했습니다.

참고하세요.

 

---

 

공감과 댓글은 아이티신비에게 큰 힘이 됩니다.

블로그 글이 유용하다면 블로그를 구독해주세요.♥