[SDC23 Korea] Open Source On-Device AI SW Platform
세션 발표자
이현석 - 삼성전자 / Samsung Research / SoC Architecture팀
세션 소개
AI 서비스를 제공 받기 위해 사용자 데이터를 서버에 전송해야 하는 클라우드 기반 AI에 비해 데이터 프라이버시 관점에서 이점이 많은 On-Device AI의 중요성은 점차 강조되고 있습니다.
하지만 클라우드 인프라에 비해 열악한 성능을 가진 사용자 기기에서 On-Device AI를 실행하기란 쉽지 않은 것도 현실입니다.
이러한 점을 고려하여 삼성에서는 On-Device에서의 다양한 연구 및 개발이 진행되고 있습니다.
기기에서의 모델 학습을 통한 모델 개인화를 제공하기도 하고 사용자 기기의 환경을 고려하여 모델을 최적화 하기도 합니다.
구현된 모델을 이용하여 손쉽게 어플리케이션을 구현할 수 있는 프레임워크를 제공하기도 하며 클라우드 환경에서의 MLOps처럼 On-Device 환경에서의 Device MLOps라는 개념도 제시하였습니다.
이번 세션에서는 삼성의 다양한 On-Device AI 관련 오픈 소스에 대해 소개 드립니다.
목차
1.On-Device AI
On-Device AI란?
On-Device AI를 왜 하는가?
On-Device AI의 어려움
2.NNTrainer
NNTrainer
NNTrainer 활용 예제
NNTrainer의 장점
3. ONE
ONE
ONE의 장점
4. NNStreamer
NNStreamer 활용 예제
NNStreamer
NNStreamer 예제
Among-Device AI
5. Device MLOps
Device MLOps
Device MLOps의 필요성
Device MLOps의 역할
ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ
Website
https://www.sdc-korea.com/
#Samsung #SDC23Korea #SamsungDeveloperConferenceKorea #Day1 #Session #Track1 #AI #ML