아마 24년도에 가장 핫한 이슈는 온디바이스AI일 것입니다. 관련 테마주가 따로 나올만큼 주식을 하는 사람이라면 관심있는 분야일텐데요. 이번 포스팅에서는 온디바이스 AI란 무엇인지 그리고 장단점은 어떤 것이 있는지 알아보도록 하겠습니다.
온디바이스 AI란?
온디바이스 AI를 영문으로 표시하면 On-device AI가 됩니다. 해석하면 ‘기계장치 내에서 AI를 실현한다’ 정도로 해석할 수 있는데 왜 이런 말이 나왔을까요? 사례를 보며 브레인스토밍 해볼게요.
사례
만약 우리가 외국에서 번역을 해야 하는 상황이 왔다고 가정해봅시다. 그러면 우리는 핸드폰에 인터넷을 연결 후 구글번역 혹은 파파고 등을 열어서 번역을 할 것입니다.
그런데 만약 그곳 타지라서 인터넷이 안되는 상황이라면 어떻게 해야할까요? 아마 현재 상황에서는 번역을 할 수 없을 것입니다.
하지만 온디바이스 AI가 실현된다면 인터넷이 없는 상황에서도 번역이 가능 할 것입니다.
온디바이스 AI(On Device AI)
이제 다시 온디바이스 AI 정의에 대해서 얘기해보겠습니다.
AI(인공지능)는 기기가 사람처럼 연산,계산,추론, 학습하여 작업을 하는 것을 말합니다. 대표적인게 ‘챗-GPT’인데요. 어떤 질문을 하면 그 질문을 이해하고 인간처럼 답해줍니다.
그런데 사실 그 과정은 우리가 실제로 물어본 질문이 클라우드 서버로 전달되고 그 후 대용량의 데이터를 순식간에 처리하여 답변해주는 과정입니다.
하지만 클라우드 서버로 전달되기 위해선 네트워크 연결이 필수적이며 클라우드 서버로 전달 후에도 대용량 데이터를 처리하여 나온 결과값이기 때문에 시간이 다소 걸릴 수 있습니다.
이러한 점을 개선한 게 온디바이스 AI입니다. 즉 온디바이스 AI는 내 핸드폰 내에서 AI 기능이 실행되기 때문에 굳이 네트워크에 연결하지 않아도 장치 내에서 작업 할 수 있습니다. 또한 내 기기 안에서 작업하기 때문에 답변도 빨리 받을 수 있구요.
온디바이스 AI의 장단점
온디바이스 AI가 실행된다면 어떤 세상이 될까요? 온디바이스 AI의 부족한 부분은 무엇이 있을까요? 장단점을 파악해보며 온디바이스AI에 대해 더 알아가봅시다.
장점
네트워크 불필요
인터넷이 연결되지 않는 상황 혹은 비행기에서 비행기 모드로 설정해 논 핸드폰이나 노트북에서도 AI가 실행가능합니다.
실제로 퀄컴이 개최한 ‘스냅드래곤 서밋 2023’에서 비행기 모드로 한 스마트폰으로 ‘맛집’을 물어보고 답변을 받는 행사를 진행했었습니다. AI 컨시스턴트가 질문에 대한 답변을 한 모습이었습니다.
>> 온디바이스 AI 퀄컴 ‘스냅드래곤 서밋 2023’ 행사 기사 보기
빠른 처리 능력
데이터를 처리해야 할 때 클라우드 서버로 전달하지 않고 장치기기 내에서 해결하기 때문에 빠른 처리 능력을 기대할 수 있습니다.
자율주행차의 경우 운전하면서 순간순간 빠른 판단이 필요합니다. 따라서 온디바이스AI가 실현되면 자율주행차에 대한 실현가능성이 높아질 것입니다.
정보 보안 강화
온디바이스 AI는 기기 내의 데이터에서 정보 수집 및 처리를 하기 때문에 외부로 유출 될 위험이 없습니다.
일례로 회사에서는 챗GPT 사용이 금지되고 있습니다. 그 이유는 챗GPT를 사용하게 될 경우 회사의 내부 기밀이 외부 클라우드 서버로 이동 후에 회사 PC로 답변을 받을 수 있기 때문입니다.
따라서 온디바이스 AI가 실현된다면 회사에서도 회사내부의 GPT를 사용하게 될 수 있어 업무의 효율성을 높일 수 있습니다.
개개인에게 적합한 처리
온디바이스 AI가 실현된다면 개인의 맞춤 데이터가 쌓이고 이를 기반한 AI를 구현합니다. 따라서 개개인에게 맞춤화 된 AI 처리가 가능합니다.
예를 들어 온디바이스 AI가 장착된 핸드폰으로 대기 질에 대해 질문을 했을 때 내가 있는 공간의 대기 환경에 대해서 답변해줍니다. 또한 헬스케어 분야에도 적용되면 개개인에게 맞는 건강상태와 관리를 추천해줄 것입니다.
단점
제한된 데이터
온디바이스 AI는 기기장치 내에 있는 데이터만을 수집하고 학습하여 처리하기 때문에 기존 AI보다 훨씬 제한된 데이터를 사용합니다. 이로 인해 답변의 한계가 있을 수 있습니다.
또한 네트워크가 필요한 실시간 날씨, 속보, 뉴스 등을 알아야 할 때는 온디바이스 AI는 제한이 있을 수 있습니다.
지금까지 온디바이스 AI가 무엇이고 장단점은 어떤 것이 있는지 알아보았습니다.
제가 이해하고 제 언어로 쓰다 보니 다소 어설퍼 보이네요. 하지만 어려운 용어보다 쉽게 쓰려고 노력했으니 차근차근 읽어주시면 좋겠습니다.
긴 글 읽어주셔서 감사합니다 🙂