온디바이스 ai - 실시간 통화 통역 스마트폰

IT 산업을 넘어 다양한 분야에 인공지능을 접목하는 시대가 왔습니다. 실생활 곳곳에서 AI 가 점차 녹아들고 있는 속도가 빨라지고 있네요. 이러한 AI 일상화가 진행되면서 거쳐야 할 관문이 바로 온디바이스 AI (On-Device AI)입니다.

이번 포스팅에서는 온디바이스 AI 에 대해서 알아보겠습니다.

 

 

온디바이스 AI 가 뭘가요 ?

CHAT GPT를 예를 들어볼게요. 스마트폰으로 CHATGPT에 질문을 하면 답변해 주죠? 이때 CHATGPT는 스마트폰에서 작동하는게 아닙니다. 디바이스(단말기)는 사용자 명령을 데이터센터에 전달해 출력값을 받아올 뿐, 실제 명령을 분석하고 결과를 만드는 건 데이터센터죠. 이처럼 인터넷 네트워크, 즉 클라우드로 작동하는 AI를 클라우드 AI라고 합니다.

 

AI가 사람 말을 알아듣고 작업을 처리하는게 쉽진 않습니다. 유능하고 잘 만들어진 AI가 되려면 학습할 정보의 량이 엄청나게 많아야 하고, 그 정보를 입력하고 처리할 수 있는 고성능 처리장치도 필요합니다. 이러한 AI를 학습시키는 업무를 보는 아르바이트도 다양하게 생겨나는 시대에 우리들은 점차 살아가고 있게 되는 거죠.

 

지금까지의 AI의 대부분은 클라우드를 기반으로 구축됐습니다. 세계 각지의 단말기를 눈과 귀처럼 써서 정보를 수집하고, 거대한 데이터센터는 두뇌처럼 정보를 처리하고 소화하게 됩니다.

 

반면 온디바이스 AI는 단말기 자체가 두뇌이자 사람으로 치면 눈과 귀의 역할 모두를 하게 되는 겁니다. 인터넷도 없이 작동되는 인공지능이라 생각하면 이해가 더 쉬워집니다. 클라우드 AI와 달리 개별 디바이스가 정보 입출력뿐 아니라, 정보의 분석과 처리도 수행하는 단계까지 도달하게 된 거죠.

 

온디바이스 AI가 접목시키면서 오는 변화 ( 효율성 )

클라우드를 써야 더 많이 학습할 수 있는데, 왜 굳이 디바이스마다 AI를 넣어야 할까요? 클라우드 AI가 똑똑하고 정확하지만, 실생활에서는 AI가 편리하고 효율적인지가 더 중요시됩니다. 그렇기 때문에 우리는 실생활에서 상용화의 목적으로 디바이스쪽에 더 심혈을 기울이게 된 거죠.

인터넷 없이도 빠르게 , 개인정보도 문제없이

온디바이스 AI는 데이터센터로 정보를 보내지 않고 직접 처리하게 되면서 인터넷이 네트워크를 구축할 필요가 없게 되고 나아가 정보를 주고받는데 필요한 시간까지 줄일 수 있게 됩니다. 실생활에서 즉각 반응하는 AI를 구축하는데 용이하고요.

또한 클라우드 AI는 운영 원리상 입력한 정보를 데이터센터에 옮겨야 하니까 처리한 정보의 교환이 어쩔 수 없이 발생하는데 온디바이스 AI는 모든 작업을 디바이스 내에서 처리하니 정보의 유출이 일어날 일이 없게 됩니다. 일상정보뿐만 아니라 기업 등 업무에 관한 정보나 기밀사항을 유출할 일이 적게 됩니다.

 

온디바이스 AI가 접목된 차세대 스마트폰

이미 실상에서 상용되고 있는 스마트폰의 얼굴 인식 잠금 해제기능도 온디바이스 AI 중 하나입니다. 온디바이스 AI의 기술력이 점차 발전되고 구현화할 수 있는 범위의 폭이 확산됨에 따라 노트북이나 스마트폰 등 세계 시장에서의 경쟁구도의 판이 달라질수도 있는 엄청난 기술력 중 하나로 자리잡고 있다고 봐도 무방하죠.

 

간단히 예로 삼성은 새롭게 출시할 플래그십 스마트폰 S24는 자체 개발  AI 모델 '가우스'를 탑재시켜, 통화를 실시간 통역시켜 주는 등의 AI 기능을 탑재하여 출시할 계획을 발표했습니다. 경쟁사인 애플의 경우는 이미 아이폰에 음량조절이나 텍스트 자동 수정, 받아쓰기 등 AI 기술을 제공해 나왔고 새롭게 출시할 신제품에는 온디바이스 기반의 생성형 AI를 탑재한다는 소식을 밝혔습니다. 즉 AI 비서 시리(SIRI)가 획기적인 기능들을 탑재하여 시중에 판매될 예정인 셈이죠.

 

결국 가장 중요한 것은 '반도체'

이러한 온디바이스는 무척 어려운 기술입니다. 커다란 데이터센터에서 돌아가던 AI를 디바이스마다 압축하여 넣은 기술이기 때문에 효율적인 알고리즘을 구축한다고 해도 디바이스의 부담이 높아지게 됩니다. 즉 내장된 반도체의 성능을 최대치로 끌어올리는게 핵심입니다.

 

얼마나 효과적인 반도체와 메모리를 넣는지에 따라 온디바이스 AI의 성능은 하늘과 땅차이며 반응속도가 빠르면서 전력은 적게 소모하는 메모리도 필수적입니다. 이러한 기술개발을 위해 삼성전자, 애플, SK하이닉스, 퀼컴 등 여러 기업들이 AI전용 반도체 개발에 박차를 기울이고 있다고 하니, 많은 사람들이 관심을 가지다 보니 벌써 공모주나 관련상품들도 쏟아지고 있어요. 관심을 가지신 분들은 조금씩 투자해 두는 것도 미래에 나를 위해서 좋은 선택이 될 수도 있겠네요.

 

 

포스팅을 마치며, 구현할 수 있는 서비스들이 엄청나게 다양하고 상상하는 것들이 이루어져버리는 세상이 성큼성큼 다가오는 것 같습니다. 자신의 개인화된 서비스 제공, 데이터의 검색, 앱사용, 통화등 어쩌면 이러한 포스팅의 내용까지도 모두 다 세세하게 처리하는 시대가 곧 올 것같지 않나요? 가까운 미래에 모든 개개인들이 핸드폰하나로 능력있는 개인 비서를 두고다니는 시대가 올것 같습니다. 

 

다음번 포스팅에도 흥미로운 주제를 다룰 수 있도록 노력하겠습니다.

 

 

좋아요와 댓글, 구독은 월급탈출을 꿈꾸는 조과장에게 큰 힘이 됩니다. 감사합니다.