온디바이스 AI (On-device AI)
별칭: on-device ai · 엣지 AI · edge ai
클라우드가 아닌 사용자 기기 안에서 직접 돌아가는 AI 모델.
아이폰/맥북/노트북에서 자체 LLM 실행. 개인정보가 외부로 안 나가고 오프라인에서도 동작.
온디바이스 AI(On-device AI)는 클라우드 서버가 아닌 사용자의 휴대폰/노트북 같은 기기 안에서 직접 실행되는 AI 모델을 가리킨다.
장점: (1) 개인정보가 외부 서버로 안 나감, (2) 오프라인에서도 동작, (3) 응답 속도가 빠름. 단점: 모델 크기/성능에 한계가 있어 클라우드 LLM에 비해 정확도가 낮다.
더 자세히 (Wikipedia 보충)
온디바이스 AI(Edge AI)는 클라우드가 아닌 사용자 기기 자체(스마트폰·노트북·자동차·IoT 디바이스 등)에서 직접 AI 모델을 실행하는 기술이다.
장점은 (1) 네트워크를 거치지 않아 응답 속도가 빠르다, (2) 민감 데이터가 외부로 나가지 않아 프라이버시에 유리하다, (3) 인터넷 없이도 작동 가능하다는 점이다. Apple Intelligence, Galaxy AI 같은 제품에서 음성 인식·요약·이미지 처리 등이 온디바이스로 처리되고 있으며, 클라우드 처리와 하이브리드로 결합되는 흐름이 일반적이다.