LG유플러스가 LG AI연구원, 옵트에이아이와 손잡고 대규모 언어 모델(LLM) '엑사원(EXAONE) 3.5' 기반 온디바이스 sLM을 개발했다.
LG U+,'엑사원 3.5' 경량화한 온디바이스 sLM 개발
이 모델은 AI 통화 앱 '익시오(ixi-O)'에 적용, 서비스 고도화에 활용될 방침이다.
이번 온디바이스 sLM 개발은 LG AI연구원이 지난해 12월 선보인 '엑사원 3.5 2.4B' 모델을 기반으로 이뤄졌다.
LG유플러스와 LG AI연구원, 온디바이스 AI 솔루션 업체인 옵트에이아이는 약 6개월에 걸친 연구를 통해 개발에 성공했다.
AI 모델을 경량화하는 '온디바이스' 기술은 AI 서비스 확산 및 보안성 향상에 필수적이다.
일반적인 LLM은 네트워크와 서버를 거쳐 구동돼야 하는 탓에 보안·속도·접근성 측면에서 한계가 있지만, 온디바이스 sLM으로 구현될 경우 이용자의 데이터가 외부 네트워크나 서버를 거치지 않고 자신의 스마트폰 내에서 구동되므로 보안성이 강화된다.
스마트폰 내 NPU(신경망처리장치)를 통해 답변을 제공하는 만큼 빠른 응답이 가능하고, 다양한 단말에서 사용할 수 있다는 장점이 있다.
LG유플러스는 온디바이스 sLM으로 개발된 엑사원을 '익시오'에 적용해 서비스를 고도화할 계획이다.
기존 익시오에 구현된 온디바이스AI 기술은 중앙처리장치(CPU)를 사용했지만, NPU 기반의 온디바이스 sLM을 적용하면 성능은 동일하지만, 전력 소모량은 기존 대비 78％, 모델 크기는 82％ 줄어든다.
더욱이 엑사원이 한국어 처리 능력 측면에서 우수한 성능을 보유한 만큼, 익시오가 제공하는 통화 요약 및 통화 내용 텍스트 변환 등 기능과 시너지가 날 것으로 예상된다.
실제로 LG유플러스는 엑사원 기반의 온디바이스 sLM을 익시오에 적용해 ▲한 줄 요약 ▲상세 요약 ▲키워드 추출 ▲AI Task 제안 등 기능 고도화에 나설 방침이다.
오는 10월 베타 테스트를 통해 안정성 및 품질 검증을 완료하고, 이르면 내년 상반기 상용화에 나설 계획이다.
엑사원 기반 온디바이스 sLM은 퀄컴(Qualcomm)사의 '스냅드래곤8' 칩셋을 기반으로 하는 스마트폰에 탑재된다.
내년에는 iOS 운영체제가 적용된 스마트폰까지 적용 범위를 확대할 예정이다.
나아가 LG유플러스와 LG AI연구원, 옵트에이아이는 지속적인 온디바이스 AI 기술 개발을 통해 지난 7월 출시된 '엑사원 4.0'도 온디바이스 sLM으로 구현할 방침이다.
이를 통해 온디바이스 sLM 기반의 익시오가 제공하는 서비스도 개인별 맞춤형으로 발전시킨다는 전략이다.
송대원 LG유플러스 기술개발그룹장은 "세계적으로 인정받고 있는 엑사원의 성능을 유지하면서 온디바이스로 구현될 수 있도록 만든 sLM을 통해 더욱 안전하고 고도화된 AI 서비스를 제공할 수 있게 됐다"며 "앞으로도 온디바이스 AI 기술 고도화를 지속해 초개인화된 온디바이스 에이전트를 선보이며 시장 내 선도 사업자로서의 입지를 한층 더 강화하고 차별화된 사용자 경험을 제공할 것"이라고 말했다.
김성욱
기자
헤드라인 뉴스
-
김건희, 윤석열에게 ‘옥쇄’를 명령하다
윤석열 김건희 부부와 독수리 5형제김건희는 신평 변호사의 입을 빌려 윤석열에게 최후까지 버틸 것을 독려했다. 이는 살아남으라는 격려였을까? 아니면, 장렬히 옥쇄하라는 요구였을까? 사진 왼쪽부터 직전 영부인 김건희 씨와 전직 윤석열 씨의 모습정치 컨설턴트 명태균 씨는 전직 대통령 윤석열과 배우자 김건희의 관계를 앉은뱅이 주술사와 장님 무사의 관계에 의미심장하
-
환경부 장관, 가습기살균제 피해자·유족에 직접 사과
환경부(장관 김성환)는 국회 환경노동위원회 안호영 위원장과 함께 8월 6일 오후 국회 의원회관 제1세미나실에서 가습기살균제 피해자단체 대표들을 만나 다양한 의견을 청취했다. 김성환 환경부장관이 6일 오후 국회의원회관에서 열린 가습기살균제 피해자 대표와의 간담회에서 피해자 분들의 의견을 경청하고 있다. 이번 간담회는 지난해 6월 대법원이 가
-
김광용 재난안전관리본부장, 전남 집중호우 피해 현장 점검
행정안전부(장관 윤호중) 김광용 재난안전관리본부장은 8월 6일 지난 3~4일 집중호우로 인한 침수 피해가 집중된 전라남도 함평군과 무안군 일대 현장을 방문해 응급 복구 상황을 점검했다. 김광용 행정안전부 재난안전관리본부장이 5일 정부세종청사 중앙재난안전상황실에서 호우 대처 중대본 회의를 주재하고, 피해 최소화를 위한 8.6~7일 취약시간대 호우 대
-
중소기업부, 관세 현안·수출 애로 해소 위한 정책현장투어 실시
중소벤처기업부(장관 한성숙, 이하 중기부)는 8월 6일 중소기업 분야 정책현장투어 두 번째 행선지로 경기도 소재 `실리콘투` 물류센터를 방문해 수출 중소기업 관계자들과 간담회를 개최하고 현장 애로사항을 청취했다. 한성숙 중소벤처기업부 장관이 6일 경기 광주 (주)실리콘투에서 열린 `제2회 중소기업 정책현장투어`에서 참석자들과 기념 촬영을 하고 있다
-
바다와 숲이 공존하는 안산 바다향기수목원, 여름 휴가 명소로 주목
바다와 숲을 동시에 즐길 수 있는 경기도 안산 대부도 바다향기수목원이 여름 휴가철을 맞아 방문객들의 발길을 사로잡고 있다. 암석원의 여름시원한 바닷바람을 맞으며 서해안을 조망할 수 있는 이곳은 다양한 여름꽃들이 만개해 싱그러움을 더하고 있다. 바다향기수목원에는 산림청 지정 보호식물인 개정향풀을 비롯해 무궁화, 나무수국, 능소화 등 나무의
-
국민 39% "향후 1년 경기 나빠질 것"…미국 관계 중요성 76%
국민 10명 중 4명은 향후 1년간 우리 경제가 현재보다 나빠질 것으로 전망한다는 조사 결과가 나왔다.이재명 대통령이 19일 서울 용산 대통령실 청사에서 미일 순방 경제인 간담회를 하고 있다. 한국갤럽이 19일부터 21일까지 전국 만 18세 이상 1,004명을 대상으로 실시한 여론조사에 따르면, 향후 1년간 경기 전망에서 '나빠질 것'이라는 응답이
-
이재명 대통령 지지율 56%로 하락세 지속…더민주 44% 유지
이재명 대통령의 직무 수행 지지율이 56%로 하락하며 취임 후 최저치를 기록했다.이재명 대통령이 23일 한남동 관저에서 더불어민주당 원내지도부와 만찬을 하고 있다. 한국갤럽이 19일부터 21일까지 전국 만 18세 이상 1,004명을 대상으로 실시한 여론조사에 따르면, 이재명 대통령의 직무 수행을 '잘하고 있다'고 응답한 비율은 56%로 집계됐다.&
-
"안전은 타협 불가" 근로복지공단, 중대재해 제로화 위한 안전경영 본격화
근로복지공단(이사장 박종길)은 국민과 직원의 안전을 최우선 가치로 삼고 중대재해 제로화를 위한 선제적 안전경영을 본격 추진한다고 8월 6일 밝혔다. 지난달 25일, 근로복지공단 박종길 이사장이 인천 남동구 구월동 경인지역본부 신축공사 현장에서 안전경영을 실시하고 있다. 이번 안전경영 강화 조치는 최근 이재명 대통령이 중대재해 근절을 위해
-
김윤덕 국토교통부 장관, 취임 첫 행보로 12·29 여객기 참사 유가족 만나
김윤덕 국토교통부 장관은 취임 후 첫 공식 일정으로 8월 6일 오전 무안국제공항을 방문해 12·29 여객기 참사 유가족과 면담을 갖고 사고현장을 점검하며 정부의 소통 의지를 보였다. 김윤덕 국토교통부 장관은 취임 후 첫 공식 일정으로 8월 6일 오전 무안국제공항을 방문해 12 · 29 여객기 참사 유가족과 면담을 갖고 사고
