국산 LLM 에이닷 엑스에 '국산 NPU' 사용

[포쓰저널=강민혁 기자] SK텔레콤이 AI(인공지능) 반도체 스타트업 리벨리온과 손잡고 국산 AI 생태계 자립에 박차를 가한다.
SK텔레콤은 '에이닷 전화 통화요약' 등 자사 AI 서비스에 리벨리온의 NPU(신경망처리장치)를 적용하기 위한 테스트를 진행 중이라고 25일 밝혔다.
SKT와 리벨리온은 '데이터센터 용 AI 반도체 아톰(ATOM)'을 탑재한 서버를 ▲에이닷 전화 통화요약 ▲PASS 스팸필터링 ▲PASS금융비서 ▲엑스칼리버 등에 테스트 중이다.
테스트 결과에 따라 아톰의 성능 강화판인 '대규모 AI 추론용 AI 반도체 아톰 맥스(ATOM-Max)'를 이들 서비스에 연내 상용 적용하는 것을 목표로 하고 있다.
SKT는 테스트 결과를 토대로 향후 리벨리온 NPU 서버 도입을 지속적으로 확장할 계획이다.
양사는 이번 SKT AI 서비스에 대한 리벨리온 AI 반도체 테스트 및 상용화 검토가 국내 AI 생태계 자립에 큰 의미를 가지고 있다고 설명했다.
에이닷 전화 통화요약은 SKT의 LLM(대규모 언어모델) 에이닷엑스(A.X)를 기반으로 하고 있다.
국산 AI 반도체인 리벨리온의 아톰을 통해 상용 서비스 될 경우 '국산 LLM'이 '국산 NPU'를 통해 서비스되는 '소버린 AI(국가주권형 AI)'가 이뤄진다.
SKT가 자체 개발한 한국어 특화 LLM '에이닷엑스 4.0'는 현존하는 LLM 중 최고 수준의 한국어 이해 성능을 확보하고 있어 국내 비즈니스 환경에 최적화된 모델이라는 평가를 얻고 있다.
양사는 이번 테스트를 시작으로 협력 범위를 지속 확대해 국내 AI 생태계의 자립성을 강화해 나갈 계획이다.
이상민 SKT 성장사업추진실장은 "국가 간 AI 기술 경쟁이 심화되고 있는 이 때, 국내 AI 생태계 자립성 강화는 개별 기업이 아닌 국가의 경쟁력을 좌우할 수 있는 중요한 요소"라며 "SKT는 앞으로도 AI 데이터센터, LLM, AI 반도체 등을 포함한 국내 AI 생태계의 역량 강화를 위해 노력할 것"이라고 말했다.
박성현 리벨리온 대표는 "국산 AI반도체가 SKT의 국산 LLM 기반 서비스에 적용될 수 있게 된 것은 기술적 완성도를 넘어, 국내 AI 생태계 자립을 실현하는 중요한 이정표"라며 "리벨리온은 앞으로도 안정적이고 에너지 효율적인 AI 인프라를 통해 대한민국이 AI 세계 3대 강국으로 도약하는 데 기여하겠다"고 밝혔다.
관련기사
- SKT "신뢰회복위 구성, 소비자 보상 검토중"
- [SKT 해킹] T월드 신규가입 24일 재개..영업중단 51일만
- SKT "유심교체 오늘 완료…영업 전면 재개는 미정"
- "SKAX에 수백억대 가짜 일감"...국세청, SK텔레콤 고발
- [SKT해킹] "T월드 신규 가입정지 다음달 현금 보상"
- [SKT해킹] "e심 신규 영업 재개..유심 교체 최우선 총력"
- 美법원 "AI 학습 위한 책 무단 사용은 저작권 위반 아냐"
- 생활 밀착형 AI 서비스..SKT 에이닷 '노트·브리핑' 베타 출시
- SKT 작년 온실가스 배출량 0.22%↓.."지속적 업·다운스트림 관리"
- "세계 최고 수준 한국어 처리 능력" SKT '에이닷 엑스 4.0' 오픈소스로 공개
- 아마존 'AI 스쿨' 국내 첫 개소.."AI 플랫폼 인재 양성"
- [현장] "AI 데이터센터 전력 수급 비상..지방 분산 등 대책 시급"
- SKT '에이닷 노트' 호응..일주일만에 사용자 30만명 돌파
- SKT "해외체류·군복무 등 위약금 면제기간 별도 적용"
