SK텔레콤 정예팀의 A.X K2가 과학기술정보통신부의 독자 AI 파운데이션 모델 프로젝트 2차 단계평가를 통과했다. A.X K2는 688B(6880억개) 규모로 처음부터 학습한 혼합전문가모델(Mixture of Experts·MoE)이다. 수학과 한국어 관련 평가에서 강점을 보였으며 장문 처리와 저정밀도 추론을 고려한 자체 기술도 적용했다.
모델의 규모와 벤치마크 성적만으로 산업 경쟁력이 완성되는 것은 아니다. A.X K2는 토큰을 처리할 때 전체 매개변수 가운데 약 33B(330억개)만 활성화하지만 모델을 구동하려면 여전히 데이터센터급 GPU가 필요하다. 사무·개인 서비스에는 경량 모델이 적용됐고 제조는 현장 실증을 앞두고 있다. A.X K2의 경쟁력은 확보한 성능을 실제 업무와 산업 현장으로 얼마나 효율적으로 연결하느냐에 달렸다.
688B 가운데 토큰당 약 33B 활성화
A.X K2에는 입력을 나눠 처리하는 256개의 routed expert와 모든 입력에 공통으로 사용되는 1개의 shared expert가 배치됐다. 토큰마다 routed expert 8개를 선택해 shared expert와 함께 약 33B의 매개변수를 활성화한다. 전체 688B는 모델이 보유한 전체 용량을, 약 33B는 토큰 하나를 처리할 때 연산에 참여하는 규모를 나타낸다.
필요한 expert를 선택하는 MoE 구조는 전체 매개변수를 매번 계산하는 부담을 줄이면서 모델의 용량을 확대하기 위한 방식이다. 다만 나머지 가중치가 없어지는 것은 아니므로 A.X K2를 33B급 모델과 같은 하드웨어에서 구동할 수 있다는 뜻은 아니다.
SK텔레콤이 공개한 기술보고서와 모델카드에 따르면 A.X K2는 약 8.2조개 토큰으로 사전학습됐다. 초기 학습 데이터는 영어 72.7%, 한국어 15.4%, 코드 8.3% 등으로 구성됐다. 일반 데이터 외에도 추론 능력을 강화하기 위한 약 1.4조개 토큰과 장문 학습을 위한 약 3600억개 토큰을 사용했다. 이후 약 60.6B 규모의 사후학습을 거쳐 문제 해결 과정을 길게 생성하는 thinking mode와 간결하게 답하는 non-thinking mode를 하나의 모델에서 지원하도록 했다.
SK텔레콤은 약 1.37조개 토큰 규모의 자체 한국어 후보 데이터를 수집·정제했다고 설명했다. 모델 가중치와 기술보고서는 Apache 2.0 라이선스로 공개했지만 자체 수집 데이터와 전체 학습데이터 목록은 공개하지 않았다. 따라서 A.X K2는 연구와 상업적 활용이 가능한 open-weight 모델이지만 학습데이터까지 전부 개방된 모델은 아니다.
256K 장문 처리 뒷받침한 SGA
A.X K2는 최대 256K 토큰의 문맥을 지원한다. 모델은 128K 토큰 길이까지 학습한 뒤 위치 정보를 확장하는 YaRN을 적용해 지원 범위를 256K로 늘렸다. 긴 보고서와 매뉴얼, 여러 문서를 한 번에 입력할 수 있는 규모다.
장문 처리 과정의 연산 부담을 줄이기 위해 자체 개발한 SGA(Sparse Gated Attention)도 적용했다. SGA는 입력 전체를 같은 비중으로 처리하는 대신 질문과 관련성이 높은 토큰을 골라 attention 계산에 사용한다. SK텔레콤은 기술보고서에서 64K 이상의 긴 문맥을 처리할 때 기존 방식보다 처리량과 응답 지연을 개선했다고 밝혔다.
Gated Norm은 저정밀도 연산 과정에서 일부 값이 지나치게 커지는 현상을 억제하도록 설계됐다. 이는 A.X K2가 학습과 추론에 사용하는 FP8 형식의 안정성을 높이기 위한 기술이다. 최대 문맥 길이와 연산 효율을 함께 설계했다는 의미지만, 256K 분량의 모든 내용을 같은 정확도로 이해한다는 사실까지 보장하는 수치는 아니다. 실제 장문 업무에서는 필요한 정보를 찾는 정확도와 답변의 일관성을 별도로 확인해야 한다.
AIME 97.1점과 한국어 평가의 의미
A.X K2는 MathArena가 실시한 AIME 2026 평가에서 97.1점을 기록했다. SK텔레콤이 결과를 발표한 8월 11일 기준으로 Inkling과 공동 최고점이었다. AIME 2026 평가는 15문제씩 두 차례 시행된 총 30개의 수학 문제로 구성되며, 답은 0부터 999 사이의 정수다. MathArena는 각 문제를 모델에 네 차례 제시한 뒤 평균 점수를 산출한다.
97.1점은 제한된 시간에 복잡한 수학 문제를 해결하는 추론 능력을 보여주는 결과다. 다만 MathArena가 다루는 모든 수학대회를 합산한 종합순위가 아니라 AIME 2026 단일 평가 점수다. 새 모델의 결과가 추가되면 순위도 달라질 수 있다. SK텔레콤은 A.X K2가 IMO 2026 문제를 대상으로 한 자체 평가에서 42점 만점에 29점을 얻었다고도 밝혔다. 이는
공식 대회 참가와 채점으로 얻은 결과는 아니다.
한국어 평가는 서로 다른 능력을 나눠 확인했다. A.X K2는 국내 전문 자격시험을 토대로 구성한 KMMLU-Pro에서 80.5점, 한국 언어와 문화 지식을 평가하는 CLIcK에서 91.6점, 문법·의미·화용 등 언어 능력을 측정하는 KoBALT에서 73.0점을 기록했다. 모델카드의 비교표에서는 KMMLU-Pro와 CLIcK 점수가 비교 대상 중 가장 높았지만 KoBALT는 일부 해외 모델보다 낮았다. 한국어 평가 전반에서 일률적으로 앞섰다기보다 전문지식과 문화 이해에서 상대적인 강점을 보인 결과다.
평가별 차이는 다른 영역에서도 나타났다. A.X K2는 통신 업무 수행을 평가하는 τ²-Bench Telecom에서 98.0점을 기록한 반면 웹에서 여러 정보를 찾아 답하는 BrowseComp 점수는 9.3점이었다. 수학·한국어·통신 분야의 강점이 모든 agent 업무의 우위로 그대로 이어지는 것은 아니라는 점도 함께 볼 필요가 있다.
공개 모델 구동에도 데이터센터급 GPU 필요
A.X K2의 FP8 체크포인트는 저장공간 약 647GiB, GPU에 적재할 때 약 656GiB를 사용한다. 모델카드는 KV cache와 중간 연산에 필요한 공간까지 고려해 총 800GiB 이상의 GPU 메모리를 권고한다. SK텔레콤이 모델을 검증한 기준 환경도 메모리 275GB의 NVIDIA B300 GPU 4장이다. FP8을 지원하지 않아 BF16으로 변환하면 약 1.4TB의 메모리가 필요하다.
SK텔레콤은 접근성과 운영 효율을 높이기 위해 A.X K2 NVFP4와 EAGLE3, GGUF 형식 등을 추가로 공개했다. 회사에 따르면 NVFP4 양자화 모델은 필요한 메모리를 약 646GB에서 370GB로 줄였다. EAGLE3는 작은 draft model이 다음 토큰을 먼저 예측하는 speculative decoding 방식으로, SK텔레콤은 자사 서비스 요청을 이용한 시험에서 처리량이 최대 1.64배 높아지고 토큰 간 지연시간은 28% 감소했다고 설명했다.
양자화와 추론 가속은 대형 모델을 구동하는 비용을 줄일 수 있지만 측정 결과는 사용한 GPU, 입력 길이, 동시 요청량에 따라 달라진다. NVFP4 모델도 수백GB의 메모리가 필요하다는 점을 고려하면 A.X K2의 주된 활용 환경은 개인용 PC보다 AI 데이터센터나 기업용 인프라에 가깝다.
사무 서비스는 적용, 제조·국방은 검증 단계
A.X K2는 사무와 개인 서비스 일부에 먼저 적용됐다. SK텔레콤은 A. Biz에서 자료를 수집·분석해 보고서와 뉴스레터를 만드는 기능을 제공하고 있다. SK하이닉스의 사내 업무용 AI 도구에는 경량 모델을 공급했으며 에이닷 전화의 AI 제안과 에이닷 노트의 내용 정리 기술 일부에도 A.X K2 경량 모델을 적용했다.
제조 분야는 현장 실증 단계다. SK텔레콤은 KG스틸 당진공장 냉간압연 라인과 자동차 부품업체 코넥의 주조·가공 공정에서 제조 특화 AI agent를 시험할 계획이다. 과거 공정 오류와 사고 분석 보고서, 장비 매뉴얼과 로그를 바탕으로 이상 원인과 대응 방법을 찾도록 하는 것이 목표다.
최초 demo는 A.X K1을 기반으로 개발됐다. SK텔레콤은 현장에서 확보한 데이터와 이용자 의견을 A.X K2 학습과 agent 개선에 활용하고, 실증을 마친 뒤 상용화와 후속 모델 교체를 검토할 예정이다. 따라서 A.X K2가 공장에 상용 도입됐다고 보기보다 K1에서 시작한 제조 agent를 K2 계열로 고도화하는 과정으로 이해해야 한다.
국방부와 개발한 경량 모델도 현재 확인되는 것은 A.X K1의 FP8·FP4·INT4 양자화 버전이다. 육·해·공군과 해병대 산하 부대에서 활용할 계획이며 A.X K2의 국방 적용은 후속 확장 단계에 해당한다. 보안이 중요한 제조와 국방에서는 데이터를 외부로 보내지 않는 on-premises 운영이 가능하다는 점이 활용 조건으로 꼽힌다.
모델·인프라·서비스를 잇는 통신사의 전략
SK텔레콤 정예팀은 모델·인프라, 선행연구, 데이터, 서비스 확산의 네 트랙으로 컨소시엄을 운영한다. Rebellions는 AI 반도체와 인프라, 42dot은 mobility와 on-device 확산, SK AX는 기업용 AI 전환 사례와 실증, Technomatrix는 제조 AI 운영 최적화를 맡는다. LINER는 검색·지식 서비스에 적용한 모델의 이용자 의견과 구조화 학습데이터를 제공한다.
통신사가 파운데이션 모델을 개발하는 산업적 의미는 통신데이터 보유 여부보다 모델과 인프라, 이용자 서비스를 연결할 수 있다는 데 있다. SK텔레콤은 A.X K2를 개발하는 동시에 GPU cluster와 AI 데이터센터를 구축하고, 에이닷과 A. Biz를 통해 실제 이용 환경을 확보하고 있다. 제조·국방 등 기업·공공 분야로 검증 경로를 넓힐 수 있다는 점도 독립적인 모델 개발사와 다른 조건이다.
A.X K2의 경쟁력은 688B라는 규모나 특정 벤치마크 점수만으로 결정되지 않는다. 대형 모델의 연산비용을 줄이고, 서비스와 산업 현장에서 성능을 반복적으로 확인하며, 기업이 도입할 수 있는 운영환경을 갖추는 과정이 뒤따라야 한다. A.X K2는 수학과 한국어, 장문 처리에서 기술적 성과를 제시했지만 제조와 국방에서의 효과와 비용은 예정된 현장 검증을 통해 확인해야 할 단계다.
출처=SK텔레콤 A.X K2 모델카드·A.X K2 기술보고서·SK텔레콤 A.X K2 공개자료·SK텔레콤 제조 현장 실증자료·SK텔레콤 정예팀 컨소시엄 자료·MathArena·AIME 2026 데이터·KMMLU-Pro·KoBALT·CLIcK
댓글
0