AI 경량화·최적화 기술 기업 노타(대표 채명수)가 자연어처리 분야 국제학술대회 ‘EMNLP 2026’에서 초거대 AI 모델 최적화 관련 논문 2편을 나란히 올렸다. 한 편은 메인 컨퍼런스에, 다른 한 편은 파인딩스 트랙에 채택됐다고 25일 밝혔다.
EMNLP는 자연어처리 분야를 대표하는 학회로 구글, 메타, 오픈AI 등 글로벌 기업과 주요 대학이 최신 연구를 발표하는 자리다. 올해는 약 1만8000편의 논문이 몰렸고 메인 컨퍼런스 채택률은 15.4%에 그쳐 경쟁이 치열했다는 점에서, 두 편 모두 이름을 올린 것은 적잖은 의미를 지닌다.
두 논문은 GPT 계열과 큐웬, 키미 등 최신 초거대 언어모델에 확산되고 있는 ‘전문가 혼합 모델(MoE)’을 양자화할 때 나타나는 성능 저하 문제를 다뤘다. MoE는 입력값에 따라 일부 전문가만 연산에 활용하지만 전체 모델을 메모리에 올려야 해 많은 GPU가 필요하다. 양자화로 이를 줄일 수 있지만, 수치가 미세하게 바뀌면서 엉뚱한 전문가가 선택돼 답변 품질이 떨어지는 경우가 생긴다.
메인 컨퍼런스에 채택된 논문은 양자화가 다음 단계 전문가 선택에 미치는 영향까지 고려하고, 선택 경계에 있는 전문가들의 순서를 지키는 ‘MENDS-MoE’ 기법을 제시했다. 3종의 MoE 모델을 4비트와 3비트로 양자화한 실험에서 대부분의 조건에서 비교 기술보다 나은 정확도를 나타냈다. 파인딩스에 채택된 논문은 모든 전문가 선택 변화를 동일하게 보정하지 않고 최종 답변에 실제 영향을 주는 변화에만 최적화를 집중하는 ‘오페라(OPERA)’ 방법론을 담았다. 두 연구는 접근 방식은 다르지만 양자화 이후에도 정확한 전문가 선택을 지키면서 품질에 중요한 부분에 자원을 집중한다는 점에서 서로 맞닿아 있다.
노타는 지난 7월에도 ICML 2026 워크숍의 경진대회에서 전 세계 약 40개 팀 중 3위에 오른 바 있다. 오픈소스 모델 큐웬 3.5-4B를 엔비디아 A10G GPU 한 장으로 구동하면서 기존 대비 평균 6.978배 빠른 추론 속도를 냈고, 같은 워크숍에서 MoE 양자화 논문 2편도 채택됐다. 이번 EMNLP 성과는 당시 연구를 한 단계 발전시킨 결과로 풀이된다.
노타는 지금까지 프루닝과 양자화 원천기술부터 모바일 엣지 AI, 생성형 AI, 비전언어모델, 초거대 언어모델까지 국내외 학회와 저널에 50여 건의 연구 성과를 발표해왔다. AI 모델의 매개변수 규모가 수천억에서 수조 개로 커지면서, 성능을 유지하되 GPU와 메모리 사용량을 줄이는 기술이 AI 서비스 운영 효율을 가르는 요소로 떠오르는 분위기다. 이런 흐름 속에서 노타는 연구 단계에서 검증한 최적화 방법론을 실제 초거대 언어모델과 데이터센터 인프라에 적용하는 쪽으로 활동 범위를 넓히고 있다.
실제로 노타는 최근 1조 개 이상의 매개변수를 가진 ‘큐웬 3.8 맥스’를 경량화해 구동에 필요한 엔비디아 B300 GPU를 24장에서 4장으로 줄이는 결과를 냈다. 앞서 문샷AI의 ‘키미 K3’는 B300 GPU를 8장에서 4장으로, 업스테이지의 ‘솔라 오픈 2’는 H100 GPU를 8장에서 2장으로 줄인 사례가 있었던 만큼, 이번 결과는 모바일·엣지 중심이던 노타의 최적화 기술이 초대형 언어모델과 데이터센터 인프라 영역으로 옮겨가고 있음을 보여주는 사례로 볼 수 있다.
채명수 노타 대표는 “AI 모델이 수천억, 수조 개의 매개변수 규모로 커지며 AI 산업의 경쟁축이 모델 자체의 성능을 넘어 운영 효율로 이동하는 가운데, 이번 성과는 노타가 축적해 온 AI 최적화 연구를 바탕으로 초거대 언어모델과 데이터센터 AI 인프라의 효율을 높일 기술적 기반을 확보했음을 보여준다”고 말했다. 이어 “앞으로도 최신 AI 모델의 구조 변화에 선제적으로 대응할 수 있도록 연구개발 투자와 지원을 이어가며, AI 인프라 도입의 효율을 높이는 핵심 최적화 기술 적용 범위를 넓히겠다”고 덧붙였다.
· · · · · · · · · ·
관련기사
▶ 노타, 업스테이지와 협력한 독파모 3차수 진출…경량화 기술로 국가대표 AI 활용도 높인다
· · · · · · · · · ·
스페셜타임스는 AI 기술의 도움을 받아 더 빠르고 다양한 뉴스를 독자에게 전달하기 위해 노력하고 있습니다.