AI 모델 경량화 및 최적화 기술 기업 노타(대표 채명수)가 정부의 ‘독자 AI 파운데이션 모델(독파모)’ 프로젝트에 참여한 업스테이지 컨소시엄이 3차수 평가에 진출함에 따라 국산 AI 모델의 실제 활용도를 높이는 기술 지원을 이어간다고 20일 밝혔다.
노타는 업스테이지 컨소시엄에서 AI 파운데이션 모델 ‘솔라(Solar)’ 계열이 국내 인프라에서 원활히 구동되도록 경량화와 최적화를 맡고 있다. 모델 성능을 유지하면서 연산 자원과 메모리 사용량을 줄여 다양한 하드웨어와 서비스 환경에 적용할 수 있도록 지원하는 역할이다.
독파모는 국내 기업의 독자 기술로 글로벌 경쟁력을 갖춘 파운데이션 모델을 개발해 국가대표 AI를 육성하는 사업이다. 지난 18일 열린 2차 평가에서는 업스테이지, SK텔레콤, LG AI연구원 등 3개 컨소시엄이 3차수 진출팀으로 선정됐다. 정부가 공개한 평가 기준을 보면 이번 단계평가에서는 모델의 정량적 성능뿐 아니라 자원 활용 효율성, 사용성과 실용성, 다양한 산업·서비스 환경으로의 확장 가능성 등이 종합적으로 고려됐다. 업스테이지 컨소시엄은 국내 플랫폼과 연계한 서비스 구현과 함께 퓨리오사AI의 NPU를 활용해 국산 AI 소프트웨어와 하드웨어 생태계의 결합 가능성을 보여줬다는 평가를 받았다.
앞서 노타는 2차 단계평가 결과 발표에 앞서 업스테이지의 AI 파운데이션 모델 ‘솔라 오픈 2(Solar Open 2)’ 경량화 모델을 글로벌 AI 플랫폼 허깅페이스에 공개한 바 있다. 기존 엔비디아 H100 GPU 8장이 필요했던 모델을 2장으로도 구동할 수 있도록 최적화해 인프라 부담을 낮췄으며, 해당 모델은 누적 다운로드 8만 건을 기록했다.
3차수에 진출한 ‘솔라 오픈 2’는 2500억 개의 매개변수를 갖춘 대형 AI 모델이다. 노타는 모델 가중치를 INT4 또는 NVFP4 기반의 4비트 형식으로 변환하고, 중요도가 낮은 연산 모듈을 선별적으로 정리하는 경량화 기술을 적용했다. 그 결과 가중치 저장에 필요한 메모리를 500.6GB에서 117.8GB로 76.5% 줄였고, 이를 통해 원본 모델 구동에 필요했던 GPU 수를 8장에서 2장으로 줄일 수 있었다.
초거대 AI 모델의 활용 경쟁력은 성능 자체뿐 아니라 구동에 드는 연산 자원과 운영 비용에 의해서도 좌우된다는 점에서, 이번 최적화는 모델 성능을 유지하면서도 필요 GPU 수를 4분의 1 수준으로 낮췄다는 데 실질적 의미가 있다. 국가대표 AI 모델의 확산 여부가 결국 이러한 경량화 기술의 뒷받침에 달려 있다는 점에서 노타의 역할은 앞으로 더 주목될 것으로 보인다.
채명수 노타 대표는 “국가대표 AI 모델이 다양한 산업 현장에서 비용 효율적으로 활용될 수 있도록 최적화 기술을 지속적으로 고도화할 것”이라며 “업스테이지와 함께 독파모 3차수 평가에서도 좋은 성과를 거둘 수 있도록 최선을 다하겠다”고 말했다.
· · · · · · · · · ·
관련기사
▶ [속보] LG·SKT·업스테이지 독파모 최종 진출…모티프 탈락
▶ 노타, 문샷AI '키미 K3' 경량화…구동 GPU 8장서 4장으로 줄여
▶ 노타, AI 에이전트 운영 최적화 시장 진출…메타엠과 첫 상용 프로젝트 계약
· · · · · · · · · ·
스페셜타임스는 AI 기술의 도움을 받아 더 빠르고 다양한 뉴스를 독자에게 전달하기 위해 노력하고 있습니다.