업스테이지와 손잡은 노타, 독파모 3차수 진출… “최적화 기술로 국가대표 AI 모델의 활용 경쟁력 강화”

- 컨소시엄 내 경량화·최적화 담당…엔비디아 H100 GPU 8장→2장으로 줄여 실질적인 활용 경쟁력 강화
- 솔라 오픈 2 경량화 모델, 허깅페이스 다운로드 8만 건 기록하며 실제 경량화 모델 활용에 높은 관심

‍

AI 모델 경량화 및 최적화 기술 기업 노타(대표 채명수)가 정부의 ‘독자 AI 파운데이션 모델(이하 독파모)’ 프로젝트에 참여한 업스테이지 컨소시엄이 3차수에 진출함에 따라 국산 AI 모델이 다양한 서비스 환경에서 효율적으로 활용될 수 있도록 기술 지원을 이어갈 계획이라고 20일 밝혔다.

노타는 업스테이지 컨소시엄에서 AI 파운데이션 모델 ‘솔라(Solar)’ 계열이 국내 인프라 환경에서 효율적으로 구동될 수 있도록 경량화와 최적화를 담당하고 있다. 모델 성능을 유지하면서 연산 자원과 메모리 사용량을 줄여 다양한 하드웨어와 서비스 환경에 적용할 수 있도록 지원하는 역할이다. 이를 통해 국가대표 AI 모델의 도입 부담과 운영 비용을 낮추고, 국내 산업 현장으로의 활용과 확산에 기여한다.

노타는 이러한 활용 경쟁력을 뒷받침하기 위해 독파모 2차 단계평가 결과 발표에 앞서 업스테이지의 AI 파운데이션 모델 ‘솔라 오픈 2(Solar Open 2)’의 경량화 모델을 글로벌 AI 플랫폼 허깅페이스에 공개했다. 기존에는 엔비디아 H100 GPU 8장이 필요했던 모델을 2장으로도 구동할 수 있도록 최적화해 인프라 부담을 낮추고 다양한 환경으로의 확산 가능성을 높였다. 해당 모델은 누적 다운로드 8만 건을 기록하며 실제 활용에 대한 높은 관심을 입증했다.

업스테이지의 ‘솔라 오픈 2’는 2,500억 개의 매개변수를 갖춘 글로벌 프런티어급 AI 모델이다. 노타는 모델 가중치를 INT4 또는 NVFP4 기반의 4비트 형식으로 변환하고, 중요도가 낮은 연산 모듈을 선별적으로 정리하는 경량화 기술을 적용했다.

그 결과 가중치 저장에 필요한 메모리를 500.6GB에서 117.8GB로 76.5% 줄였다. 메모리 용량을 기준으로 엔비디아 H100 GPU 8장이 필요했던 원본 모델을 2장으로도 구동할 수 있게 한 것이다.

채명수 노타 대표는 “국가대표 AI 모델이 다양한 산업 현장에서 비용 효율적으로 활용될 수 있도록 최적화 기술을 지속적으로 고도화할 것”이라며, “업스테이지와 함께 독파모 3차수 평가에서도 좋은 성과를 거둘 수 있도록 최선을 다하겠다”고 말했다.