박한철

AI Research Engineer

Insight

터너리 양자화 결과 비교: 모델 크기는 BF16 60GB에서 1.58비트 약 10GB로 약 1/6, 성능은 BF16 대비 89%

November 10, 2026

min read

30B 로컬 LLM을 맥북에서 돌릴 수 있을까? 1.58비트 터너리 양자화

Solar Open2와 Kimi K3의 GPU 절감을 표현한 그래픽. Solar Open2는 GPU 8장 스택이 2장으로, Kimi K3는 8장이 4장으로 줄어든다.

August 26, 2026

min read

H100 8장을 2장으로: LLM 경량화가 만든 GPU 비용 절감

min read

노타의 MoE LLM 양자화 연구 2편, ICML 2026 워크숍에 나란히 이름을 올리다

min read

모바일 디바이스에 효율적인 비전 언어 모델 배포하기

min read

NotaMoEQuantization: Solar-Open-100B에 적용된 MoE 구조 특화 양자화 방법론

February 10, 2025

min read

대형 언어 모델은 데이터의 애매성을 어디에서 식별할까?

Culture

Thank you! Your submission has been received!

Oops! Something went wrong while submitting the form.