이재훈

Technical Content Manager

Insight

터너리 양자화 결과 비교: 모델 크기는 BF16 60GB에서 1.58비트 약 10GB로 약 1/6, 성능은 BF16 대비 89%

November 10, 2026

min read

30B 로컬 LLM을 맥북에서 돌릴 수 있을까? 1.58비트 터너리 양자화

Nota AI Server는 같은 LLM을 GPU 4장으로 운영해, GPU 16장이 필요한 일반 서버보다 GPU 12장을 줄인다

October 21, 2026

min read

[Nota AI Server] 온프레미스 LLM 구축, GPU 사기 전에 확인해야 할 것

'AI Everywhere' 문구를 가운데 두고 노타가 참여한 세 국가 AI 사업을 카드 세 장으로 표현한 썸네일이다. 모두의 AI 카드에는 의료 상담과 재난 모니터링 같은 서비스 화면, 국가대표 AI를 만드는 독파모 카드에는 신경망 연결 도식, K-온디바이스 카드에는 휴머노이드 로봇이 있다.

September 30, 2026

min read

모두의 AI·독파모·K-온디바이스, 왜 모든 국가 AI 사업 명단에 노타가 있을까?

KRAIN 2026 노타 부스에서 SO-101 로봇팔이 퀄컴 IQ-9075 보드로 큐브를 옮기고 있다.

September 18, 2026

min read

GPU 없이 VLA 돌리기: 퀄컴 NPU에서 1.6초를 230ms로

Solar Open2와 Kimi K3의 GPU 절감을 표현한 그래픽. Solar Open2는 GPU 8장 스택이 2장으로, Kimi K3는 8장이 4장으로 줄어든다.

August 26, 2026

min read

H100 8장을 2장으로: LLM 경량화가 만든 GPU 비용 절감

보라·파랑 그러데이션 배경 위에 NetsPresso 로고와 에이전트 화면 캡처가 놓인 썸네일. 화면 가운데에 Welcome to NetsPresso! 인사말과 함께 최적화할 모델과 실행 환경을 알려 달라는 안내가 있고, 그 아래 파랗게 강조된 Set Your Optimization Target & Goal 패널에 모델 Llama 3.2 1B Instruct, 디바이스 Raspberry Pi 5 16GB, 런타임 ExecuTorch, 백엔드 XNNPACK,

min read

반자동에서 전자동으로: 넷츠프레소가 에이전트로 모델 최적화하는 법

Culture

September 1, 2026

min read

인턴 6개월, 엔비디아 우승과 ICML 논문 두 편을 남기다

Thank you! Your submission has been received!

Oops! Something went wrong while submitting the form.