딥러닝 Quantization 완전 정복

안녕하세요! 오늘은 딥러닝에서 매우 중요한 개념인 **Quantization(양자화)**에 대해 알아보겠습니다. 이 강의를 통해 여러분은 quantization이 무엇인지, 왜 필요한지, 그리고 실제로 어떻게 활용되는지 완전히 이해하게 될 것입니다.

1. Quantization이란 무엇인가?

기본 개념 이해하기

Quantization은 디지털 신호의 정밀도를 줄이는 과정입니다1. 쉽게 말해, 높은 정밀도 형식에서 낮은 정밀도 형식으로 변환하는 것이죠1.

딥러닝에서 quantization은 모델의 크기를 줄여 예측 속도를 최적화하는 과정입니다2. 훈련된 신경망은 컴퓨터 메모리에 저장된 단순한 부동소수점 숫자들의 집합이라는 점을 기억해야 합니다3.

실생활 비유로 이해하기

quantization을 이해하기 위해 사진 해상도를 생각해보세요. 4K 사진을 HD로 변환하는 것과 비슷합니다. 화질은 약간 떨어지지만, 파일 크기가 훨씬 작아져서 저장과 전송이 쉬워집니다.

딥러닝에서의 Quantization

딥러닝 모델에서 quantization은 가중치(weights)와 활성화 값(activation values)을 높은 정밀도 데이터에서 낮은 정밀도 데이터로 변환하는 것입니다1.

예를 들어:

• 32비트 부동소수점(FP32) → 8비트 정수(INT8)
• 16비트 부동소수점(FP16) → 8비트 정수(INT8)

---

2. 컴퓨터에서 숫자 표현 방식 이해하기

다양한 데이터 형식들

컴퓨터에서 숫자를 저장하는 잘 알려진 형식들을 살펴보겠습니다3:

• Float32 (FP32): 부호 1비트 + 지수 8비트 + 가수 23비트
• Float16 (FP16): 부호 1비트 + 지수 5비트 + 가수 10비트
• BFloat16: 부호 1비트 + 지수 8비트 + 가수 7비트
• INT8: 8비트 정수
• TensorFloat32 (TF32): 텐서 연산에 특화된 형식

정밀도의 개념

• Full Precision (완전 정밀도): Float32
• Half Precision (반 정밀도): Float16, BFloat16

딥러닝 모델은 기본적으로 full precision으로 훈련되고 저장됩니다3.

실제 예시

값 0.123456789를 생각해보세요2:

• 32비트에서는 0.123456789로 표현 가능
• 16비트에서는 0.1235로만 표현 가능

이처럼 정밀도가 줄어들면 **quantization error(양자화 오차)**가 발생합니다.

---

3. 왜 Quantization이 필요한가?

메모리와 연산 효율성

Large Language Models(LLM)의 등장으로 모델의 매개변수 수가 급격히 증가하고 있습니다3. 이는 메모리 사용량 증가와 연산 비용 증가를 의미합니다.

Quantization은 모델의 매개변수와 활성화의 정밀도를 줄여 메모리와 연산 요구사항을 극적으로 감소시킵니다4.

추론 속도 향상

FP32를 사용하는 LLM의 연산 요구사항은 엄청납니다1. Quantization을 통해:

• 연산 부담 감소
• 추론 속도 증가
• 모델 성능은 거의 동일하게 유지

부동소수점을 정수로 변환하면 계산이 더 빠르게 완료되어 전체 지연시간이 감소하고 추론 속도가 향상됩니다1.

모바일 및 엣지 디바이스 배포

Quantization은 제한된 연산 능력을 가진 디바이스에서 머신러닝 모델을 실행할 때 필수적입니다1.

• 스마트폰, 태블릿, 노트북에서 모델 실행 가능
• 임베디드 시스템에서도 활용 가능
• IoT 디바이스나 스마트워치 같은 저전력 기기에서도 사용

5가지 핵심 장점

1. 리소스 효율성: 메모리와 연산 요구사항 대폭 감소4
2. 성능 향상: 매개변수의 노이즈 최소화로 더 정확하고 안정적인 예측4
3. 보안 강화: 매개변수 정밀도 감소로 역공학 어려움 증가4
4. 전력 효율성: 저전력 기기에서의 딥러닝 모델 구현 가능4
5. 하드웨어 호환성: CPU, GPU, TPU, ASIC 등 다양한 하드웨어에서 효율적 실행4

---

4. Quantization의 종류와 방법

Uniform vs Non-uniform Quantization

Uniform Quantization(균등 양자화)3:

• 입력에서 출력으로의 매핑이 선형 함수
• 균등하게 분포된 입력에 대해 균등하게 분포된 출력 생성
• 스케일링과 반올림 연산 포함

Non-uniform Quantization(비균등 양자화)3:

• 입력에서 출력으로의 매핑이 비선형 함수
• 균등한 입력에 대해 비균등한 출력 생성

Symmetric vs Asymmetric Quantization

Symmetric Quantization(대칭 양자화)53:

• 값의 범위가 -127부터 +127처럼 대칭
• 입력의 0이 출력의 0에 완벽하게 매핑
• 신경망 가중치 양자화에 주로 사용
• 계산이 더 간단함 (zero point = 0)

Asymmetric Quantization(비대칭 양자화)53:

• 값의 범위가 -128부터 +127처럼 비대칭
• 입력의 0이 출력의 다른 값에 매핑
• Zero factor(Z)를 방정식에 포함해야 함
• 활성화 함수 출력에 주로 사용 (ReLU, GELU 등)

양자화 방정식

Symmetric Quantization:
Q=round(R/S)Q = round(R / S)Q=round(R/S)

Asymmetric Quantization:
Q=round(R/S)+ZQ = round(R / S) + ZQ=round(R/S)+Z

여기서:

• Q: 양자화된 값
• R: 실제 값
• S: 스케일 팩터
• Z: Zero point

역양자화(Dequantization):
R~=(Q−Z)×S\tilde{R} = (Q - Z) \times SR~=(Q−Z)×S

---

5. Quantization 모드와 실행 방법

Post-Training Quantization (PTQ)

사후 훈련 양자화는 사전 훈련된 모델을 추가 훈련 없이 양자화하는 방법입니다53.

특징:

• 모델 가중치에서 보정 데이터(calibration data) 추출
• 클리핑 범위 계산하여 스케일 팩터와 zero point 결정
• 빠르고 간단한 구현
• 약간의 정확도 손실 가능

과정:

1. 사전 훈련된 모델 준비
2. 보정 데이터로 양자화 매개변수 계산
3. 모델 양자화 수행

Quantization Aware Training (QAT)

양자화 인식 훈련은 양자화 과정을 훈련에 포함시키는 방법입니다53.

특징:

• 표준 절차로 모델 양자화 후 추가 fine-tuning 수행
• 새로운 훈련 데이터 사용하여 재훈련
• PTQ보다 더 나은 성능 제공
• 더 많은 훈련 데이터와 시간 필요

Fake Quantizer 사용:

• 양자화 연산은 미분 불가능
• Straight-through Estimator 같은 fake quantizer 사용53
• 양자화 오차를 추정하여 훈련 오차와 결합
• Forward/backward pass는 부동소수점으로, 매개변수는 각 gradient update 후 양자화

---

6. 실제 적용 사례와 고려사항

실제 사용 시나리오

모바일 애플리케이션:

• 실시간 이미지 분류
• 음성 인식
• 자연어 처리

엣지 컴퓨팅:

• 자율주행차의 실시간 객체 감지
• 산업용 IoT 센서 데이터 분석
• 스마트 홈 기기

성능 vs 정확도 트레이드오프

Quantization은 항상 속도 향상과 정확도 감소 사이의 균형을 고려해야 합니다1.

일반적인 결과:

• 8비트 양자화: 2-4배 속도 향상, 1-2% 정확도 감소
• 4비트 양자화: 4-8배 속도 향상, 3-5% 정확도 감소

하드웨어 최적화

다양한 하드웨어에서 저정밀도 연산을 효율적으로 구현할 수 있어 더 빠르고 전력 효율적인 추론이 가능합니다4.

---

마무리 및 핵심 요약

오늘 우리는 딥러닝에서 quantization의 모든 것을 살펴보았습니다.

핵심 포인트:

1. Quantization은 모델 효율성의 핵심 기술
2. 메모리, 속도, 전력 효율성 모두 개선
3. 다양한 방법과 모드 중 상황에 맞는 선택 중요
4. 성능과 정확도의 균형점 찾기

앞으로 AI 모델이 더욱 복잡해지고 다양한 디바이스에서 실행되어야 하는 상황에서, quantization은 필수 불가결한 기술이 될 것입니다. 여러분도 이제 이 강력한 도구를 활용하여 더 효율적인 딥러닝 모델을 만들어보세요!