Quantization (양자화)

Mark as In Progress

정의

연속적인 값을 유한한 개수의 이산 단계 값으로 근사해 표현하는 변환 과정이다.

설명

Quantization은 Analog 세계의 연속적인 물리량을 디지털 시스템에서 다루기 위해 반드시 거쳐야 하는 단계다.

시간을 이산화하는 과정이

Sampling이라면, Quantization은 값의 크기를 이산화하는 과정에 해당한다.

이 개념은 20세기 중반 디지털 통신과 수치 계산 이론의 발전과 함께 체계화되었다. 연속 신호를 컴퓨터로 처리하기 위해서는 값의 범위를 제한된 단계로 나눌 수밖에 없었고, 이 과정에서 발생하는 오차를 수학적으로 다루는 필요가 커졌다.

양자화는 정보를 저장하고 전송 가능하게 만들지만, 동시에 원본과의 차이를 만들어낸다. 이 차이는 항상 존재하며, 시스템의 해상도와 품질 한계를 규정한다.

Quantization은 단순한 반올림 연산이 아닌 단계 수, 범위 설정, 스케일링 방식에 따라 신호의 미세 구조가 보존되기도 하고 사라지기도 한다. 그래서 Quantization은 디지털 시스템의 정확성과 표현력을 동시에 결정하는 핵심 과정으로 취급된다.

원리

Quantization의 원리는 연속 값 공간을 일정 간격의 구간으로 나누고 각 구간을 대표 값으로 치환한다는 구조에 기반한다.

유한 단계 분할

표현 가능한 값의 개수는 비트 수로 제한된다. 단계 수가 많을수록 간격은 촘촘해진다.

근사 오차 발생

실제 입력 값은 가장 가까운 단계 값으로 치환되며, 이 차이가 양자화 오차가 된다.

오차의 통계적 성격

입력 신호가 충분히 복잡할 경우, 오치는 특정 패턴이 아닌 확률적 분포를 가진다.

해상도와 범위의 상호작용

같은

📄

Bit 수라도 표현 범위를 넓히면 단계 간격이 커지고, 범위를 줄이면 정밀도가 높아진다.

시스템 한계 형성

양자화는 디지털 시스템이 표현할 수 있는 최소 변화 단위를 결정한다.

구조

단계 크기 정의


Δ = (X_max − X_min) / 2^N

양자화 연산


Q(x) = round(x / Δ) · Δ

양자화 오차


e = x − Q(x)

오차 범위


−Δ/2 ≤ e ≤ Δ/2

분해능 관계


Resolution ∝ 1 / 2^N

예시

비트 깊이와 해상도

비트 수가 증가하면 양자화 단계가 늘어나고, 작은 신호 변화도 구분할 수 있게 된다.

저레벨 신호 손실

단계 간격보다 작은 변화는 같은 값으로 묶이며, 미세 정보가 사라진다.

📄
Distortion (왜곡)과
📄
Noise (잡음)의 구분

Quantizaiton 오차는 신호와 상관될 경우 Distortion처럼 나타나고, 비상관화되면 Noise처럼 분포한다.

데이터 압축과의 관계

양자화는 정보량을 줄이는 가장 직접적인 방법이며, 손실 압축의 핵심 메커니즘이다.

디지털 시스템 설계

센서, 변환기, 처리 알고리즘은 양자화 한계를 전제로 설계된다.

Mark as Done