RaBiT: Residual-Aware Binarization Training for Accurate and Efficient LLMs Review

0. Introduction

Paper link

Code link

한 줄 요약: RaBiT는 2-bit residual binarization에서 parallel binary path가 서로 redundant feature를 배우는 inter-path adaptation 문제를 정의하고, single shared full-precision weight에서 residual path를 순차적으로 유도해 error-compensation hierarchy를 강제하는 QAT framework다.

이 논문을 지금 볼 가치가 있는 이유는 다음과 같음.

• LLM deployment에서 4-bit 이후의 다음 frontier는 2-bit 또는 binary-friendly inference다.
• Vector Quantization 계열은 정확도는 좋지만 lookup, rotation, kernel overhead가 생길 수 있다.
• Residual binarization은 matmul-free inference 가능성이 있지만, QAT에서 path들이 같은 feature를 배우는 문제가 생긴다.
• RaBiT는 이 문제를 단순 heuristic이 아니라 training dynamics 문제로 정의한다.
• 2-bit accuracy와 packed binary kernel efficiency를 함께 보는 점이 실무적으로 중요하다.

RaBiT를 “또 하나의 2-bit quantization method”로 읽으면 핵심을 놓치기 쉽다. 이 논문이 진짜로 다루는 문제는 bit-width 자체보다 residual binary path의 역할 붕괴다.

Residual binarization의 이상적인 그림은 단순하다. 첫 번째 binary path가 full-precision weight의 큰 구조를 잡고, 두 번째 path가 첫 번째 path가 놓친 residual error를 보정한다. 하지만 standard QAT에서는 여러 path가 동시에 global loss gradient를 받는다. 그러면 각 path가 서로 다른 error를 보완하기보다, 같은 feature를 중복해서 배우는 방향으로 co-adaptation이 생긴다.

논문은 이 현상을 inter-path adaptation이라고 부른다. RaBiT의 핵심은 각 binary path를 독립적으로 학습하지 않고, 하나의 shared full-precision weight에서 순차적으로 유도하는 것이다.

1. Problem Setting

1-1. Problem definition

LLM을 실제로 서빙하려면 memory, bandwidth, latency를 줄여야 한다. 4-bit quantization은 이미 널리 쓰이지만, 더 작은 edge나 high-throughput serving을 생각하면 2-bit regime이 중요해진다.

하지만 2-bit는 4-bit보다 훨씬 어렵다.

• Weight approximation error가 커진다.
• Activation과 logit distribution이 더 쉽게 깨진다.
• Standard PTQ만으로는 성능 손실이 크다.
• QAT를 하더라도 optimization instability가 커진다.
• Hardware efficiency와 accuracy가 서로 충돌한다.

2-bit quantization에는 대략 두 방향이 있다.

1. Vector Quantization 계열
   • 정확도는 좋을 수 있다.
   • 하지만 lookup table, codebook, rotation, hardware-specific overhead가 생긴다.
2. Binary or residual binary 계열
   • binary matrix와 scaling으로 matmul-free inference를 노릴 수 있다.
   • 하지만 accuracy preservation이 어렵다.

RaBiT는 두 번째 방향을 밀어붙인다. 즉 정확도만 보지 않고, binary path를 활용해 실제 inference 효율을 얻으려 한다.

1-2. Why previous approaches are insufficient

Residual binarization은 여러 binary path를 쌓아 effective precision을 높인다.

단순화하면 effective weight는 다음처럼 볼 수 있다.

\[W_eff = B_1 + B_2\]

여기서 $B_1$과 $B_2$는 각각 scaling을 가진 binary path다. 이상적으로는 $B_2$가 $B_1$의 residual error를 보정해야 한다.

문제는 standard QAT에서 이 역할 분담이 자동으로 생기지 않는다는 점이다. 각 path가 독립 latent weight를 갖고 같은 global objective를 동시에 최적화하면, path들이 서로 다른 error component를 맡기보다 redundant representation을 배울 수 있다.

이 결과 residual hierarchy가 깨진다.

• Path들이 서로 비슷한 feature를 배운다.
• Error cancellation이 약해진다.
• 2-bit 표현력이 실제보다 낮아진다.
• 성능을 보존하려고 path freezing 같은 heuristic을 쓰게 된다.

RaBiT는 path freezing을 쓰지 않는다. 대신 path가 residual hierarchy를 따르도록 training process 자체를 바꾼다.

2. Core Idea

2-1. Main contribution

RaBiT의 핵심은 single shared full-precision weight를 anchor로 두고, binary path를 매 forward pass에서 순차적으로 다시 유도하는 것이다.

2-bit case를 단순화하면 다음과 같다.

1. Shared weight $W$를 직접 binarize해 첫 번째 binary path $B_1$을 만든다.
2. Residual error $R_1 = W - B_1$을 계산한다.
3. 이 residual을 다시 binarize해 두 번째 binary path $B_2$를 만든다.
4. 최종 effective weight는 $B_1 + B_2$로 쓴다.
5. Scaling vector는 path별로 learnable parameter로 둔다.

이 방식의 중요한 차이는 binary core가 independent latent weight에서 나오지 않는다는 점이다. 모든 path가 하나의 shared weight를 기준으로 residual relation을 갖는다. 그래서 두 번째 path는 첫 번째 path와 경쟁하지 않고, 첫 번째 path가 남긴 error를 설명하는 역할을 갖는다.

논문은 여기에 function-aware initialization을 붙인다. 2-bit QAT는 초기값에 매우 민감하기 때문에, 단순히 weight value를 잘 근사하는 것보다 model functionality를 유지하는 초기 분해가 중요하다.

2-2. Design intuition

RaBiT의 설계 직관은 residual model의 원래 약속을 지키게 만드는 것이다.

Residual path가 여러 개 있다는 것은 각 path가 같은 일을 반복하라는 뜻이 아니다. 첫 path가 coarse approximation을 하고, 다음 path가 residual error를 보정해야 한다. 그런데 standard QAT는 이 구조적 역할을 loss 하나에 맡긴다. 그 결과 path가 서로 redundant해질 수 있다.

RaBiT는 이를 architecture-level constraint가 아니라 training-time derivation rule로 해결한다. Inference 때는 path들이 parallel하게 실행되지만, training 때는 path derivation이 순차적이다.

이 차이가 중요하다.

• Training에서는 residual hierarchy를 강제한다.
• Inference에서는 binary path를 병렬로 실행한다.
• Shared full-precision weight는 training anchor로 쓰고, inference에서는 버릴 수 있다.
• Optimizer state도 independent path weight를 갖는 경우보다 줄어든다.

즉 RaBiT는 training dynamics와 inference kernel을 분리해서 설계한다.

3. Architecture / Method

3-1. Overview

Item	Description
Goal	2-bit residual binary LLM의 accuracy-efficiency trade-off 개선
Key problem	Inter-path adaptation
Core method	Shared FP weight에서 binary paths를 residual-aware하게 순차 유도
Training	Quantization-aware training plus knowledge distillation
Initialization	Iterative Residual SVID plus I/O Channel Importance-Scaled Preconditioning
Inference	Packed binary path로 matmul-free execution

3-2. Module breakdown

1) Binary building block

Binary layer는 weight matrix를 binary core와 scaling vector로 근사한다. Binary core는 addition과 subtraction 중심으로 계산할 수 있어 matmul-free kernel을 만들 수 있다.

단일 binary path는 표현력이 제한된다. 그래서 2-bit에 가까운 effective precision을 만들기 위해 residual binary paths를 여러 개 쌓는다. 이때 각 path가 서로 다른 error component를 담당해야 한다.

2) Coupled forward pass

RaBiT의 coupled forward pass는 path를 독립적으로 두지 않는다.

2-bit 예시는 다음과 같다.

• Path 1 derivation: shared weight에서 첫 binary approximation을 만든다.
• Residual calculation: shared weight와 path 1 approximation의 차이를 계산한다.
• Path 2 derivation: residual을 binarize해 두 번째 path를 만든다.
• Effective weight: 두 path의 reconstruction을 합친다.

여기서 binary core는 매 forward pass에서 shared weight로부터 derive된다. 반면 scaling vector는 learnable parameter로 유지된다. 모든 것을 매번 closed-form으로 다시 계산하면 비용이 크기 때문에, scale은 optimizer가 학습하게 한다.

3) Backward pass and parameter update

Backward에서는 final effective weight에 대한 gradient가 shared weight로 전달된다. 이는 전체 coupled derivation process에 대한 straight-through estimator처럼 동작한다.

중요한 점은 shared weight가 하나라는 것이다. Independent latent weights를 path마다 들고 있지 않으므로, optimizer state memory가 줄어든다. 논문은 single-weight design이 optimizer state memory를 50% 줄인다고 설명한다.

4) Stable initialization

RaBiT는 2-stage initialization을 사용한다.

1. Iterative Residual SVID
   • Binary paths가 target matrix를 joint approximation하도록 반복적으로 refine한다.
   • Greedy decomposition의 초기 path bias를 줄이려는 목적이다.
2. I/O Channel Importance-Scaled Preconditioning
   • Weight error가 functional output에 미치는 영향을 고려한다.
   • Input activation magnitude와 output gradient magnitude를 사용해 중요한 channel을 더 잘 보존한다.

이 부분은 단순한 weight approximation이 아니다. 논문은 function preservation을 강조한다. 2-bit에서는 weight distance가 작아도 model output이 크게 깨질 수 있기 때문에, 어떤 channel error가 실제 function에 중요한지 봐야 한다.

4. Training / Data / Recipe

4-1. Data

RaBiT는 Llama2, Llama3, Gemma3, Qwen3 model family를 대상으로 평가된다. QAT에는 WikiText-2와 C4를 결합한 calibration dataset이 사용되며, 원문은 200 million tokens를 사용한다고 설명한다.

평가는 크게 두 축이다.

• Language modeling perplexity: WikiText-2, C4
• Downstream zero-shot QA average: HellaSwag, PIQA, WinoGrande, ARC-e, ARC-c

추가로 BBH, GPQA, MMLU-Pro, IFEval 같은 더 어려운 reasoning 및 instruction following benchmark도 본다.

4-2. Training strategy

Training은 QAT와 knowledge distillation을 결합한다.

• Full-precision model을 teacher로 둔다.
• Quantized model이 teacher의 output behavior를 따라가도록 한다.
• Objective는 output logit KL divergence와 intermediate MSE loss를 결합한다.
• Muon optimizer로 6 epoch training한다.
• Function-aware initialization을 사용해 QAT 초반 불안정성을 낮춘다.

이 구조에서 중요한 것은 standard QAT와 RaBiT의 차이다. Standard QAT는 path별 independent latent weight가 global loss를 동시에 받는다. RaBiT는 shared weight에서 residual path를 derive하므로, path가 자연스럽게 error compensation hierarchy를 갖게 된다.

4-3. Engineering notes

실제 implementation에서 볼 포인트는 다음과 같다.

1. Training-time weight와 inference-time weight가 다르다.
   • Training에서는 shared full-precision weight가 anchor다.
   • Inference에서는 trained binary cores와 scales만 사용한다.
2. Kernel이 성능의 일부다.
   • Binary quantization은 이론적으로 빠르지만, 실제 speedup은 packed kernel과 memory layout에 달려 있다.
   • 논문은 RTX 4090에서 kernel latency와 end-to-end decoding throughput을 함께 보고한다.
3. Scale parameter가 중요하다.
   • Binary core만으로는 표현력이 부족하다.
   • Per-channel scale이 path별 magnitude를 조정하며 실제 accuracy를 지탱한다.
4. Initialization은 optional trick이 아니다.
   • 2-bit QAT는 시작점에 매우 민감하다.
   • RaBiT의 ablation에서도 coupled QAT가 가장 큰 요인이지만, initialization components가 final PPL을 추가로 개선한다.

5. Evaluation

5-1. Main results

RaBiT는 2-bit setting에서 기존 matmul-free binary or residual methods를 크게 앞서고, 일부 VQ 계열과도 competitive한 결과를 보인다.

대표적으로 Llama2-7B 2-bit 결과에서 RaBiT는 WikiText-2 PPL 5.78, C4 PPL 7.64, zero-shot QA Avg 61.51을 보인다. 같은 table에서 QTIP은 WikiText-2 PPL 5.86, QA Avg 58.97이다. 즉 RaBiT는 binary efficiency를 유지하면서 VQ 계열과 비교 가능한 accuracy를 보인다고 해석할 수 있다.

Gemma3와 Qwen3 계열에서도 RaBiT는 state-of-the-art 또는 competitive한 perplexity와 zero-shot QA 결과를 보인다. 예를 들어 Qwen3-4B 2-bit에서는 QA Avg 66.66으로 DBF 66.01, QTIP 66.13보다 높게 보고된다.

Harder benchmark에서도 Llama2-13B 기준 RaBiT는 BBH, GPQA, MMLU-Pro, IFEval 평균에서 QTIP보다 높은 값을 보인다. 원문은 이를 delicate internal representation preservation의 evidence로 해석한다.

5-2. What really matters in the experiments

이 논문에서 가장 중요한 결과는 단순히 PPL이 낮다는 것이 아니다. 핵심은 accuracy와 hardware-friendly structure를 동시에 본다는 점이다.

VQ 계열은 accuracy가 좋을 수 있지만, lookup이나 rotation 때문에 hardware overhead가 생길 수 있다. Residual binary 계열은 kernel이 효율적일 수 있지만 accuracy가 무너질 수 있다. RaBiT는 이 둘 사이에서 binary execution path를 유지하면서 accuracy gap을 줄이려 한다.

Inference 성능도 중요한 결과다. 원문은 NVIDIA RTX 4090에서 Llama2-7B end-to-end decoding throughput을 측정하고, 2-bit RaBiT가 FP16 대비 4.49x speedup을 보인다고 보고한다.

다만 이 수치는 hardware, kernel implementation, batch size, sequence length, cache behavior에 의존한다. 따라서 일반화된 speed claim으로 읽기보다, packed binary kernel이 제대로 구현되면 실질적인 system gain이 가능하다는 evidence로 보는 편이 안전하다.

6. Limitations

1. QAT 비용이 필요하다.
   • PTQ처럼 바로 적용하는 방법이 아니다.
   • Calibration data와 training compute가 필요하다.
2. Kernel dependency가 크다.
   • Binary model의 이론적 효율은 실제 kernel이 받쳐줄 때만 실현된다.
   • Different GPU, CPU, accelerator에서는 성능이 달라질 수 있다.
3. 2-bit model은 여전히 full-precision model보다 손실이 있다.
   • RaBiT가 accuracy frontier를 밀지만, FP16을 완전히 대체한다고 볼 수는 없다.
   • 특히 instruction following이나 domain-specific task에서는 추가 검증이 필요하다.
4. Scaling vector overhead가 남는다.
   • Nominal 2-bit라도 scale parameter storage가 추가된다.
   • 논문은 effective bit-width를 함께 고려하지만, deployment system에서는 layout과 memory alignment를 따로 봐야 한다.
5. Fine-tuned model과 serving stack 통합이 필요하다.
   • 실제 production에서는 quantization format, kernel, scheduler, KV cache, batching이 함께 맞아야 한다.
   • RaBiT method만으로 전체 serving latency가 자동으로 줄어드는 것은 아니다.

7. My Take

7-1. Why this matters for my work

RaBiT의 핵심은 2-bit quantization 결과보다 inter-path adaptation이라는 failure mode를 명확히 잡은 데 있다.

Quantization 논문을 보면 종종 final PPL이나 benchmark table만 보게 된다. 하지만 RaBiT는 왜 residual binary path가 기대만큼 작동하지 않는지 training dynamics 관점에서 설명한다. Parallel path가 모두 같은 global loss를 받으면, 서로 보완하는 대신 같은 feature를 배우는 문제가 생긴다는 해석은 다른 residual or ensemble-like compression 구조에도 적용 가능해 보인다.

7-2. Reuse potential

재사용 가능한 포인트는 세 가지다.

1. Residual hierarchy를 training rule로 강제하기
   • Architecture가 residual이라고 해서 자동으로 error correction이 생기지는 않는다.
   • Derivation rule이 residual relation을 보장해야 한다.
2. Function-aware initialization
   • Low-bit regime에서는 weight approximation보다 function preservation이 중요하다.
   • Input activation과 output gradient 기반 preconditioning은 다른 compression에도 쓸 수 있다.
3. Accuracy와 kernel efficiency를 같이 평가하기
   • Quantization method는 PPL table만으로 판단하기 어렵다.
   • 실제 serving에서 speedup이 나는지 함께 봐야 한다.

7-3. Follow-up papers

• BitNet, BitNet b1.58, binary transformer 관련 논문
• GPTQ, AWQ, SmoothQuant 등 PTQ 계열 논문
• AQLM, QuIP, QTIP 등 VQ 기반 low-bit quantization 논문
• EfficientQAT, DB-LLM, MBOK, DBF 등 2-bit QAT와 residual binary quantization 논문

8. Summary

• RaBiT는 residual binary LLM에서 path들이 redundant feature를 배우는 inter-path adaptation 문제를 정의한다.
• 해결책은 single shared full-precision weight에서 binary paths를 residual-aware하게 순차 유도하는 coupled QAT다.
• Function-aware initialization은 2-bit QAT의 불안정성을 줄이고, model functionality preservation을 목표로 한다.
• 실험에서는 Llama, Gemma, Qwen 계열에서 2-bit accuracy와 binary efficiency의 trade-off를 개선한다.
• 다만 QAT compute, kernel dependency, deployment stack integration은 실제 적용 시 반드시 따로 검증해야 한다.