AWQ, 양자화 방법
2023년 공개된 기법이에요. 주요 가중치를 보호하면서 4비트로 압축합니다. GPTQ와 함께 오픈소스 모델 양자화의 표준이 됐어요.
- 01
2023년 공개된 기법이에요. 주요 가중치를 보호하면서 4비트로 압축합니다. GPTQ와 함께 오픈소스 모델 양자화의 표준이 됐어요.
2023년 공개된 기법이에요. 주요 가중치를 보호하면서 4비트로 압축합니다. GPTQ와 함께 오픈소스 모델 양자화의 표준이 됐어요.
2023년 공개된 기법이에요. 주요 가중치를 보호하면서 4비트로 압축합니다. GPTQ와 함께 오픈소스 모델 양자화의 표준이 됐어요.