GPTQ, 4비트 양자화 도구
2022년 공개된 학습 후 양자화 기법이에요. 가중치를 3비트나 4비트 등으로 줄여 메모리 사용량을 낮춥니다. 정확도 손실은 모델과 설정마다 달라서 실제 작업으로 평가해야 합니다.
- 01
2022년 공개된 학습 후 양자화 기법이에요. 가중치를 3비트나 4비트 등으로 줄여 메모리 사용량을 낮춥니다. 정확도 손실은 모델과 설정마다 달라서 실제 작업으로 평가해야 합니다.
2022년 공개된 학습 후 양자화 기법이에요. 가중치를 3비트나 4비트 등으로 줄여 메모리 사용량을 낮춥니다. 정확도 손실은 모델과 설정마다 달라서 실제 작업으로 평가해야 합니다.
2022년 공개된 학습 후 양자화 기법이에요. 가중치를 3비트나 4비트 등으로 줄여 메모리 사용량을 낮춥니다. 정확도 손실은 모델과 설정마다 달라서 실제 작업으로 평가해야 합니다.