Open Source
QLoRA: ajuste fino de modelos grandes em uma única GPU
O QLoRA combina quantização em 4 bits com adaptadores LoRA. Com isso, modelos de dezenas de bilhões de parâmetros podem ser ajustados em uma só placa.
@raulelgreco1 min de leitura
Mesmo com LoRA, carregar um modelo de 65 bilhões de parâmetros para treino exige várias GPUs. O QLoRA, de Dettmers e colegas (2023), reduziu essa barreira.
Três peças
- Quantização em 4 bits do modelo congelado, com um formato (NF4) pensado para a distribuição típica dos pesos.
- Dupla quantização: até as constantes da quantização são comprimidas.
- Otimizadores paginados, que evitam estouro de memória em picos.
Os adaptadores LoRA continuam sendo treinados em precisão maior, enquanto o modelo-base fica comprimido.
Resultado
Os autores ajustaram um modelo de 65 bilhões de parâmetros em uma única GPU de 48 GB, com qualidade próxima à do ajuste fino em 16 bits. O trabalho ampliou muito o acesso: pesquisadores e pequenas equipes passaram a personalizar modelos grandes com hardware modesto.
Foto: Florian Olivo / Unsplash.