QLoRA fait tenir le fine-tuning d’un LLM sur une carte graphique gaming

Fine-tuner un modèle de 8 milliards de paramètres coûtait entre 5 000 et 15 000 $ en GPU cloud il y a deux ans. QLoRA le fait aujourd’hui sur une seule RTX 3090 — la même carte qui fait tourner vos jeux.