peft qlora ubuntu 設定

PEFT/QLoRA on Ubuntu — 低メモリでLLMをファインチューニングする実践

「LLMをファインチューニングしてみたい。でもモデルが大きすぎて自分のマシンには乗らない……」という悩み、よく聞きます。QLoRA（Quantized Low-Rank Adaptation）はその問題を解決する手法です。7Bクラスのモデル…