llama-factory

Expert guidance for fine-tuning LLMs with LLaMA-Factory - WebUI no-code, 100+ models, 2/3/4/5/6/8-bit QLoRA, multimodal support

1. Zainstaluj zależności wymagane przez umiejętność: llmtuner, torch, transformers, datasets, peft, accelerate i gradio. Upewnij się, że masz dostęp do repozytorium LLaMA-Factory.

2. Wczytaj umiejętność w swoim agencie lub środowisku Claude/Copilot. Umiejętność zawiera dokumentację zorganizowaną w folderze references/ – pliki getting_started.md, advanced.md, api.md i inne zawierają szczegółowe wyjaśnienia, przykłady kodu i linki do oficjalnej dokumentacji.

3. Zacznij od dokumentacji dla początkujących – przeczytaj getting_started.md, aby zrozumieć podstawowe koncepcje dostrajania modeli LLM i interfejsu WebUI.

4. Wybierz model do dostrajania spośród ponad 100 obsługiwanych modeli (Llama, Qwen, Gemma itp.). Umiejętność pomoże ci skonfigurować parametry kwantyzacji (2/3/4/5/6/8-bitowe QLoRA) odpowiednie dla twojego sprzętu.

5. Przygotuj swoje dane treningowe i użyj interfejsu WebUI do konfiguracji procesu dostrajania. Umiejętność zawiera referencje do zaawansowanych opcji w pliku advanced.md, jeśli potrzebujesz dostosować przepływ pracy.

6. W razie problemów z kodem lub konfiguracją skonsultuj się z umiejętnością – zawiera ona najlepsze praktyki, rozwiązywanie problemów i przykłady implementacji bezpośrednio z oficjalnej dokumentacji LLaMA-Factory.