LLM Fine-tuning and Post-training

LoRA, QLoRA, PEFT, SFT, preference optimization and practical risk management for domain adaptation.

Что изучаем

LoRA, QLoRA, PEFT, SFT, preference optimization and practical risk management for domain adaptation.

Что закрываем на этапе

Понять ключевые ограничения архитектуры или пайплайна для данного узла.
Понимать диагностические сигналы в проде и во время разработки.
Знать, где обычно ломается воспроизводимость и как проверять гипотезы.

Как проработать на собеседовании

Готовься не “перечислять термины”, а объяснять причинно-следственные связи между ограничениями системы, выбором решений и компромиссами по латентности, стоимости и надежности.

Материалы

PEFT Documentation — Hugging Face

https://huggingface.co/docs/peft/index

LoRA: Low-Rank Adaptation of Large Language Models

https://arxiv.org/abs/2106.09685

QLoRA: Efficient Finetuning of Quantized LLMs

https://arxiv.org/abs/2305.14314

LLM Scaling and Architecture

LLM serving: KV-cache и батчинг

Назад к программе