LoRA и нулевая начальная добавка
Что такое LoRA? Почему она полезна для дообучения больших моделей? Как обычно инициализируют низкоранговые матрицы, чтобы не исказить базовую модель на старте?
Ответьте как на собеседовании
Ответьте вслух или запишите короткие тезисы. Поле необязательно — разбор откроется после попытки.