Банк вопросов из реальных собеседований

Как dropout ведёт себя при обучении и при выводе модели? Зачем требуется масштабирование и что называют inverted dropout?

Что такое receptive field в CNN? Какой receptive field у одной свертки 5x5 и у двух последовательных 3x3, и где меньше параметров?

Назовите специфичные для нейросетей способы борьбы с переобучением. Какие способы аугментации данных можно использовать в Computer Vision?

Как бороться с переобучением модели? Чем может быть опасна синтетика и зачем нужен разбиение данных?

Что такое семантическая сегментация? Чем она отличается от instance segmentation? Как работает свертка в CNN?

Что такое токенизация и зачем она нужна в задачах обработки текста? Чем отличаются Bag of Words, TF-IDF и эмбеддинги, например word2vec?

Интервьюер спрашивает: если рассматривать логистическую регрессию, чем она похожа на линейную и чем отличается?

Чем bagging отличается от boosting, где применяются random forest и gradient boosting, и что сказать про склонность к переобучению?

Чем отличаются bagging и gradient boosting? Что будет, если убрать одно дерево из Random Forest и из gradient boosting, и как деревья могут переобучаться на редких категориальных признаках?

Почему Random Forest обычно снижает variance по сравнению с одним деревом и какие trade-offs остаются?

Как CatBoost кодирует категориальные признаки и почему это не дает leakage?

Как работает CLIP-модель и как она обучается? В чем на верхнем уровне отличие SigLIP от классического CLIP?

Есть модель для first-person VR/fisheye, а нужно работать на flat third-person видео. Как переносить качество?

Почему feature importance может обманывать, если признаки сильно коррелируют?

Как использовать графовые модели в рекомендациях? В чем отличие GCN от GraphSAGE и neighbor sampling подходов?

В детекции объектов почему для регрессии рамок часто используют loss на основе IoU, а не обычный MSE по координатам углов рамки?

Как сделать рекомендации сочетаемой одежды: embeddings, ограничения по категориям, nearest neighbors и reranker?

Что сказать про линейное программирование, simplex-метод и жадные алгоритмы, если спрашивают на техническом ML-интервью?

Как связаны matrix equation, least squares, gradient descent и L1/L2 regularization?

Как построить logo detection для множества брендов и вариантов логотипов, если ручная bbox-разметка дорогая?

Что такое LoRA? Почему она полезна для дообучения больших моделей? Как обычно инициализируют низкоранговые матрицы, чтобы не исказить базовую модель на старте?

Опиши механизм LoRA. Если LoRA и classic adapters дают одинаковое качество, что выбрать для inference?

Чем LoRA отличается от полного fine-tuning, какие ограничения появляются при multi-GPU обучении LLM и чем RLHF-подход отличается от классического RL?

What should the output schema of an automatic task checker look like if humans also produce lists of found errors?