Какую архитектуру эмбеддингов вы построили для RAG: обычный retrieval pipeline или что-то сложнее?
Банк вопросов из реальных собеседований
Направления, темы и вопросы из записей интервью. Фильтры ниже сохраняются в ссылке.
Проектирование ML-систем
258 вопросов из реальных интервью
Модель модерации работает в production. Какие метрики смотреть offline, online и после запуска, чтобы контролировать качество и нагрузку на ручную проверку?
После базовых latency-вопросов интервьюер спрашивает: какие еще аномалии можно заметить в market-data файле?
Есть исторические сделки, логи платформы, больше миллиона поставщиков и около 100 компаний-заказчиков. Какие данные использовать и как масштаб влияет на архитектуру?
Нужно построить модель для оценки или подсказки цены second-hand объявления в marketplace. Какие признаки и baseline стоит предложить?
Какие факты из PDF-отчетов компаний полезны для прогноза добычи, и как отличать их от шумного текста?
После запуска MVP какие события и признаки нужно собирать, чтобы обучить модель ранжирования user-video?
Какие типовые проблемы рекомендательных систем ты бы назвал и как их можно измерять или снижать?
Какие практические техники prompt engineering помогают получать стабильный и проверяемый ответ от LLM?
Какие catalog features нужны для рекомендаций в корзине и какие проблемы бывают с категориями товаров?
Когда стоит использовать классический batch ETL, а когда streaming для рекомендаций, аналитики или ML-фичей?
Как решить, дообучать LLM или ограничиться prompt engineering/RAG, и что меняется при LoRA adapters?
В поиске есть embeddings и полнотекстовый индекс. Когда использовать оба подхода и как их объединять?
В продукте есть поиск по документам/артефактам. Когда использовать full-text, когда векторный поиск, и зачем может понадобиться hybrid retrieval?
Какие метрики использовать для recommender в marketplace, где клики, контакты, сделки и seller exposure имеют разные цели?
Какие offline, online и guardrail-метрики подходят для блока рекомендаций в корзине, если клики не равны покупке?
Как оценивать качество поиска или RAG-системы offline и online?
Как выбрать thresholds для предупреждения о phishing и какие метрики мониторить в production?
Проектируем ML для поиска на маркетплейсе. Какие бизнес, online и offline метрики выбрать?
Мониторинг drift данных и реакция с переобучением
Расскажи, какие классы моделей есть в рекомендательных системах и где они обычно применяются.
Какие подходы к рекомендациям можно использовать и как выбирать между заранее посчитанными результатами и онлайн-инференсом, если важны задержка, RPS и качество?
Оптимизация стоимости ASR и LLM-инференса для звонков
Есть response-модель для разных вариантов доставки. Как выбрать итоговую цену или минимальную сумму заказа?