Банк вопросов из реальных собеседований

Как выбирать число draft tokens в speculative decoding и почему больше не всегда лучше?

Для audio-event фичи спрашивают: сколько данных нужно для обучения и как решить, когда переключать камеру/устройство на более дорогой режим обработки?

После набора признаков для marketplace pricing/recommendation модели что делать дальше: target, split, baseline, модель и критерий запуска?

Вы обучили и провалидировали ML-модель. Какие файлы и метаданные нужно версионировать, как упаковать сервис и как безопасно выкатить новую версию?

Какие товары нельзя показывать в рекомендациях корзины и где применять эти ограничения в candidate generation/reranking?

В marketplace кейсе модель может score-ить цену, скидку, карусель или промо-тег. Как четко сформулировать output модели и downstream action?

Цели и метрики рекомендательной ленты в банковском приложении

Что вы делаете, когда Airflow DAG-и тормозят, зависают или не укладываются в scheduled window?

Какие подходы есть для обучения большой нейросети на нескольких GPU и чем они отличаются?

В item-item рекомендациях для корзины может не быть соседей: новый товар, редкий товар, новый пользователь или корзина из многих товаров. Какие fallback предусмотреть?

На LLM serving собеседовании спрашивают: знаешь ли ты что-то про FlashAttention? Как объяснить идею без ухода в низкоуровневые детали?

Что для вас надежный pipeline и как проверить, что он действительно надежен?

На собеседовании спрашивают про KV cache в LLM inference. Что это такое, зачем он нужен и какие trade-off появляются в production?

Интервьюер спрашивает, как устроен LLM agent: какие компоненты нужны и чем agent отличается от обычного вызова модели.

Что такое prefill и decode стадии при генерации LLM и почему их важно различать при оптимизации inference?

Интервьюер спрашивает про quantization: зачем она нужна, какие бывают варианты и чем можно заплатить за ускорение.

Как онлайн проверять новую модель выбора контрольных вопросов, если ошибка может пропустить мошенника или заблокировать клиента?

Нужно спроектировать AI-native продукт, который по запросу пользователя генерирует качественные motion graphics. Как выбрать между pipeline и fully agentic архитектурой, как встроить human-in-the-loop evaluation и как управлять trade-off между quality, consistency и latency?

Спроектируйте платформу, где retrieval в основном считается batch, а realtime слой меняет порядок рекомендаций по свежим user interactions.

Как наложить ограничения по категориям и комплементарности, если candidates достаются через ANN по embeddings?

У LLM-agent продукта уже есть offline benchmark: для каждого изменения видно, стала ли метрика лучше или хуже. Как превратить результаты evaluation в цикл улучшения системы, не скатываясь в слепую автоматическую оптимизацию под шумный benchmark?

Спроектируйте систему, которая по фото и метаданным объявления определяет, что в карточке или истории автомобиля появились разные машины.

Deployment, артефакты and format-drift monitoring for document ML

Большая temporal model хорошо ловит события, но слишком дорогая по latency и compute. Как сжать ее для production?