Банк вопросов из реальных собеседований

A production service already has data, but you need to change the database schema. Describe a safe миграцию.

Explain the difference between a Kubernetes pod, service, deployment and node.

A deployed ML service has 300 ms latency, but the product now needs 30 ms. What do you investigate and what optimizations can you try?

Explain at a high level how TensorRT or similar inference optimizers speed up neural networks, and why INT8 quantization usually needs calibration.

After launching a feed recommender, how do you decide when and how to retrain the models?

When would you choose a columnar database over Redis, MongoDB or a row-oriented relational database for ML/data pipelines?

What mechanisms would you add so important ML datasets do not disappear because of human error or operational mistakes?

A speech-AI pipeline needs fast analytical queries over training-data processing events. What requirements would you give DevOps before asking for ClickHouse?

A neural network inference pipeline is too slow. What optimizations would you consider before changing the model architecture?

How can you increase LLM serving throughput or batch size on the same GPU without buying a larger GPU?

You have a multi-GPU server and want to host one or more open-source LLMs. What software stack and design choices would you use?

Как сравнивать архитектурные варианты recommender-системы и выбрать устойчивый вариант?

Как выбрать FAISS, HNSW-based CPU индекс, Redis, Qdrant или Elasticsearch для поиска ближайших embedding? Какие параметры и метрики смотреть?

Как выбирать production-модель для marketplace pricing/recommendation задачи, если offline score у сложной модели выше?

Для редких дорожных сценариев можно генерировать synthetic/simulation data. Где главный bottleneck и как использовать такие данные в retrieval-системе?

В MoE LLM где обычно находится Mixture of Experts: в каком слое Transformer и зачем это делают?

LLM-сервис стал медленнее, хуже или дороже. Какие проверки делать?

Как построить архитектуру поиска: от первичных кандидатов до финального ранжирования?

Где провести границу между продуктовым backend, ML-сервисом, feature store и business rules?

Как объяснить, где заканчивается item-to-item рекомендация к корзине и начинается персонализированный user recommender?

Курьеры закреплены за юнитом и зоной, а pricing-система не управляет расписанием. Как это ограничение должно повлиять на дизайн ML решения?

Какие группы признаков стоит назвать в RecSys ML System Design: user, item, context и инженерные фичи?

Где брать positive/negative examples для рекомендательной системы и что считать ground truth?

Для чего нужны positional embeddings и какие виды positional embeddings используются в LLM?