Банк вопросов из реальных собеседований

A speech-AI pipeline needs fast analytical queries over training-data processing events. What requirements would you give DevOps before asking for ClickHouse?

A neural network inference pipeline is too slow. What optimizations would you consider before changing the model architecture?

How can you increase LLM serving throughput or batch size on the same GPU without buying a larger GPU?

You have a multi-GPU server and want to host one or more open-source LLMs. What software stack and design choices would you use?

Как сравнивать архитектурные варианты recommender-системы и выбрать устойчивый вариант?

Как выбрать FAISS, HNSW-based CPU индекс, Redis, Qdrant или Elasticsearch для поиска ближайших embedding? Какие параметры и метрики смотреть?

Как выбирать production-модель для marketplace pricing/recommendation задачи, если offline score у сложной модели выше?

Для редких дорожных сценариев можно генерировать synthetic/simulation data. Где главный bottleneck и как использовать такие данные в retrieval-системе?

В MoE LLM где обычно находится Mixture of Experts: в каком слое Transformer и зачем это делают?

LLM-сервис стал медленнее, хуже или дороже. Какие проверки делать?

Как построить архитектуру поиска: от первичных кандидатов до финального ранжирования?

Где провести границу между продуктовым backend, ML-сервисом, feature store и business rules?

Как объяснить, где заканчивается item-to-item рекомендация к корзине и начинается персонализированный user recommender?

Курьеры закреплены за юнитом и зоной, а pricing-система не управляет расписанием. Как это ограничение должно повлиять на дизайн ML решения?

Какие группы признаков стоит назвать в RecSys ML System Design: user, item, context и инженерные фичи?

Где брать positive/negative examples для рекомендательной системы и что считать ground truth?

Для чего нужны positional embeddings и какие виды positional embeddings используются в LLM?

Заказчик может удалить предложенных поставщиков и добавить своих. Как объяснить ценность рекомендательной системы в таком продукте и какие метрики из этого следуют?

Нужно объяснить архитектуру LLM-агента: какие основные блоки нужны, где хранится контекст и как агент вызывает инструменты.

Как обработать новый закупочный запрос и что делать с новыми закупщиками, новыми поставщиками и редкими категориями?

Интервьюер просит объяснить базовый inference loop LLM: что подается на вход, что модель возвращает и как получается следующий токен.

Если embeddings, scores или recommendation lists считаются offline и лежат в S3/DWH, как безопасно передать эти результаты backend/serving-слою?

Как visual language model принимает картинку на вход: что делает vision encoder, как появляются visual tokens и как они совмещаются с текстом?

Модель уже умеет предсказывать вероятность возврата. Как ее применить в продукте и где хранить признаки?