Назад к тренажеру

Банк вопросов из реальных собеседований

Направления, темы и вопросы из записей интервью. Фильтры ниже сохраняются в ссылке.

Метрики и A/B

101 вопрос из реальных интервью

Открыть в общем банке
Темы
Сложность
Компания
Язык
Метрики и A/BСредняя
Эффект rich-get-richer в matching-рекомендациях

В дейтинге или matching-продукте топ-профили получают львиную долю показов, а остальные растворяются. Как диагностировать и смягчить этот перекос, не убив вовлеченность?

Метрики моделейЭксперименты и A/B-тесты
GamerAM
Метрики и A/BСложная
A/B-тест и бизнес-метрики видео-ленты

Как проверить, что новая рекомендательная лента работает, и как понять, сколько держать A/B-тест?

Метрики моделейЭксперименты и A/B-тестыПродуктовые метрики
Самокат
Метрики и A/BСложная
Fairness для платных объявлений в marketplace recommendations

В маркетплейсе есть бесплатные и платные объявления. Нужно давать платным больше показов/кликов, но не портить релевантность пользователю. Как решить задачу?

Метрики моделей
OLX
Метрики и A/BСложная
Высокоточная модерация фото авто при редком фроде

Нужно автоматически отклонять объявления, когда признаки с фото авто противоречат введенным пользователем атрибутам. Фрод редкий, а ложные отклонения бьют по пользователям. Как обучать модель, валидировать качество и выбирать пороги?

Метрики моделей
Tochka
Метрики и A/BСложная
Как A/B-тестировать новую карусель или тег Deal of the Day

В marketplace добавляют новую карусель или тег Deal of the Day с модельным отбором объявлений. В A/B выросла конверсия. Как понять, что сработала именно модель, а не просто новый UI/тег?

Метрики моделейЭксперименты и A/B-тестыПродуктовые метрики
OLX
Метрики и A/BСложная
Как оценивать LLM-фичу бизнес-метриками

В команде делают LLM/agent feature. Как выбрать метрики качества, если обычная accuracy не показывает бизнес-ценность?

Метрики моделейЭксперименты и A/B-тесты
Flametree
Метрики и A/BСложная
Обучение pointwise-ранкера без утечек и перекоса в популярные товары

Вы обучаете boosting-ранкер для рекомендаций по кликам и связкам образов. Как собрать датасет, сделать train/validation/test split и не переобучиться на популярные товары и старые показы?

Метрики моделей
T-Bank
Метрики и A/BСложная
Оптимизировать прибыль, а не только покупки

Модель учится на purchase target и поднимает дешевые товары со скидками. Как ранжировать так, чтобы больше зарабатывать?

Метрики моделейПродуктовые метрики
Constructor
Банк вопросов из реальных собеседований — ML Mentor