Data Scientist в команду LLM Core

Обязанности

• создавать и развивать базовые языковые модели для аудитории Авито;
• формулировать и проверять гипотезы в области претрейна, continual pre-training, post-training, Reinforcement Learning, синтетических данных и архитектур моделей;
• самостоятельно вести сложные исследовательские и инженерные задачи: от постановки цели, выбора метрик и дизайна экспериментов до реализации, анализа результатов и внедрения;
• масштабировать обучение и инференс: профилировать узкие места, повышать эффективность распределенного обучения и инференса, работать с квантованием, speculative decoding и современными inference-движками;
• строить надежные процедуры оценки качества, проводить анализ ошибок, находить регрессии и проектировать датасеты и метрики для сравнения моделей по качеству, latency и стоимости;
• писать продакшен-код на Python и PyTorch, проводить code review, улучшать воспроизводимость экспериментов, надежность и поддерживаемость Machine Learning-решений;
• делиться знаниями, менторить менее опытных коллег, участвовать в архитектурных обсуждениях и внутренних Large Language Model-семинарах;
• масштабировать базовую модель A-vibe: исследовать новые архитектуры и подходы к обучению;
• оптимизировать скорость и стоимость инференса высоконагруженных моделей в продакшене;
• проектировать и помогать разрабатывать внутренние Large Language Model-платформы и мультиагентные системы;
• строить надежную инфраструктуру для оценки качества моделей.

Требования

• глубоко понимать современные Machine Learning-алгоритмы, Transformer и принципы обучения Large Language Model;
• иметь практический опыт обучения, адаптации или внедрения Natural Language Processing-моделей и уметь превращать идеи в проверяемые эксперименты;
• уметь самостоятельно работать с неопределенностью: декомпозировать проблему, выбирать метрики, анализировать результаты и принимать технические решения;
• уверенно писать на Python, хорошо знать PyTorch и инженерные практики разработки;
• понимать компромиссы между качеством, latency, throughput и стоимостью и учитывать их при выборе решения;
• работать с continual pre-training, заменой или расширением токенизатора, Supervised Fine-Tuning, Low-Rank Adaptation либо Reinforcement Learning-подходами к post-training (желательно);
• иметь опыт распределенного обучения или оптимизации инференса и быть знакомым с такими инструментами, как DeepSpeed, vLLM, SGLang или TensorRT-LLM (желательно);
• строить пайплайны оценки качества, синтетические датасеты или системы автоматического анализа ошибок моделей (желательно);
• работать с MLOps-инструментами для трекинга экспериментов и версионирования данных и моделей: Weights & Biases, MLflow, DVC или аналогами (желательно);
• публиковать исследования, участвовать в open source-проектах или занимать высокие места в соревнованиях по машинному обучению (желательно).

Условия

• возможность влиять на продукт: ваши решения будут улучшать опыт миллионов пользователей;
• сложные технологические задачи на большом масштабе;
• мощное железо: доступ к производительным Graphics Processing Unit-кластерам для экспериментов;
• сильное комьюнити: команда экспертов, с которой можно обсуждать идеи и подходы;
• развитие: бюджет на обучение, курсы, конференции и профессиональную литературу;
• забота о здоровье: ДМС со стоматологией с первого дня, в офисе принимают терапевт и массажист;
• гибкость: возможность работать удаленно или из офисов в 4 городах России.