Чем предстоит заниматься:
- Проверка бизнес-гипотез с использованием LLM на большом количестве данных на кластере с GPU;
- Развитие пайплайна обработки данных и обучения LLM для проведения A/B тестов в продуктах;
- Организация процесса мониторинга качества LLM;
- Тестирование, анализ и ранжирование сильных и слабых сторон различных моделей;
- Участие в формировании требований и необходимых данных по улучшению моделей.
Требования:
- Умение решать на практике NLP задачи с использованием LLM (pytorch, transformers);
- Способность оценивать качество полученного результата генеративных LLM;
- Опыт работы с облачными решениями для запуска ИИ сервисов на GPU;
- Английский язык на уровне чтения технической документации, профильных ресурсов, форумов.
Будет плюсом:
- Опыт работы с фреймворками исполнения LLM (DeepSpeed, ONNX);
- Опыт использования векторных баз данных;
- Опыт работы с Apache Spark/PySpark.