Чем предстоит заниматься:
- Развёртывание приватных LLM на собственной инфраструктуре
- Тонкая настройка и дообучение моделей под конкретные цели
- Интеграция моделей в проекты разных направлений (B2B и B2C)
- Оптимизация производительности и сопровождение пайплайна
- Участие в формировании подходов к использованию LLM в разных отраслях
Требования:
- Fine-tuning open-source LLM
- Работа с моделями LLaMA, DeepSeek, Mistral, Yi, Qwen и другими
- Интеграция LLM в продукты, разработка AI-агентов
- Настройка inference и оптимизаций (в том числе quantization и ускорение вывода)
- Знание стеков Python/PyTorch, опыт работы с инфраструктурой под модели