Требования:
- Знание основ NLP и устройство архитектуры Transformer
Стек:
- Docker
- vllm
- pytorch
- faster-whisper
- openai
Будет плюсом:
- Знание kafka, redis, dishka (хотя бы на уровне "слышал про это")
Чем занимается стартап:
Сервис, который в режиме реального времени анализирует диалог двух людей и подсказывает одному из них как вести коммуникацию более эффективно.
Что по архитектуре:
Будет куча локальных клиентов, которые будут слать в DS пайплайн поток сообщений, который стартап будет обрабатывать и подхоранивать, а потом отсылать на бэк результат обработки аудио. Также будет еще блок доп фичей над этими данными (уже в оффлайне). И еще куча сайдовых вещей и интеграций. Проект большой и им нужна хорошая скорость.