Архитектор LLMaaS

Ищем архитектора LLMaaS для развития платформы на базе больших языковых моделей в крупном российском банке.

Нужен сильный инженер с архитектурным мышлением, который понимает устройство LLM, умеет проектировать сложные системы с нуля и способен довести решение от концепции до реализации.

Чем предстоит заниматься:

• Проектировать архитектуру платформы LLMaaS и отдельных сервисов с нуля.

• Анализировать требования, формировать архитектурные решения и выявлять ограничения и узкие места.

• Прорабатывать сценарии работы LLM-сервисов, интеграции, масштабирование и отказоустойчивость.

• Готовить архитектурную и техническую документацию, схемы интеграций и потоков данных.

• Учитывать требования информационной безопасности и корпоративные стандарты.

• Защищать архитектурные решения на технических и архитектурных комитетах.

• Взаимодействовать с разработкой, ML/MLOps, ИБ и другими стейкхолдерами.

• Сопровождать реализацию архитектуры и контролировать соответствие решения целевой модели.

Что важно:

• Сильная инженерная база и опыт проектирования сложных ИТ-систем.

• Глубокое понимание LLM: контекстное окно, токенизация, inference, KV-cache, streaming, batching, очереди, cold/hot start, масштабирование и стоимость инференса.

• Понимание подходов к мониторингу качества генераций.

• Концептуальное понимание ML/MLOps; практический опыт будет плюсом.

• Опыт работы в крупных компаниях со сложными процессами согласования, ИБ и большим количеством стейкхолдеров.

• Хороший технический кругозор и понимание российского IT-ландшафта: отечественное ПО, импортозамещение, российские облака, контейнеризация, СУБД.

• Умение работать с неопределённостью и самостоятельно формировать архитектурные решения.

• Сильные навыки технической коммуникации и аргументации.

Будет плюсом:

• Практический опыт проектирования или эксплуатации LLM-платформ.

• Опыт работы с MLOps/ML-инфраструктурой.

• Опыт прохождения архитектурных и технологических комитетов в крупных организациях.

Главное: ищем не архитектора «по документам», а инженера, который понимает, как работают LLM, умеет спроектировать платформу с нуля и довести архитектурное решение до реализации.

Мы предлагаем:

• Стабильную заработную плату;

• Удаленный формат работы;

• Возможность напрямую влиять на развитие продукта;

• Полностью собственный продукт без аутсорса и внешних подрядчиков;

• Сильную продуктовую команду: разработка, дизайн, тестирование, продукт и собственное AI-направление;

• Минимум бюрократии и быстрые решения;

• Возможность участвовать в развитии продукта федерального масштаба;

• Профессиональный рост вместе с развитием платформы.