Senior GenAI / LLMOps Engineer

Nasz Klient to duża organizacja rozwijająca rozwiązania z obszaru sztucznej inteligencji oraz budująca standardy bezpiecznego i skalowalnego wykorzystania Generative AI w środowisku enterprise. Projekt koncentruje się na budowie technicznych fundamentów umożliwiających efektywne wykorzystywanie modeli Large Language Models przez aplikacje i zespoły developerskie.

Zakres obowiązków

• Projektowanie i rozwój bezpiecznej warstwy dostępu do modeli LLM, w tym rozwiązań klasy LLM Gateway.
• Rozwój integracji API z modelami LLM, obejmujących mechanizmy uwierzytelniania, autoryzacji i routingu.
• Budowanie mechanizmów observability dla środowiska GenAI, w tym monitoring wykorzystania modeli i kosztów.
• Realizacja technicznych Proof of Concept oraz analiza nowych modeli i narzędzi GenAI.
• Współpraca z zespołami DevOps, Cloud, Security i Data przy wdrażaniu zasad AI Governance.

Wymagania

• Praktyczne doświadczenie projektowe z Generative AI oraz udział w budowie rozwiązań wykorzystujących modele językowe.
• Bardzo dobra znajomość integracji z modelami LLM poprzez API oraz architektury rozwiązań enterprise.
• Doświadczenie w obszarze LLMOps, w tym w monitoringu i zarządzaniu modelami.
• Znajomość mechanizmów API Gateway, uwierzytelniania oraz observability.
• Dobra znajomość ekosystemu modeli LLM, w tym OpenAI, Anthropic, Google oraz modeli open-source.
• Znajomość SQL oraz doświadczenie w samodzielnej realizacji eksperymentów technicznych.

Co oferujemy

• Praca przy budowie fundamentów środowiska GenAI, od LLM Gateway po optymalizację kosztów.
• Hands-on charakter współpracy z przestrzenią na samodzielne eksperymenty i wdrażanie nowych rozwiązań.
• Współpraca z doświadczonymi zespołami DevOps, Cloud, Security, Data i Architecture.
• W pełni zdalny model współpracy.