Platform Engineer z AI/LLM

Job Description

umowa B2Bkontrakt na 12 miesięcypraca zdalnastart ASAPobowiązkowy stand-up o 8:00praca z terenu Uni EuropejskiejDołącz do projektu budowy centralnej platformy AI, która będzie wykorzystywana przez ponad 150 zespołów developerskich. Celem jest zapewnienie wspólnej warstwy AI Infrastructure oraz Security & Governance dla produktów rozwijanych w organizacji. Projekt znajduje się na etapie greenfield, jednak część komponentów jest już zbudowana w środowiskach Azure i AWS. Obecnie brak warstwy self-hosted oraz pełnej telemetrii. Dostępne są już bazy danych oraz interfejs użytkownika. Brak dyżurów on-call i odpowiedzialności za incident management.Główne OdpowiedzialnościProjektowanie, rozwój i utrzymanie runtime'u dla platformy AI.Budowa i utrzymanie komponentów platformowych, takich jak:warstwa LLM Gateway oraz model routing,infrastruktura model serving i inference,warstwa API oraz abstrakcje usług,systemy vector storage i retrieval,warstw cache oraz optymalizacja wydajności.Projektowanie jednolitego interfejsu dostępu do usług AI.Budowa i utrzymanie środowisk opartych na Docker i Kubernetes.Wdrażanie Infrastructure as Code oraz praktyk GitOps.Implementacja monitoringu i telemetrii platformy.Zapewnienie bezpieczeństwa, w tym zarządzania dostępem i ochrony danych.Optymalizacja wydajności i kosztów środowisk AI.Współpraca z zespołami platformowymi oraz deweloperami.Odpowiedzialność za projekt architektury oraz implementację.Wymagania Kluczowe:Doświadczenie w Platform Engineeringu.Bardzo dobra znajomość Kubernetes i Docker.Doświadczenie z CI/CD.Doświadczenie z Terraform oraz Infrastructure as Code.Znajomość architektury platformowej oraz umiejętność projektowania rozwiązań.Doświadczenie doradcze i architektoniczne.Znajomość ekosystemów AI/LLM, w szczególności:model serving,inference,routing modeli,LLM Gateway.Doświadczenie z rozwiązaniami bezpieczeństwa dla AI, np. LLM Guard.Znajomość zagadnień związanych z obserwowalnością, monitoringiem i bezpieczeństwem platform.Doświadczenie w środowiskach hybrydowych i multi-cloud.Wykształcenie wyższe (Bachelor lub Master) w obszarze Computer Science, Engineering lub pokrewnym.