Description du poste
AI Infrastructure / Platform Engineer -- Sovereign AI Lab (On-Prem)
Upscale Paris recherche un consultant pour accompagner un client public dans la mise en place d'un LAB IA souverain on-premise.
Votre rôle : analyser, préconiser et donner la direction technique d'une plateforme IA adaptée aux enjeux du client (coûts, performance, souveraineté).
Vous intervenez sur :
- Le cadrage et la définition d'architectures techniques pour l'équipe qui installe le serveur du Lab
- L'accompagnement à l'installation du serveur Lenovo
- La mise en place d'un environnement IA (Proxmox, Kubernetes, GPU)
- Le déploiement de solutions d'inférence (vLLM, TGI, Ollama)
- L'intégration de briques RAG (vector DB, embeddings)
- L'optimisation des performances et des coûts
Vous accompagnez également les équipes via documentation, transmission et formation.
Environnement : Proxmox, Ceph, Kubernetes, réseau L2-L7, NVIDIA/CUDA, vLLM, Qdrant, PostgreSQL, Prometheus/Grafana, Terraform.
Profil recherché :
Ingénieur infra / platform senior, avec appétence IA, capable de structurer, expliquer et orienter.
Mission majoritairement remote, avec ponctuel sur site. Contexte secteur public.