Au sein des équipes de notre client, acteur majeur de l'électronique et des télécommunications, vous interviendrez sur une plateforme d'IA distribuée en périphérie (edge), où les requêtes d'IA (LLM, OCR, transcription…) sont traitées sur des serveurs répartis au plus près des utilisateurs. Vous serez responsable de la caractérisation des performances d'inférence, pour savoir précisément ce que chaque modèle peut délivrer sur chaque matériel.
Missions
Mise en œuvre et comparaison des moteurs d'inférence (vLLM, TensorRT-LLM, llama.cpp)
Étude de l'impact de la quantification (INT4, INT8, FP8) sur la performance et la qualité
Profilage GPU et analyse des goulots d'étranglement (Nsight, CUDA)
Définition et exécution de campagnes de benchmark selon la méthodologie MLPerf
Mesure de la consommation électrique et calcul de l'efficacité énergétique
Automatisation des bancs de mesure et intégration dans une démarche MLOps
Rédaction de rapports de performance et recommandations de configuration
Profil recherché
Diplômé(e) d'une école d'ingénieurs ou d'un Bac+5 en informatique, IA ou calcul haute performance, vous justifiez d'au moins 5 ans d'expérience en ingénierie ML ou en optimisation de performance. Vous maîtrisez les moteurs d'inférence LLM (vLLM, TensorRT-LLM, llama.cpp), les techniques de quantification et le profilage GPU avec les outils Nsight. Une pratique de la méthodologie MLPerf et de la mesure de puissance est attendue ; une bonne connaissance de CUDA et des pratiques MLOps sera un atout apprécié. Naturellement, vous utilisez les outils d'IA au quotidien et pouvez illustrer concrètement la façon dont ils accélèrent votre travail. Méthodique, curieux(se) et attaché(e) à des mesures fiables et reproductibles, vous pratiquez un anglais technique courant.
Enfin vous souhaitez participer au développement d'une société à taille humaine, Great Place To Work et labellisée ECOVADIS.