Ingénieur machine learning, un poste qui dépasse les modèles

L’intitulé « ingénieur machine learning », ou ML engineer, laisse imaginer quelqu’un qui passe ses journées à concevoir des réseaux de neurones. La réalité du poste est assez différente. Un ingénieur machine learning consacre la plus grande partie de son temps à ce qui entoure le modèle : les données qui l’alimentent, le code qui l’entraîne de façon reproductible, le service qui le rend disponible, la surveillance qui détecte sa dégradation. C’est un métier d’ingénieur logiciel spécialisé, à la frontière de la data science et de l’infrastructure. Cet article décrit le rôle, ce qui le distingue du data scientist, les compétences attendues, les parcours et la façon de présenter ses projets sur un CV.

Le rôle d’un ingénieur machine learning

Le travail d’un ingénieur machine learning commence là où celui d’un prototype s’arrête. Un modèle qui donne de bons résultats dans un notebook n’a encore aucune valeur pour l’entreprise ; il en prend quand il sert des prédictions fiables, au bon moment, à un produit ou à une équipe, et qu’il continue à le faire au fil des mois.

Concrètement, ses missions recouvrent :

la préparation des données d’entraînement : pipelines qui extraient, nettoient et versionnent les données, en lien avec les data engineers ;
l’industrialisation de l’entraînement : code structuré et testé, expériences suivies, entraînements reproductibles et relançables ;
le service des modèles : API d’inférence, traitements par lots, déploiement sur des serveurs, des GPU ou des appareils embarqués ;
l’optimisation : latence, débit, coût par prédiction, taille du modèle ;
la surveillance : qualité des prédictions dans le temps, dérive des données d’entrée, alertes, réentraînement ;
la collaboration : avec les data scientists qui conçoivent les modèles, les ingénieurs produit qui les consomment, les équipes plateforme qui hébergent l’ensemble.

Google résume bien cette philosophie dans ses règles du machine learning 🔗 : un système simple, bien instrumenté et bien maintenu vaut souvent mieux qu’un modèle sophistiqué mal intégré.

La différence avec le data scientist

Les deux métiers partagent les mêmes bases (Python, statistiques, apprentissage automatique) mais pas le même centre de gravité.

| | Data scientist | Ingénieur machine learning | |---|---|---| | Question principale | Quel modèle répond au problème ? | Comment ce modèle fonctionne-t-il de façon fiable en production ? | | Livrables | Analyses, expériences, prototypes de modèles | Pipelines d’entraînement, services d’inférence, surveillance | | Compétences dominantes | Statistiques, modélisation, compréhension métier | Ingénierie logicielle, infrastructure, optimisation | | Indicateurs de succès | Performance du modèle, effet métier mesuré | Latence, disponibilité, reproductibilité, coût, stabilité |

Dans une petite équipe, une même personne couvre souvent les deux rôles. Dans les organisations plus grandes, la séparation est nette, et les offres le disent : un poste de ML engineer demande presque toujours de l’expérience en développement logiciel, en conteneurs et en cloud. Pour la vision du data scientist et les questions qu’on lui pose en entretien, voir notre article sur les questions d’entretien de data scientist.

Les compétences logicielles attendues

C’est ce qui distingue le plus un ingénieur machine learning d’un profil de data science classique, et c’est souvent là que les candidats issus de la recherche doivent progresser.

Python de qualité production : structure de projet, packaging, gestion des dépendances, typage, tests unitaires et d’intégration.
Git et la revue de code, l’intégration continue, les bonnes pratiques de collaboration.
Les API : exposer un modèle derrière une API (FastAPI est très répandu), gérer la validation des entrées, les erreurs, la montée en charge.
Les conteneurs et l’orchestration : Docker, et souvent Kubernetes pour le déploiement et la mise à l’échelle.
Le cloud : stockage, calcul, services managés de machine learning (Vertex AI, SageMaker, Azure Machine Learning).
Les données : SQL, formats de stockage, orchestrateurs comme Airflow, collaboration avec les data engineers dont le métier est décrit dans notre article sur le data engineer.

Côté apprentissage automatique, on attend une maîtrise des bibliothèques courantes (scikit-learn, PyTorch, éventuellement TensorFlow), une compréhension solide de l’évaluation des modèles et une connaissance des techniques d’optimisation de l’inférence (quantification, distillation, export vers ONNX 🔗).

MLOps : déployer et superviser un modèle

Le terme MLOps désigne l’ensemble des pratiques qui appliquent au machine learning les principes de l’intégration et du déploiement continus. Un ingénieur machine learning en est souvent le principal artisan.

Les briques les plus courantes :

le suivi des expériences et le registre de modèles, avec MLflow 🔗 ou l’équivalent de la plateforme cloud : chaque modèle entraîné est enregistré avec ses paramètres, ses métriques et ses données ;
le versionnement des données, avec DVC 🔗 ou des tables versionnées, pour pouvoir reproduire un entraînement ;
les pipelines d’entraînement, orchestrés avec Kubeflow 🔗, Vertex AI Pipelines, Airflow ou un outil équivalent ;
le déploiement progressif : mode fantôme (le nouveau modèle tourne en parallèle sans servir de réponses), déploiement sur une fraction du trafic, retour arrière automatique ;
la surveillance en production : dérive des données d’entrée, distribution des prédictions, métriques métier, avec des outils comme Evidently 🔗 ou des tableaux de bord sur mesure.

La surveillance est souvent le point le plus négligé, et le plus apprécié des recruteurs. Un modèle se dégrade quand le monde change : nouveaux produits, nouveaux comportements, nouvelles sources de données. Savoir le détecter avant les utilisateurs est l’un des meilleurs arguments d’un CV d’ingénieur machine learning.

Avec l’arrivée des modèles de langage, une partie du métier s’oriente vers le service et l’évaluation de ces modèles. Notre article sur l’IA générative sur un CV tech distingue les différents niveaux de compétence dans ce domaine.

Formations et parcours

Plusieurs chemins mènent à ce poste.

Les écoles d’ingénieurs et les masters en informatique, en science des données ou en intelligence artificielle forment l’essentiel des profils. Un stage ou une alternance dans une équipe qui met des modèles en production est le meilleur tremplin.
Les data scientists qui se tournent vers l’industrialisation y arrivent souvent, en approfondissant le génie logiciel et l’infrastructure.
Les développeurs backend ou les ingénieurs DevOps peuvent aussi évoluer vers ce métier, en approfondissant l’apprentissage automatique. Leur maîtrise de la production est un atout important.
Les docteurs en apprentissage automatique rejoignent ce métier quand ils veulent se rapprocher du produit, à condition de renforcer leur pratique logicielle.

Les certifications des fournisseurs cloud orientées machine learning, comme Google Cloud Professional Machine Learning Engineer 🔗 ou AWS Certified Machine Learning Engineer – Associate 🔗, structurent l’apprentissage d’une plateforme et aident au premier tri quand l’offre cite le fournisseur.

Le métier se décline selon les secteurs. Dans la finance de marché et la gestion d’actifs, les équipes quantitatives ont leurs propres exigences de modélisation et de rigueur : les attentes propres aux équipes quantitatives de la finance 🔗 sont détaillées dans un guide dédié à ce secteur.

Mettre en avant ses projets sur le CV

Un CV d’ingénieur machine learning raconte des modèles comme des services : qui les utilise, avec quelle latence, comment ils sont entraînés et surveillés.

Avant : « Développement de modèles de deep learning pour la détection d’objets (PyTorch, YOLO). »

Après : « Mise en production d’un modèle de détection d’anomalies sur les images d’une ligne de contrôle qualité : service d’inférence sur GPU (FastAPI, ONNX Runtime), latence par image réduite d’un facteur trois après quantification, surveillance de la dérive et réentraînement mensuel automatisé. »

Quelques principes :

une puce sur le service (latence, débit, utilisateurs), une sur la reproductibilité (pipeline, versionnement), une sur la surveillance (dérive, alertes, réentraînement) ;
des pratiques logicielles visibles : tests, revue de code, conteneurs, intégration continue ;
les projets personnels déployés, avec un lien vers le code et, si possible, une démonstration accessible.

Le modèle de CV d’ingénieur machine learning applique ces principes à un parcours passé de la data science à la mise en production. L’éditeur de TechCV vous laisse reprendre ce modèle et y reporter vos propres services, et il produit un PDF dont les logiciels de recrutement extraient correctement les intitulés et les outils. Vous pouvez commencer votre CV dès maintenant.

Questions fréquentes

Faut-il un doctorat pour devenir ingénieur machine learning ?

Non. Un doctorat est un atout pour les postes de recherche appliquée, mais la plupart des postes d’ingénieur machine learning demandent surtout une solide pratique du génie logiciel et de l’apprentissage automatique, accessible avec un diplôme d’ingénieur ou un master.

Quelle différence entre ML engineer et MLOps engineer ?

Le MLOps engineer se concentre sur la plateforme et l’outillage qui permettent de déployer et surveiller les modèles ; le ML engineer couvre aussi la construction et l’optimisation des modèles eux-mêmes. Dans beaucoup d’entreprises, les deux intitulés recouvrent des postes très proches.

Un data scientist peut-il devenir ML engineer sans tout réapprendre ?

Oui. Il garde ses compétences en modélisation et doit surtout renforcer le génie logiciel, les conteneurs et le cloud. Prendre en charge la mise en production d’un de ses propres modèles est souvent le meilleur premier pas.

Les modèles de langage changent-ils le métier ?

Ils l’élargissent : servir, évaluer et surveiller des modèles de langage est devenu une partie du travail dans de nombreuses équipes. Les fondamentaux restent les mêmes : reproductibilité, service fiable, évaluation rigoureuse et surveillance en production.