Selon LinkedIn, le nombre de personnes ayant « Head of AI » dans leur intitulé en France a été multiplié par 6 entre janvier 2023 et janvier 2026. Statistiquement impossible que la compétence ait suivi. La réalité c’est que beaucoup de ces nouveaux Heads of AI sont des excellents storytellers qui ont compris le marché avant les autres, et qui auront disparu d’ici 24 mois quand la prochaine vague (Quantum officer ? Web4 director ?) appellera.
Si vous recrutez un Head of AI en 2026, voici les 4 questions à poser. Elles séparent les opérationnels des opportunistes en moins de 20 minutes.
Pourquoi 70 % des Heads of AI actuels ne tiennent pas la route
Le profil type du charlatan moderne : 8 à 12 ans d’expérience dans la data ou le digital, un certificat Coursera sur le Machine Learning, deux passages chez de gros cabinets de conseil, et une présence LinkedIn très active depuis 18 mois. Il ou elle parle bien, comprend les enjeux stratégiques, sait nommer 30 outils. Et n’a jamais mis un POC IA en production avec ses propres mains.
Ce profil n’est pas inutile pour autant. Il est efficace pour gérer un comité de pilotage. Le problème c’est quand vous attendez de lui qu’il arbitre techniquement entre Azure OpenAI et Mistral souverain, qu’il négocie avec un VP Engineering, ou qu’il identifie un sous-traitant douteux qui survend son MLOps. Là, il flanche.
Question 1 : raconte-moi le dernier POC que tu as enterré, et pourquoi
C’est la question filtre n°1. Un Head of AI sérieux a enterré des projets. Il vous dira sans détour : « on a tenté un agent Sales sur SF, on s’est rendu compte au sprint 4 que la latence en prod dépasserait 12 secondes par requête, et que l’API SF facturerait 18 000 € par mois à terme. On a tué. Plus exactement, on a réorienté vers une fonction de synthèse a posteriori. ». Précis, factuel, sans honte.
Le charlatan, lui, parle d’« itérations », d’« insights », et insiste sur les apprentissages. Pas de coûts, pas de latence, pas de noms d’outils. Drapeau rouge.
Question 2 : entre fine-tuning, RAG et few-shot, lequel choisirais-tu pour traiter notre catalogue produit ?
Question piège technique. La bonne réponse est RAG, parce qu’un catalogue produit évolue (nouveaux articles, prix, stocks), et que le fine-tuning fige le modèle à un instant T. La mauvaise réponse, mais aussi la plus fréquente chez les charlatans : « ça dépend des cas d’usage, il faut faire un audit ». Si en 30 secondes votre candidat ne tranche pas, il ne comprend pas la différence d’usage.
Le vrai expert ira plus loin : « RAG avec embeddings OpenAI text-embedding-3-large ou Mistral embed v3, vector store sur Qdrant ou Weaviate, et un re-ranker pour les top 20 ». S’il vous donne des noms d’outils et des architectures, c’est qu’il a fait. S’il vous récite Wikipedia, c’est qu’il a lu.
Question 3 : combien coûte 1 million de tokens en sortie sur GPT-5 ?
Question banale en apparence, mais redoutable. Un opérationnel connaît les ordres de grandeur. Il vous donnera une fourchette à 20 % près (10-15 $ pour la sortie en novembre 2025). Le charlatan donne soit une réponse vague (« ça dépend »), soit une réponse fausse à un ordre de grandeur près. C’est le proxy le plus fiable que la personne pilote des budgets IA réels.
Vous pouvez varier la question selon les modèles : tokens Claude Sonnet, coût d’une heure de fine-tuning sur Azure, prix d’un GPU H100 à la demande. Quelqu’un qui négocie ces sujets au quotidien donne des chiffres. Quelqu’un qui les évite n’a jamais payé une facture.
Question 4 : raconte-moi un conflit que tu as eu avec ton CTO ou ton VP Engineering
Le Head of AI vit dans une tension structurelle avec la direction technique. La data appartient à l’IT. Les API de production sont gérées par l’engineering. Les enjeux de cybersécurité sont co-portés avec la DSI. Un Head of AI qui n’a jamais eu de conflit avec ces fonctions est soit un junior, soit n’a jamais rien décidé.
La bonne réponse raconte un cas précis, avec le sujet (par exemple : « lui voulait tout sur Bedrock pour cohérence AWS, moi je voulais Azure pour Copilot Enterprise »), la manière dont la décision a été tranchée (Comex, COO, qui a parlé en dernier), et le résultat 12 mois plus tard. Le charlatan parle de « collaboration », d’« alignement », et de « culture commune ». Drapeau rouge.
Au-delà des 4 questions : les signaux faibles à surveiller
Trois signaux qui devraient vous alerter sur les CV : plus de 3 changements de poste en 24 mois (ce n’est pas un curieux, c’est un instable), du conseil pur sans aucun rôle opérationnel (les beaux PowerPoints sont l’ennemi de la production), une présence LinkedIn trop dense avec 4 posts par semaine pendant 12 mois (qui pilote vraiment des chantiers ?).
À l’inverse, les signaux positifs : contributions GitHub publiques (un repo personnel, un fork, des issues), une thèse technique non vendable en post LinkedIn (« pourquoi le RAG hybride dense+BM25 surpasse le RAG sémantique seul »), la capacité à dire « je ne sais pas » sur 2 ou 3 questions techniques pendant l’entretien.
Recrutez la compétence, pas le titre
Le marché du Head of AI est en mode bulle (le contexte plus large dans l’IA décime les profils moyens). Vous n’avez peut-être pas besoin d’un « Head of AI » avec ce titre exact. Vous avez peut-être besoin d’un Lead Data Engineer expérimenté + un Product Manager IA externe en mission de 6 mois. Ou d’un Directeur des Opérations qui s’est mis à l’IA et qui pilote, plutôt qu’un junior qui storytelle.
Le bon recrutement, c’est aussi celui qui sait former les key users plutôt que tout le monde. Le bon recrutement n’est pas celui qui correspond au titre du moment. C’est celui qui sait livrer dans 18 mois. Les 4 questions du jour servent exactement à mesurer ça.
Pour approfondir
- Arrêtez de former tout le monde au prompting (formez les key users)
- L’IA ne tuera pas les juniors, elle va décimer les moyens
- AI Act et PME : ce que la réglementation change vraiment
Au-dela des quatre questions : les signaux qui ne trompent pas
Les quatre questions filtrent l’essentiel, mais un entretien laisse aussi passer des signaux plus discrets, dans la maniere de repondre. Apprenez a les lire, ils en disent souvent plus que le CV.
Les bons signaux
- Il parle en contraintes, pas en promesses. Latence, cout au jeton, qualite des donnees, dette technique : un vrai operationnel raisonne en limites a gerer, pas en avenir radieux.
- Il cite ses echecs avec precision. Un projet abandonne, raconte avec ses chiffres et ses raisons, vaut mille reussites vagues. Qui n’a jamais echoue n’a jamais livre.
- Il nuance l’IA. Il sait dire ou elle ne sert a rien, ou elle est risquee, ou un simple tableur suffirait. L’honnetete technique est la marque des bons.
- Il pense gouvernance et conformite. Il evoque spontanement la donnee, la securite, la reglementation. Signe qu’il a deja deploye pour de vrai.
Les signaux d’alerte
- Le name-dropping d’outils. Citer trente technologies n’est pas une competence, c’est une veille. Demandez laquelle il a mise en production et ce qui a casse.
- L’absence totale de chiffres. Un Head of AI qui ne parle jamais de couts ni de delais n’a probablement jamais porte la responsabilite d’un budget.
- L’enthousiasme sans reserve. Celui pour qui l’IA resout tout, tout de suite, sans risque, vend du reve. La realite est toujours plus nuancee.
- Le flou sur le « je » et le « nous ». Quand on ne sait jamais ce qu’il a fait lui-meme par rapport a ce que son equipe a fait, mefiance.
Ces reflexes de lecture s’affinent avec l’experience. Pour les equipes RH qui recrutent dans l’IA sans etre elles-memes techniques, nous proposons un accompagnement dedie, abordé dans notre foire aux questions.
Question 5 : comment ferais-tu monter en competence une equipe non technique ?
Un Head of AI ne passe pas ses journees a coder. Son impact reel se mesure a sa capacite a diffuser une culture IA dans l’organisation. Posez-lui la question frontalement : comment acculturer des equipes metier qui n’ont jamais touche a ces outils ?
Le bon candidat parlera de cas d’usage concrets, de formation progressive, d’ambassadeurs internes, de mesure des gains. Il comprendra que l’adoption est un sujet humain avant d’etre technique. Le charlatan, lui, repondra « plateforme », « outil », « rollout », comme si deployer un logiciel suffisait a transformer les pratiques. C’est exactement l’inverse : la technologie est la partie facile, l’humain est le vrai chantier. Nous developpons cette idee dans l’IA ne rend pas idiot.
Faut-il vraiment recruter un Head of AI ?
Question iconoclaste, mais essentielle : beaucoup d’entreprises recrutent un Head of AF par mimetisme, parce que le concurrent l’a fait, sans avoir clarifie ce qu’elles attendent du poste. Resultat, elles paient cher un profil senior pour un besoin qui releve en realite d’autre chose.
Avant de publier une offre, posez-vous la vraie question : avez-vous besoin d’un strategue qui cadre une vision, d’un operationnel qui livre des projets, ou d’un acculturateur qui forme les equipes ? Ces trois profils existent rarement dans la meme personne. Confondre les trois, c’est se condamner a une embauche decevante.
Les alternatives a l’embauche
- Former un profil interne. Souvent, la meilleure personne est deja chez vous : quelqu’un qui connait le metier et que l’on monte en competence sur l’IA. C’est plus rapide et plus fidele a votre culture. Nos parcours certifiants sont concus pour cela.
- S’appuyer sur un accompagnement externe. Pour cadrer une premiere strategie sans embaucher, un partenaire specialise apporte l’expertise le temps de structurer le besoin.
- Commencer par une equipe pilote. Avant de creer un poste, testez sur quelques cas d’usage. Le besoin reel de pilotage apparait alors clairement.
Dans bien des cas, une PME n’a pas besoin d’un Head of AF a temps plein, mais d’une montee en competence collective et d’un cadrage ponctuel. C’est moins prestigieux sur le papier, bien plus efficace dans les faits.
Comment structurer le processus de recrutement
Si l’embauche est justifiee, ne la laissez pas au hasard d’un bon feeling en entretien. Un processus robuste protege des erreurs couteuses.
- Un cas pratique reel. Soumettez au candidat un vrai dilemme de votre organisation et observez comment il raisonne. Les discours s’effondrent vite face a un probleme concret.
- Un entretien technique croise. Faites-le challenger par quelqu’un qui connait le sujet, meme externe. Un RH seul ne peut pas detecter un bluff technique.
- Des references verifiees. Appelez d’anciens collaborateurs et demandez ce que le candidat a livre de ses mains, pas ce qu’il a supervise.
- Une mise en situation d’acculturation. Demandez-lui d’expliquer un concept IA complexe a un non-initie. La pedagogie ne se simule pas.
Ce type de processus demande du temps, mais il coute infiniment moins cher qu’un mauvais recrutement a ce niveau de responsabilite. La gouvernance de la donnee et des projets IA, un sujet que votre futur responsable devra maitriser, est detaillee dans notre article sur le cauchemar des DRH.
Reussir l’integration une fois le bon profil trouve
Recruter le bon Head of AF n’est que la moitie du chemin. Beaucoup de belles embauches echouent faute d’integration. Le piege classique : on recrute un expert, on le laisse seul face a une organisation qui ne l’attendait pas, et six mois plus tard il part, epuise par l’inertie.
Pour que l’embauche porte ses fruits, donnez-lui un mandat clair, un acces aux equipes metier, un budget defini et le soutien explicite de la direction. Un Head of AF sans sponsor au comex est condamne a produire des slides que personne ne lit. Son premier chantier ne devrait pas etre un grand projet technique, mais une serie de petites victoires visibles qui installent sa credibilite et donnent envie aux equipes de suivre.
Les 90 premiers jours
- Comprendre avant de transformer. Un bon responsable passe ses premieres semaines a ecouter les metiers, pas a imposer des outils.
- Livrer un premier cas d’usage concret. Un gain mesurable, meme modeste, vaut mieux qu’une grande feuille de route theorique.
- Former les premiers ambassadeurs. Identifier les collaborateurs curieux et en faire des relais internes demultiplie l’impact.
- Poser les bases de la gouvernance. Quelles donnees, quels outils, quelles regles. Sans ce cadre, tout le reste est fragile.
Cette logique de petits pas mesures, nous la defendons partout, notamment dans former vite, former juste.
Foire aux questions
Un bon Head of AF doit-il savoir coder ?
Pas forcement au niveau d’un ingenieur, mais il doit avoir mis les mains dans le cambouis assez pour comprendre les contraintes reelles. Un responsable purement strategique, incapable de juger une decision technique, se fera balader par ses prestataires.
Combien de temps pour un recrutement de qualite ?
Mieux vaut quelques semaines de processus rigoureux qu’une embauche precipitee. A ce niveau, une erreur coute des mois de retard et un budget significatif. La lenteur est ici une forme de prudence.
Et si on formait quelqu’un en interne plutot ?
C’est souvent la meilleure option, surtout pour les PME. Un profil interne connait deja le metier et la culture ; il ne lui manque que la competence IA, que l’on peut construire. Nos formations a Paris, a Lyon et notre parcours Architecte IA sont pensees pour transformer un bon professionnel en referent IA credible.
En resume
Le titre « Head of AI » ne dit rien de la competence. Ce qui la revele, ce sont les echecs assumes, les chiffres precis, la nuance technique et la capacite a former les autres. Avant de recruter, clarifiez votre besoin reel ; pendant, filtrez sur le concret ; apres, integrez avec un mandat clair. Et n’oubliez pas l’alternative souvent gagnante : former un profil interne. Pour en discuter, rencontrez notre equipe, explorez nos realisations ou deposez votre candidature.
Le cout cache d’un mauvais recrutement IA
On parle beaucoup du salaire d’un Head of AF, rarement du cout d’un mauvais choix. Pourtant, il depasse de loin la seule remuneration. Un responsable qui ne tient pas la route, c’est d’abord une annee de projets mal orientes : des budgets engages sur des outils inadaptes, des prestataires choisis sans esprit critique, des POC qui n’arrivent jamais en production. C’est ensuite une perte de credibilite de l’IA en interne : apres un echec visible, les equipes deviennent mefiantes, et le prochain projet, meme excellent, partira avec un handicap.
C’est enfin un cout d’opportunite rarement chiffre : pendant que l’entreprise patine avec le mauvais profil, les concurrents avancent. En additionnant budgets gaspilles, defiance interne et retard concurrentiel, un mauvais recrutement a ce niveau se chiffre facilement en centaines de milliers d’euros d’impact indirect. C’est precisement pour cela qu’un processus de selection exigeant, loin d’etre une lourdeur, est un investissement rentable.
Trois reflexes a adopter des maintenant
Si vous retenez trois choses de cet article, que ce soit celles-ci. Premierement, ne recrutez jamais sur le discours seul : exigez du concret, des chiffres, des echecs assumes. Deuxiemement, clarifiez votre besoin reel avant de publier une offre, car un strategue, un operationnel et un acculturateur ne sont pas la meme personne. Troisiemement, considerez serieusement la montee en competence d’un profil interne : c’est souvent plus rapide, plus fidele a votre culture et moins risque qu’une embauche a l’aveugle.
Le marche de l’IA est plein de beaux parleurs, mais les entreprises qui reussissent sont celles qui savent distinguer le vernis de la substance. Cette lucidite, c’est aussi ce que nous cultivons au sein du Nexus Think Tank, convaincus qu’une adoption serieuse de l’IA commence par des decisions humaines bien prises.
Question bonus : que ferais-tu avec un budget divise par deux ?
Voici une question piege redoutable pour terminer un entretien. Demandez au candidat ce qu’il ferait si vous divisiez son budget par deux. Le charlatan se cabre, explique que c’est impossible, que l’ambition en patira. L’operationnel, lui, sourit : il a l’habitude des contraintes. Il vous expliquera comment prioriser, quels cas d’usage abandonner, comment obtenir plus avec des modeles plus legers et des processus mieux cadres.
Cette capacite a faire des choix sous contrainte est la signature des vrais responsables. Elle rejoint une tendance de fond que nous observons partout : la sobriete devient un avantage competitif, et les modeles specialises plus petits remplacent souvent avantageusement les gros modeles couteux. C’est tout le sujet de l’annee de la small AI. Un Head of AF qui a integre cette logique vaut de l’or ; celui qui raisonne encore en « toujours plus gros, toujours plus cher » est deja en retard d’une guerre.
Au fond, recruter un bon responsable IA, c’est chercher quelqu’un qui conjugue humilite technique, sens du concret et pedagogie. Ces qualites ne s’affichent pas sur un profil LinkedIn ; elles se revelent en entretien, dans la facon de parler des echecs, des chiffres et des gens. A vous, desormais, de poser les bonnes questions.
Et apres le recrutement : faire vivre la fonction dans la duree
Un Head of AF n’est pas une case que l’on coche une fois pour toutes. La fonction evolue vite, au rythme des modeles et des usages. Prevoyez des le depart comment vous maintiendrez cette personne a jour : temps de veille, participation a des communautes professionnelles, acces a la formation continue. Un responsable IA que l’on laisse s’assecher intellectuellement perd en pertinence en quelques mois, tant le domaine bouge.
Prevoyez aussi comment la fonction irriguera le reste de l’organisation. Le meilleur Head of AF n’est pas celui qui concentre le savoir, mais celui qui le diffuse, jusqu’a se rendre presque superflu sur les usages de base. Son role mur n’est plus de tout faire, mais d’elever le niveau general de l’entreprise. C’est exactement l’etat d’esprit que nous cherchons a installer a travers nos formations et nos accompagnements, ou la reussite se mesure a l’autonomie gagnee par les equipes, pas a leur dependance.
