Ayant parcouru de nombreuses études de marché sur la situation de l’IA en entreprise ces dernières semaines, en ce début 2024, j’ai identifié quatre attentes majeures qui se recoupent :
- 1) Concrétiser les premières initiatives IA : Finaliser une première cartographie des cas d’usage métiers, les trier, les prioriser. – Assurer la transition de « PoC » à « Production » sur les premières implémentations.
- 2) Eduquer et lever les résistances au changement : Former les collaborateurs, instaurer une transparence, sécurité et confiance accrue dans les IA.
- 3) Gouverner et Industrialiser : Structurer et systématiser les processus d’implémentation de l’IA.
- 4) Commencer à tirer profit de l’IA dans l’automatisation des processus métiers : Expérimenter les Agents AI.
Chaque entreprise avance à son rythme. Ces priorités sont macro et ne reflètent pas les différences de maturité ou de progression entre les secteurs d’activité, ou en fonction de la taille de l’entreprise. (les grands comptes ont souvent déjà franchi des étapes significatives de maturité et de processus, grâce à leurs investissements précurseurs dans l’IA).
Approfondissons les trois premiers objectifs, et c’est l’occasion d’évoquer l’ « AI Factory« .
AI Factory : un nouveau concept ? D’où sort-il ?
Google, a une bonne mémoire, et selon le moteur de recherche, cette expression commence à émerger dès le début des années 2010. A l’époque, les IA génératives n’existaient pas encore, mais la volonté de construire ces « usines d’IA » était déjà présente, notamment pour adresser les enjeux du Machine Learning ou du Deep Learning et exploiter la Data.
Le concept d’AI Factory fait écho aux « Digital Factory » qui ont émergé dans de nombreuses entreprises à partir des années 2000, notamment sous l’impulsion des Chief Data Officer à partir des années 2010. L’idée était de professionnaliser les pratiques de développement logiciel à travers ces « usines de développement logiciel ».
Derrière ce terme « accrocheur », qu’y a-t-il ?
Le champ lexical de la « Factory » nous indique que nous entrons dans l’ère industrielle des IA.
Cela représente une évolution significative, marquant le passage d’expérimentations isolées à une production industrialisée et systématique de solutions d’IA.
Et cette industrialisation consiste à créer un modèle opérationnel continu et complet depuis la détection des cas d’usage, leur cartographie, le design, l’expérimentation, le passage en production et enfin le passage à l’échelle. Le cycle de vie de chaque implémentation doit être géré (maintenance, mise à jour, évolution, parfois fin de vie). Et chaque nouveau cas d’usage doit suivre un processus bout-en-bout maîtrisé et consistant.
Alors, buzz word ou véritable tendance de fond ?
Le concept n’est pas révolutionnaire en soi, mais il prend une toute autre dimension lorsqu’on l’applique à l’IA. Quand on parle de 5 cas d’usage IA au départ, le mode projet convient parfaitement, et le besoin d’industrialiser n’est sans doute pas à l’ordre du jour. Mais quand, à l’échelle d’une ETI, après seulement quelques mois, on commence à ressentir la vague et recenser des cas d’usage > 100, le mode projet atteint très vite ses limites, et l’ AI Factory devient une évidence.
Les bénéfices sont clairs :
- Efficacité opérationnelle : Réduire le temps entre le besoin et l’utilisation effective.
- Volume : capacité à adresser des cas d’usage en très grand nombre.
- Qualité & performance : Monitorer, assurer une qualité de service optimale, une reproductibilité des solutions, homogène.
AI Factory, c’est une manière de « banaliser » ou démultiplier l’usage des IA et des Analytics dans l’entreprise, en vue d’une adoption large et efficace.
Qu’est-ce qui caractérise une AI Factory ?
Bâtir une AI Factory ne se fait pas en un jour, mais la durée ne se chiffre pas nécessairement en mois ou années, car tout dépend :
- De l’ambition qu’on se donne,
- Des objectifs IA de l’entreprise,
- Des moyens alloués.
Il serait difficile de déterminer des critères stricts de qualification d’un tel modèle opérationnel, mais on peut tout de même identifier trois piliers incontournables :
Les moyens humains
Un modèle opérationnel doit être construit, entretenu et animé par des ressources dédiées. Cela inclut des experts de l’IA (Data Scientists, Data Engineers, MLOps engineers), mais aussi des ressources dédiées au delivery (Service Delivery Managers) et à la coordination globale des process. Car les acteurs autour de l’AI factory sont nombreux : Métiers, Innovation, Data, DSI pour ne citer qu’eux. Une coordination et une collaboration efficaces entre ces différentes populations sont indispensables pour réussir ce passage à l’échelle.
Les outils
Qui dit usine, dit chaîne de production et outils ! L’AI Factory n’échappe pas à la règle. Et pour répondre à l’enjeu de passage à l’échelle, il est préférable de se concentrer sur des stacks technologiques qui seront utilisées et réutilisées à volonté, sans avoir à les recréer à chaque implémentation. Qu’est-ce qui caractérise la boîte à outils de l’AI Factory ?
Pour chaque couche, un choix technologique s’impose.
Gouvernance, process & pilotage :
L’industrialisation requiert des règles de développement strictes, rigoureuses, une capacité décisionnelle rapide pour franchir les étapes, et une mesure & amélioration continue du bon fonctionnement et de la performance du modèle opérationnel. Sans surprise, atteindre de tels objectifs requiert :
- Une gouvernance forte et respectée (idéalement simple, lisible).
- Des processus documentés, connus, et faciles à mettre en œuvre (idem, viser la simplicité).
- Et enfin un pilotage macro et micro (qui peut aller jusqu’à superviser les process d’intégration continue et tests unitaires, fonctionnels…). Il existe aussi des outils dédiés de pilotage à cet effet !
Bonnes pratiques… et pièges à éviter :
Mieux cerner les besoins, mieux les qualifier, peut inciter une AI Factory à se doter d’un catalogue de services. Ainsi, la déclinaison d’une idée en réalisation passera par la sélection d’un ou plusieurs service, et ces derniers pourront faire l’objet d’une productisation. De là à recourir à des Product Manager, il n’y a qu’un pas, et ces derniers pourront assurément renforcer le caractère industriel de l’offre de service. « Que voulez-vous ? Une prédiction ? Une classification ? Une génération contextuelle de contenu ? Un assistant ? Un agent ? Une automatisation ?… » Derrière chaque mot peut en réalité se cacher des briques technologiques assez différentes, et peut ainsi permettre à tous d’être efficace dans le delivery; comme un produit à part entière.
Choisir ses stacks technologiques constitue un des piliers de l’AI Factory. Mais en faire bon usage est indispensable, et l’état de l’art sur ces aspects relève aujourd’hui d’une discipline à part entière : le MLOps ou comment permettre aux acteurs Data & IA d’avoir davantage la main sur les opérations (jusqu’aux implémentations) pour raccourcir le temps de mise en production. Directement hérité du DevOps, cette pratique se généralise aujourd’hui dans tous les départements IA.
Choisir ses stacks technologiques peut aussi relever d’un choix cornélien entre se tourner vers des acteurs hégémoniques ou des technologies plus confidentielles, plus innovantes, mais moins solides ? Ne pas choisir, c’est prendre le risque de continuellement se déporter vers l’un ou vers l’autre. Multiplier le nombre de technologies est un frein dans le passage à l’échelle. Intégrer trop fréquemment des technologies très jeunes constitue également un risque de devoir arrêter prématurément une implémentation si cette technologie disparaît. 2 solutions existent à cela :
- Privilégier les plateformes solides telles qu’Azure ML, AWS BedRock, Sagemaker, GCP Vertex ou Hugging Face, qui pourront en outre intégrer dans leurs environnements des technologies plus récentes qu’ils auront re-packagées ou intégrées à leur propre catalogue.
- Créer au sein de l’AI Factory un pôle dédié à la veille, l’innovation et R&D, avec des ressources distinctes de celles qui travailleront sur la stack technologie principales.
Et créer des ponts entre les deux équipes, avec quelques gardes fous pour que les technologies nouvelles ne deviennent pas la norme, mais soient employées au bon moment, à titre expérimental, dérogatoire.
Externaliser pour aller plus vite ? Si techniquement, il peut exister une première étape de montée en compétence de l’AI Factory, cette dernière n’est pas insurmontable et les ressources existantes de l’entreprise seront à même de se former très vite. Cela ne justifie donc pas de se tourner en priorité vers des ressources externes pour opérer l’AI Factory. D’autant plus que les adhérences métiers et la collaboration entre équipes devra être très forte -> le staffing interne sur de tels enjeux semble être un bon choix, a minima durant les premières années de fonctionnement.
2024 – l’année des AI Factory ?
Nul doute que ce type de modèle se construit dans la durée, et nécessite quelques mois avant de trouver son rythme de croisière, et peut-être années avant d’atteindre une performance optimale. Mais cette transformation est cruciale pour les entreprises cherchant à intégrer l’IA de manière plus profonde et efficace dans leurs opérations…et le mouvement est déjà enclenché.
Comment cadrer la démarche ? Qui doit porter et gérer l’AI Factory ? Quels moyens pour quels objectifs ? Quelles plateformes ? Comment y aller pas à pas ? Quels KPI ? Combien coûte une telle transformation ?
On Behalf AI vous accompagne dans ces projets. De l’étude théorique à la réalisation concrète, avec une vraie culture de la transformation, organisationnelle, humaine et technique, nous sommes à vos côtés pour élaborer les fondations IA de demain.