Du POC au déploiement national : retour d’expérience sur le développement d’une solution IA 

Si le développement de solutions IA connaît un véritable engouement, son application concrète soulève souvent de nombreuses questions : par quel cas d’usage commencer ? Comment maîtriser les coûts et l’architecture technique ? Comment s’assurer que la technologie prenne en compte toutes les subtilités du métier, même les plus spécifiques ?

Pour répondre efficacement, rien ne remplace le pragmatisme du terrain. Kevin Simon, développeur IA au sein du laboratoire IAxLab d’Inside, a récemment accompagné un spécialiste du secteur de l’énergie dans le développement d’une solution IA sur mesure. Sa mission : automatiser et simplifier l’analyse de milliers de documents administratifs complexes, transformant un irritant chronophage en un véritable levier de performance à l’échelle nationale.

D’après ton expérience, quels sont les enjeux et les freins pour les entreprises qui souhaitent se lancer dans le développement d’une solution IA ?

L’enjeu principal pour les entreprises n’est paradoxalement pas lié à la technologie en elle-même, ni au modèle d’IA à choisir, mais réside dans le choix pertinent du cas d’usage. Beaucoup d’organisations ont envie de se lancer dans le développement d’une solution IA globale, mais ce qui fonctionne réellement, c’est de partir d’un processus très précis. Il faut identifier un irritant métier concret et viser un gain tangible. C’est ce que j’appelle opposer le « narratif stratégique » au simple « narratif de la levée de fonds », où l’on ferait de l’IA juste pour faire de l’IA.

Du côté des freins, j’en observe principalement trois sur le terrain lors du développement d’une solution IA :

1. L’hétérogénéité des données : Où sont-elles stockées ? De quel type de documents parle-t-on ? Sont-elles propres et exploitables ?
2. La formalisation de l’expertise : Il est souvent très difficile de traduire une expertise métier, souvent implicite et acquise avec l’expérience, en instructions claires pour une machine.
3. La confiance : L’IA peut impressionner une DSI, mais le métier, lui, a besoin d’une solution fiable, explicable et parfaitement intégrable dans son quotidien.

Notre rôle est d’aider les entreprises à transformer une simple intuition ou une envie technologique en un dispositif réellement utile et adopté, qui génère de la valeur.

Kevin SIMON, Développeur IA au sein du laboratoire IAxLab d’Inside

Peux-tu nous partager un de ces choix pertinents de cas d’usage lié au développement d’une solution IA ? 

Un client spécialiste du secteur de l’énergie avait un processus qui reposait sur la récupération, la lecture et l’analyse manuelle d’une quantité impressionnante de documents administratifs émanant de divers comités départementaux. Chaque mois, cela représentait une à plusieurs centaines de projets et documents par département à éplucher. Le principal problème étant que ces tâches de repérage et d’extraction d’informations mobilisaient le temps de collaborateurs hautement qualifiés. Le volume, couplé à l’extrême diversité des formats et des formulations selon les préfectures, créait une charge mentale très importante. De plus, dès qu’il y avait un pic d’activité ou des congés, l’entreprise faisait face à un véritable enjeu d’homogénéité dans le traitement de ces données critiques. 

L’objectif du développement d’une solution IA n’était donc surtout pas de remplacer leur jugement métier, mais de les soulager de la lecture préparatoire pour qu’ils puissent se concentrer sur la prise de décision.

Peux-tu nous expliquer le choix d’architecture qui a été fait ? 

La tentation, sur ce type de projet, est souvent de tout confier à l’IA : verser les documents dans le Cloud, interroger un modèle, puis espérer qu’il se débrouille. Nous avons fait un choix différent, beaucoup plus pragmatique, en optant pour architecture locale, modulaire et pensée pour le traitement par lots.

Concrètement, nous avons mis en place un pipeline batch “local-first”. L’orchestrateur enchaîne toujours les mêmes étapes : ingestion des documents, extraction ou OCR, structuration, nettoyage, analyse, puis génération du reporting. Les résultats intermédiaires sont conservés sous forme de fichiers simples, notamment en texte, CSV et HTML. Cela rend le traitement rejouable, inspectable et facilement exploitable par les équipes.

L’idée n’était donc pas de construire un système tout LLM, ni de mettre en place une architecture lourde de type microservices, RAG ou Fine-Tuning. Pour un corpus hétérogène de PDF à traiter régulièrement, une approche locale et modulaire était beaucoup plus adaptée : plus simple à maintenir, plus robuste, et surtout plus maîtrisable en termes de coûts.

Comment avez-vous réussi à concilier puissance, traitement local et optimisation des coûts ?

Pour concilier puissance, traitement local et optimisation des coûts, nous avons appliqué un principe très simple : ne mobiliser l’IA générative que lorsqu’elle apporte une vraie valeur ajoutée. Le système tente d’abord l’extraction native du PDF, puis un OCR local avec Tesseract et OpenCV. L’IA n’intervient qu’en fallback, page par page, lorsque le texte est trop court, peu fiable ou difficilement lisible. Et si un fichier texte existe déjà, on évite tout simplement de refaire l’extraction.

Les modèles les plus puissants sont réservés aux tâches qui demandent une vraie compréhension métier : structuration stricte des informations, analyse thématique, consolidation finale. Le reste est absorbé par le pipeline Python, avec des contrôles de robustesse à chaque étape : schémas stricts, corrections depuis le nom du fichier, normalisations métier et rejet des sorties trop incomplètes.

C’est cette répartition intelligente qui permet de maîtriser les coûts : nous gardons la puissance des modèles pour les étapes sémantiques, et nous absorbons localement le gros du volume. C’est ce qui permet de rester frugal sans sacrifier la qualité.

En adoptant cette approche locale et modulaire, les coûts liés à l’utilisation directe de l’IA ont été extrêmement faibles : moins de 100 € d’API pour les 3 mois de développement, et environ 2 € par mois en phase de run !

Kevin SIMON, Développeur IA au sein du laboratoire IAxLab d’Inside

Comment avez-vous collaboré avec les experts métiers pour que l’IA comprenne les subtilités et le jargon spécifique lié aux différentes administrations ?

C’est le cœur du réacteur de ce projet ! Les modèles généralistes d’IA se perdaient complètement dans les premières itérations du développement de la solution à cause de la complexité du jargon administratif et juridique. Pour résoudre le problème, nous n’avons pas eu recours au Fine-Tuning, la réussite a reposé sur une collaboration intense avec deux experts métiers du client. Le but était de traduire leur expertise implicite dans les prompts (les instructions) du système. Nous avons fonctionné par itérations hebdomadaires en faisant tourner le modèle sur des cas réels, et les experts corrigeaient.

Par exemple, il fallait apprendre à l’IA à détecter les signaux faibles. Sur certains documents administratifs, ce qui ressemble à un refus catégorique de projet signifie en réalité « oui, mais avec une révision ultérieure« . Sans la supervision humaine et cette boucle de feedback continu, l’IA n’aurait jamais pu capter ces nuances. La qualité de la solution finale vient beaucoup plus de ce travail chirurgical sur le prompt avec le métier que de la puissance brute du modèle d’IA utilisé.

Qu’est-ce qui a motivé la bascule d’un simple POC vers un déploiement à l’échelle nationale de cette solution IA ?

Nous avons d’abord mené un POC (Proof of Concept) IA sur cinq départements aux profils très diversifiés. Ce qui a déclenché le passage à l’échelle sur 30 départements quelques mois plus tard : c’est la démonstration d’un véritable potentiel opérationnel. Le gain de temps a été spectaculaire : au lieu de lire 50 documents par semaine, les experts reçoivent désormais une synthèse HTML claire d’une page directement dans leur ERP, ce qui leur prend environ 10 minutes à assimiler. Le temps d’analyse global s’est donc trouvé drastiquement réduit grâce à cette solution IA.

Mais au-delà du temps, c’est la baisse de la charge mentale et l’homogénéité du traitement qui ont convaincu la direction. Aujourd’hui, quelle que soit la source du document,la synthèse extraite répond au même standard de qualité, centralisant ainsi la connaissance pour toute l’équipe.

Quel type d’accompagnement Inside propose-t-il aux entreprises qui souhaitent accélérer le développement d’une solution IA sur mesure ?

Chez Inside, nous couvrons toute la chaîne de valeur du développement de solution IA via le cycle 4D : Design, Deploy Develop et DIVA pour l’accompagnement. Nous ne sommes donc pas de simples exécutants techniques. Notre valeur ajoutée réside dans notre capacité à faire le lien entre le besoin métier, les contraintes de sécurité, les coûts d’exploitation et la qualité finale. Nous aidons ainsi  les entreprises à se poser les bonnes questions dès le départ.

De plus, nous avons la chance de nous appuyer sur le IAxLab, notre laboratoire IA interne. Cette équipe très agile teste en continu les nouveaux modèles du marché (qu’il s’agisse d’OpenAI ou de modèles souverains et ciblés B2B comme Mistral). Cela nous permet d’acculturer nos équipes très en amont, et surtout, d’apporter à nos clients des solutions validées, éprouvées, et sans complaisance face aux effets de mode.