Comment la MAIF s’est dotée d’infrastructures MLOps optimales pour passer à l’échelle ses projets d’IA ?

Le contexte, le besoin 📍

Dans un environnement en constante évolution, la transformation digitale s’impose comme un levier incontournable pour les entreprises souhaitant rester compétitives. La MAIF, acteur majeur de l’assurance en France, a su prendre ce virage en intégrant l’IA dans ses services, afin d’améliorer l’expérience client et d’optimiser ses processus internes.

Face à une adoption croissante de l’IA dans différents cas d’usage – génération automatique de réponses, synthèse de conversations téléphoniques, optimisation des processus d’assistance – un nouveau défi est apparu : passer de l’expérimentation à l’industrialisation. Ce processus implique une mise à l’échelle des solutions d’IA, ainsi que l’intégration d’outils robustes pour l’observabilité (monitoring, alerting), la sécurité des données et la gouvernance. La MAIF a également exprimé le besoin de structurer une “Watch technique” dédiée aux pratiques MLOps et LLM Ops, en combinant des infrastructures on-premise et cloud via Azure, afin de garantir à la fois flexibilité et conformité aux exigences réglementaires strictes.

L’approche mise en œuvre, la solution 🛠

Pour répondre à ces enjeux, notre équipe a été sollicitée pour accompagner la MAIF dans l’industrialisation de ses solutions IA et la mise en place d’une approche solide de MLOps (Machine Learning Operations) et LLM Ops (Large Language Model Operations). L’objectif est double : fiabiliser les pipelines de recherche et développement tout en facilitant la mise en production rapide des solutions d’IA.

Nous avons proposé une approche hybride combinant le cloud (via Azure) et des infrastructures on-premise pour répondre aux exigences de sécurité, de conformité et de performances. L’intégration des processus de MLOps et de LLM Ops permet non seulement d’assurer la reproductibilité des expériences IA mais aussi de garantir un suivi continu, de la conception au déploiement en production.

Activités principales réalisées ✅

L’industrialisation des services d’IA à la MAIF a nécessité la mise en place de nombreuses solutions techniques et d’optimisations spécifiques.
Voici les principales activités menées :

- Consolidation des équipes IA : Nous avons renforcé les compétences internes en MLOps et LLM Ops, en fournissant des outils et frameworks adaptés pour une meilleure gestion du cycle de vie des modèles (suivi, déploiement, monitoring).
- Intégration des solutions MLOps dans les pipelines R&D : L’ajout de solutions de tracking des expériences et de reproductibilité via MLflow a permis de structurer les processus de développement IA tout en améliorant la traçabilité des données et des modèles.
- Optimisation des pipelines IA : Nous avons optimisé les performances via des calculs distribués et la qualité des données, en intégrant des pipelines en temps réel avec Apache Kafka pour un traitement fluide à grande échelle.
- Mise en place de solutions de stockage : Déploiement de features stores pour centraliser les fonctionnalités IA et améliorer l’accès et l’exploitation des données tout au long du cycle de vie des modèles.
- Déploiement et monitoring des LLM : Les LLM ont été déployés sur Azure avec des solutions de monitoring en temps réel, couvrant des cas d’usage comme la génération de réponses automatiques et la synthèse de conversations, avec un suivi continu pour éviter les dérives des modèles (drift).

La stack technique, les modèles utilisés 🤖

Les résultats, les bénéfices obtenus ✨

Les résultats de cette collaboration avec la MAIF sont tangibles à plusieurs niveaux, avec des bénéfices immédiats en termes de performances et de fiabilité des solutions d’IA.

📊 Des solutions d’IA fiables et performantes en production

L’intégration des solutions d’IA en production a permis de fiabiliser à la fois les processus internes et les services clients. La mise à l’échelle des modèles via le cloud Azure et les pipelines optimisés ont amélioré considérablement les performances tout en garantissant une meilleure gestion des données.

🧑‍💻 Amélioration des compétences internes et autonomie

Grâce à la consolidation des équipes et à l’adoption des bonnes pratiques en MLOps et LLM Ops, les équipes de la MAIF ont renforcé leurs compétences en matière de gestion du cycle de vie des modèles d’IA. Cela leur permet désormais d’être plus autonomes dans la gestion et l’évolution de leurs solutions d’intelligence artificielle.

👀 Observabilité et sécurisation des services IA

L’implémentation d’outils de monitoring, d’alerting et de sécurisation des modèles a permis de surveiller en continu les performances des solutions IA, garantissant une détection rapide des anomalies et la prévention des dérives des modèles (drift). La sécurisation des données et des pipelines a également renforcé la confiance en ces systèmes.

Conclusion

L’industrialisation des solutions d’IA à la MAIF a permis de transformer l’expérimentation en un véritable levier de compétitivité. En intégrant des pipelines robustes, scalables et sécurisés, tout en mettant en place une gouvernance rigoureuse via les pratiques MLOps et LLM Ops, la MAIF se positionne désormais à la pointe de l’innovation en IA. Grâce à cette démarche, l’entreprise est en mesure de répondre aux défis futurs tout en garantissant une excellence opérationnelle et une amélioration continue des services.