🚀 Empreinte carbone de l'IA générative : Comment RATP Smart Systems allie innovation et éco-responsabilité avec RAIL

🌍 Le coût caché de l'IA : Comprendre l'impact environnemental des LLM

L'essor des Grands Modèles de Langage (LLM) soulève un défi écologique sans précédent pour le secteur du numérique. L'empreinte carbone de l'intelligence artificielle générative se divise en deux étapes critiques :

1. La phase d'entraînement (Training) : C'est la création du modèle. Ingestion de pétaoctets de données, mobilisation de milliers de cartes graphiques (GPU) tournant à plein régime pendant des mois... L'entraînement d'un modèle de pointe peut générer plusieurs centaines de tonnes d'équivalent CO₂, soit l'empreinte de dizaines de vols transatlantiques.
2. La phase d'utilisation (Inférence) : C'est l'exécution quotidienne des requêtes par les utilisateurs. Si une requête isolée semble négligeable, la multiplication par des millions d'utilisateurs fait de l'inférence la première source d'émissions de l'IA sur le long terme.

Pour bien mesurer l'écart avec nos usages numériques traditionnels, le constat est clair :

Une simple requête à une IA générative consomme en moyenne 10 fois plus d'énergie qu'une recherche web classique. Face à cette réalité, l'approche Green IT n'est plus une option, c'est une nécessité architecturale.

🔍 RAIL : La plateforme IA de RATP Smart Systems qui rend visible l'invisible

En tant qu'acteur de la mobilité intelligente et durable, RATP Smart Systems se doit d'appliquer ses exigences écologiques à ses propres outils numériques. C'est dans cet esprit que notre Datalab a conçu RAIL (RATP Smart Systems AI Lab), une plateforme sécurisée permettant à nos équipes d'exploiter la puissance de l'IA générative, tout en maîtrisant la donnée.

Mais la véritable prouesse produit de RAIL réside dans son module de transparence en temps réel.

Plutôt que d'interdire ou de limiter aveuglément les usages, nous avons opté pour la sensibilisation par la donnée (le Nudge). À chaque interaction avec l'IA, l'interface RAIL calcule et restitue instantanément trois métriques clés à l'utilisateur :

• ⚙️ Les tokens utilisés : Le volume exact d'informations traitées (contexte + réponse).
• 💶 Le coût d'inférence : L'estimation financière directe de la requête en euros.
• 🍃 L'empreinte carbone : L'estimation des gaz à effet de serre émis, mesurée en milligrammes de CO₂.

Un exemple concret issu de notre plateforme : Pour une analyse de document complexe, la plateforme affichera en toute transparence : 3 380 tokens utilisés | € 0.050 | 6.8 mgCO₂.

En rendant ces 6.8 mgCO₂ tangibles pour plus de 3000 tokens traités, RATP Smart Systems prouve qu'il est possible de concilier très haute performance technologique et suivi de l'impact environnemental.

L'architecture technique de l'éco-transparence

Comment le Datalab RSS parvient-il à fournir ces données en temps réel ? Voici un aperçu de l'architecture de calcul de la plateforme RAIL :

L'importance stratégique du mix énergétique : Le choix des serveurs

Mesurer l'empreinte carbone est essentiel, mais la réduire à la source l'est tout autant. L'impact environnemental de l'IA générative dépend massivement du pays où les calculs sont exécutés, en raison du "mix énergétique" local.

Par exemple, faire tourner un LLM sur un serveur hébergé dans un pays dépendant du charbon ou du gaz (comme l'Allemagne, avec près de 400 gCO₂eq/kWh, ou la Pologne, au-delà de 600 gCO₂eq/kWh) fait exploser le bilan carbone de chaque requête.

À l'inverse, RATP Smart Systems s'attache à sélectionner rigoureusement les infrastructures d'hébergement de RAIL en privilégiant des régions à très faible intensité carbone.

En ciblant des zones comme la France (dominante nucléaire, moins de 100 gCO₂eq/kWh) ou des pays nordiques comme la Suède (hydroélectricité massive avoisinant les 30 gCO₂eq/kWh) et en excluant strictement les régions fortement dépendantes des énergies fossiles, le Datalab divise mécaniquement par cinq, voire par dix, l'empreinte carbone liée à l'inférence des modèles de la plateforme. 

💡 Le "Prompt Responsable" : Transformer la culture numérique

L'intégration de ces indicateurs sur RAIL n'est pas qu'un défi technique réussi ; c'est un puissant levier d'acculturation pour nos métiers. En affichant le coût carbone, RATP Smart Systems encourage le développement du Prompt Responsable.

Nos utilisateurs apprennent à optimiser leurs interactions avec l'IA grâce à quelques principes simples encouragés par le produit :

1. Cibler la requête : Un prompt précis dès le départ évite les itérations inutiles et divise l'empreinte carbone par deux ou trois.
2. Choisir le bon modèle : RAIL permet de sélectionner la taille du modèle selon le besoin. On n'utilise pas un modèle ultra-massif pour corriger une syntaxe de base.
3. Capitaliser sur l'historique : Éviter de régénérer des réponses déjà obtenues.

En conclusion

L'intelligence artificielle n'est pas incompatible avec la transition écologique, à condition d'être pilotée avec rigueur et transparence. Avec le développement de la plateforme RAIL, le Datalab de RATP Smart Systems démontre sa capacité à déployer des technologies de rupture (Deep Tech) tout en respectant une trajectoire numérique responsable.

L'avenir de l'IA sera durable, et chez RATP Smart Systems, nous avons déjà commencé à l'écrire.