Les pilotes d’IA séduisent par leur apparente simplicité et leur coût réduit, mais la réalité économique surgit au moment du déploiement à grande échelle. Ben Schein, directeur de l’IA et de l’analyse chez Domo, souligne que ces projets initiaux fonctionnent souvent sur des datasets limités et avec peu d’utilisateurs. « La vraie facture apparaît quand on connecte ces capacités aux workflows réels et aux systèmes de référence », explique-t-il. Les CIO doivent donc anticiper ce décalage entre la démonstration réussie et la valeur durable générée.

Le véritable enjeu ne réside pas dans la capacité technique de l’IA à accomplir une tâche, mais dans son intégration opérationnelle. Naren Gangavarapu, directeur de la transformation et de l’IA chez Australian Cruise Group, parle même d’« AI theater » : beaucoup d’organisations se lancent dans des projets visibles sans nécessairement aboutir à des applications productives.

Coûts imprévus et gouvernance

L’un des pièges majeurs réside dans l’incapacité à prévoir l’explosion des coûts avec l’adoption croissante. John D’Emic, CTO de Revenium, cite un exemple interne où une session de codage IA ouverte pendant quatre jours a généré 4 819 appels pour un coût de 3 762 dollars. Dmitriy Anderson, CIO de Leroy Merlin Afrique du Sud, souligne un autre risque : les employés sans expérience en développement créent souvent des applications « sales » (code non sécurisé, exposition de données).

L’introduction d’agents autonomes aggrave ce phénomène. Contrairement aux infrastructures cloud traditionnelles, ces agents effectuent des appels API en continu sans approbation humaine préalable.

Vers une gouvernance rigoureuse

Pour Ben Schein, les coûts élevés ne sont que des symptômes d’un problème plus profond : le manque de gouvernance et d’observabilité. Un workflow autonome peut générer des requêtes et appels imprévus, avec une facture qui n’apparaît qu’a posteriori.

Dmitriy Anderson a démontré qu’il était possible de construire une plateforme en six semaines pour un coût fractionné, en respectant les cadres cyber-sécuritaires. Son projet, orchestrant trois modèles d’IA, aurait autrement requis 2 472 heures de développement sur neuf mois. Cette réussite prouve qu’on peut accélérer les processus tout en maintenant rigueur et sécurité.

La clé pour transformer les expérimentations IA en valeur entreprise réside dans l’attribution systématique de chaque interaction : qui l’a déclenchée, sur quels données et modèles, et à quel coût. Pour chaque charge de travail, il faut déterminer sa fréquence d’exécution, le niveau de modèle nécessaire et ses déclencheurs.