Les dirigeants IT face à un défi majeur : la gouvernance des systèmes d’IA incontrôlés

Alors que les entreprises accélèrent l’adoption de l’intelligence artificielle, les CIO et CTO se retrouvent en première ligne d’une crise de gouvernance. Selon une étude récente, près des deux tiers des dirigeants IT se sentent responsables de systèmes d’IA qu’ils ne maîtrisent pas pleinement. Cette situation, qualifiée de ‘horror show’ par certains experts, révèle des tensions croissantes au sein des entreprises.

Un décalage inquiétant entre adoption et contrôle

Les chiffres sont éloquents : 70% des organisations déployent des technologies plus rapidement que leurs équipes IT ne peuvent les suivre. D’ici un an, le nombre d’agents IA devrait augmenter de 38%, mais seulement 10% des dirigeants IT se déclarent prêts à gérer cette croissance. Matt Lyteson, CIO de la transformation technologique chez IBM, souligne que de nombreuses entreprises ont des politiques encourageant le développement d’agents par un plus grand nombre d’employés, pas seulement par les équipes IT.

Le paradoxe de l’innovation décentralisée

Si la démocratisation des outils IA stimule l’innovation, elle crée aussi des problèmes majeurs pour les CIO. Ben Schein, chief AI and analytics officer chez Domo, explique que cette situation génère des tensions réelles dans l’entreprise. Les outils IA sont souvent déployés en dehors des équipes IT, sans que les dirigeants en aient connaissance. ‘Quelqu’un en marketing connecte un LLM à un workflow, quelqu’un en finance utilise ChatGPT pour nettoyer des prévisions’, illustre-t-il. Ces actions individuelles, souvent légitimes, deviennent invisibles pour le CIO lorsqu’elles s’agrègent.

La gouvernance, un enjeu critique

Aatish Salvi, CTO chez Applause, confirme cette tendance. ‘Nous observons un développement rapide d’outils IA dans tous les secteurs, mais souvent sans cadre de gouvernance adapté’, déclare-t-il. Le problème réside dans le fait que les personnes développant ces agents n’ont pas toujours l’expertise technique pour les gérer correctement. ‘Ils obtiennent des résultats, mais au détriment de la sécurité, de la conformité et d’autres préoccupations’, ajoute-t-il.

Itai Schwartz, cofondateur et CTO chez MIND, souligne un autre aspect préoccupant : le manque de supervision. ‘La plupart de ces systèmes sont autonomes et non déterministes’, explique-t-il. En pratique, l’outil se contrôle souvent lui-même, sans garde-fous clairs.

Vers une solution : l’observabilité intégrée

Les experts s’accordent sur la nécessité de solutions concrètes. Ben Schein préconise d’intégrer l’observabilité et l’application des politiques au même niveau que les données existantes, plutôt que d’ajouter une couche de gouvernance a posteriori. ‘Les CIO qui réussiront dans les 24 prochains mois sont ceux qui construiront ces capacités dès le départ’, affirme-t-il.

Cette situation met en lumière un défi majeur pour les dirigeants IT africains, qui doivent concilier innovation et contrôle dans un contexte de transformation numérique accélérée. La gouvernance des systèmes IA ne peut plus être une option, mais doit devenir un pilier central de la stratégie technologique des entreprises.