Cette édition des Transparency Awards était placée sous le signe de la décision : comment les organisations décident, avec quels outils, et avec quel degré de confiance dans ces outils. L’intelligence artificielle, de plus en plus présente dans les processus de décision, en est aujourd’hui un acteur à part entière. Reste une question simple : peut-on réellement lui faire confiance ?
C’est cette question qu’a abordée Olivier Sibony en s’attaquant à un lieu commun du discours managérial sur l’IA : « vérifiez toujours ce que vous propose l’IA, corrigez-la quand elle se trompe. » Un conseil qui paraît sensé et qui est pourtant, selon lui, un mauvais conseil.
Premier constat : si l'IA est meilleure que nous, il faut le savoir
Le raisonnement part d’une évidence trop souvent oubliée : on n’utilise une IA que parce qu’elle est, a priori, meilleure que nous pour prendre une décision donnée. Dès lors, sur les cas où l’humain n’est pas d’accord avec elle, c’est le plus souvent l’IA qui a raison sans quoi elle ne serait pas meilleure. Exiger une vérification systématique revient donc à comparer l’IA non pas à un humain parfait, mais à un humain faillible, et à se donner le droit de la contredire précisément dans les cas où elle nous corrige le plus utilement.
Une étude portant sur des diagnostics médicaux illustre ce paradoxe : des médecins posent le bon diagnostic dans 74 % des cas compliqués soumis, une IA spécialisée dans 90 % des cas. Lorsqu’on demande aux médecins d’utiliser l’IA tout en gardant la décision finale la fameuse consigne de vérification, le taux de réussite ne progresse que marginalement, de 74 à 76 %. En pratique, les médecins, comme la plupart des humains, ont tellement intégré l’injonction à rester vigilants qu’ils tranchent en leur propre faveur dès qu’ils sont en désaccord avec la machine annulant une grande partie du gain de performance.
Le véritable enjeu n’est donc pas de vérifier après coup, mais de s’assurer, en amont, qu’on peut faire confiance à l’IA dans les cas précis où elle nous contredit.
Le préalable : savoir ce qu'on veut
Cette confiance suppose une condition implicite : savoir précisément ce que constitue une bonne décision. C’est possible dans un cadre bien défini, comme un diagnostic médical, où l’on peut arbitrer entre faux positifs et faux négatifs. C’est beaucoup plus rare dans les décisions managériales courantes.
Le recrutement en est un exemple frappant. Le volume de candidatures, lui-même gonflé par l’usage de l’IA côté candidats, oblige les entreprises à recourir à des algorithmes de tri. Mais la plupart des fiches de poste, aussi détaillées soient-elles, ne précisent jamais la pondération entre les critères, ni les indicateurs permettant de vérifier qu’un critère est rempli. Faute de cette précision, ce sont les concepteurs de l’outil pas l’entreprise elle-même qui déterminent implicitement les critères de décision, souvent en extrapolant à partir des recrutements passés. Ce mode de fonctionnement reproduit alors mécaniquement les biais historiques de l’organisation, sans qu’aucun garde-fou humain ne puisse les corriger, puisque personne n’a formulé explicitement ce qui était réellement recherché.
La conclusion est directe : pour bien décider, seul ou avec une IA, il faut d’abord savoir ce que l’on veut et faire l’effort de le formuler. À défaut, on laisse d’autres définir nos critères à notre place.
Second constat : la boîte noire n'est pas le vrai problème
La seconde idée reçue combattue est celle de l’opacité : on ne pourrait jamais totalement faire confiance à une IA parce qu’elle reste une boîte noire, y compris pour ses concepteurs. Or, souligne Olivier Sibony, le cerveau humain est lui aussi une boîte noire plus complexe encore qu’un algorithme et cela n’empêche personne de faire confiance à ses collègues ou à ses proches.
Plus largement, la confiance dans des objets que l’on ne comprend pas est une condition même de la vie en société : personne ne comprend le fonctionnement d’un avion, d’un médicament ou d’une balance électronique chez l’épicier. Cette confiance repose sur une infrastructure invisible : organismes de contrôle, accréditations, publications scientifiques à comité de lecture, autorisations de mise sur le marché. C’est cette infrastructure et non la compréhension individuelle qui rend la confiance possible.
L’IA souffre alors moins d’un déficit de compréhension que d’un déficit d’infrastructure : les normes, procédures et organismes de contrôle capables de garantir sa fiabilité n’ont pas encore atteint la maturité de ceux qui encadrent d’autres technologies. L’enjeu collectif, y compris pour les professionnels de l’information et de la transparence, est de construire cette innovation institutionnelle à la hauteur de la rapidité de l’innovation technologique.
Faire confiance à l’IA quand elle est réellement meilleure que nous suppose deux efforts préalables : définir précisément ce que l’on cherche à obtenir, et construire les conditions institutionnelles normes, contrôles, validations indépendantes qui permettent de vérifier objectivement sa fiabilité. Sans ces deux étapes, la vérification systématique promue par le sens commun ne fait qu’annuler les bénéfices que l’IA pourrait apporter.
- Panorama des meilleures pratiques financières, extra-financières et éthique
Télécharger l'étude Transparence
Découvrez :
- Comment vous vous positionnez par rapport aux standards du SBF 120
- Les tendances observées en matière d’information financière, extra-financière et éthique
- Des exemples concrets pour améliorer vos documents