L’IA peut-elle réellement améliorer l’analyse des risques d’une entreprise ?

Je pense que oui. Mais certainement pas en remplaçant l’expertise humaine.

Pendant longtemps, l’analyse des risques a reposé sur des données financières, des ratios, des cartographies, des procédures de contrôle et, bien entendu, sur l’expérience des dirigeants et des experts.

Ces méthodes restent indispensables.

Mais les entreprises disposent aujourd’hui d’une quantité considérable d’informations. Le problème n’est donc plus seulement de disposer de données : il est de savoir lesquelles sont réellement utiles pour décider.

C’est précisément là que l’intelligence artificielle peut apporter quelque chose de nouveau.

Elle peut notamment aider à :

• Rapprocher des informations provenant de sources différentes ;
• Détecter des incohérences ou des évolutions inhabituelles ;
• Identifier des signaux faibles ;
• Faire apparaître certaines relations entre risques ;
• Hiérarchiser plus rapidement les informations ;
• Simuler différents scénarios ;
• Transformer une masse de données en éléments réellement exploitables par le décideur.

Mais il existe, à mon sens, une condition essentielle :

L’intelligence artificielle doit rester un outil d’aide à la décision et non devenir le décideur.

Un algorithme peut détecter une anomalie. Il ne connaît pas nécessairement l’histoire de l’entreprise.

Il peut calculer une probabilité, mais il ne connaît pas toujours la qualité réelle d’une relation avec un client, un fournisseur ou un partenaire.

Il peut produire une recommandation. Encore faut-il savoir sur quelles données, quelles hypothèses et quel niveau de fiabilité elle repose.

C’est d’ailleurs un sujet auquel je suis particulièrement attaché : distinguer ce que nous savons de ce que nous estimons.

Une donnée issue d’une pièce justificative, un indicateur calculé, une hypothèse prédictive ou une information restant à confirmer ne devraient donc jamais être présentés au décideur de la même manière.

C’est cette réflexion qui m’a conduit à développer RiskIA autour d’une idée simple : mieux distinguer ce que nous savons, ce que nous calculons, ce que nous estimons et ce qui reste à confirmer.

L’objectif n’est pas de demander à l’intelligence artificielle :

« Que dois-je décider ? »

Mais plutôt :

« Aide-moi à mieux comprendre ce que je dois prendre en compte avant de décider. »

C’est une différence fondamentale.

L’IA peut apporter de la valeur au management des risques si elle contribue à structurer un corpus de connaissance utile à la décision.

De la donnée à la connaissance

L’intelligence artificielle éclaire-t-elle le risque ou seulement notre perception du risque ?

Lorsque j’ai commencé à réfléchir à l’utilisation de l’intelligence artificielle dans l’analyse des risques, une question simple s’est imposée : nous permet-elle réellement de mieux connaître le risque, ou nous donne-t-elle seulement l’impression de mieux le connaître ?

Cette distinction est essentielle.

Le risque appartient précisément à cet espace qui sépare ce que nous savons de ce que nous ignorons.

Nous cherchons à le mesurer, à le cartographier, à le hiérarchiser. Nous construisons des indicateurs, des probabilités, des scénarios.

Et pourtant, le risque demeure.

Une entreprise moderne produit une quantité considérable d’informations. Informations financières, commerciales, opérationnelles, humaines, réglementaires, économiques : jamais le dirigeant n’a probablement disposé d’autant de données pour prendre ses décisions.

Mais disposer de davantage d’informations signifie-t-il nécessairement mieux comprendre ?

Je ne le crois pas.

La donnée n’est pas encore l’information.

L’information n’est pas encore la connaissance.

Et la connaissance n’est pas encore la décision.

Entre chacune de ces étapes intervient quelque chose que la puissance de calcul ne suffit pas, à elle seule, à produire : le discernement.

C’est précisément dans cet espace que je situe l’intérêt de l’intelligence artificielle.

L’IA peut être envisagée comme un instrument au service du discernement, un peu comme une boussole sur une carte maritime.

Elle peut examiner rapidement des volumes considérables de données, rapprocher des informations éloignées, rechercher des corrélations, détecter des anomalies et parfois faire apparaître ce que nous n’avions pas vu.

Elle peut révéler un signal faible.

Elle peut attirer notre attention sur une évolution inhabituelle.

Elle peut confronter plusieurs scénarios.

Elle peut nous conduire à regarder là où nous ne pensions pas devoir regarder.

Mais elle ne décide pas du sens que nous devons donner à ce qu’elle découvre.

Elle éclaire.

Et cette distinction me semble fondamentale : l’instrument peut augmenter notre capacité à observer le réel, mais il ne nous dispense jamais de l’interpréter.

Un paradoxe apparaît alors.

Plus nos outils deviennent puissants, plus nous pouvons être tentés de leur accorder une confiance excessive.

Un chiffre précis possède une force particulière.

Une probabilité exprimée à la décimale près semble plus rassurante qu’une appréciation humaine.

Un modèle complexe peut donner l’impression que l’incertitude a disparu simplement parce qu’elle a été transformée en calcul.

Mais la précision du résultat ne garantit jamais la qualité de ce qui l’a produit.

Une donnée peut être fausse.

Une information peut être incomplète.

Une hypothèse peut être fragile, voire erronée en raison d’un biais.

Une corrélation peut être dépourvue de causalité.

Et une intelligence artificielle peut construire un raisonnement parfaitement cohérent à partir de prémisses qui ne le sont pas.

Nous retrouvons alors une exigence ancienne, identique à celle des bâtisseurs :

il faut interroger la qualité de la pierre avant de construire l’édifice.

Autrement dit, il faut distinguer ce que nous savons de ce que nous croyons savoir.

Une analyse de risque devrait donc toujours distinguer plusieurs niveaux de connaissance :

• ce qui est confirmé, parce qu’une preuve permet de l’établir ;
• ce qui est calculé, à partir de données et d’une méthode explicite ;
• ce qui est estimé, parce que nous devons parfois travailler avec des hypothèses ;
• et ce qui reste à confirmer.

Ces quatre situations ne devraient jamais être confondues.

L’intelligence artificielle ne doit donc pas seulement nous aider à produire davantage d’informations.

Elle devrait aussi nous aider à qualifier notre degré de connaissance.

Reconnaître ce que nous ignorons constitue peut-être l’une des premières conditions d’une bonne analyse du risque.

De la connaissance à la décision

Nous arrivons alors à ce qui me paraît être le cœur du sujet.

Qui décide ?

Une intelligence artificielle peut analyser mille scénarios.

Elle peut attribuer des probabilités.

Elle peut proposer une solution optimale selon les critères qui lui ont été donnés.

Mais elle ne porte pas la responsabilité de la décision.

Le dirigeant, lui, la porte.

Car décider ne consiste pas simplement à sélectionner le résultat présentant la meilleure probabilité.

Décider, c’est confronter l’information à l’expérience, aux conséquences possibles, aux valeurs de l’organisation, à la situation humaine et parfois à l’intuition.

C’est aussi accepter qu’une part d’incertitude demeure.

L’intelligence artificielle peut réduire l’obscurité.

Elle ne supprimera jamais totalement l’inconnu.

C’est autour de cette idée que j’ai progressivement construit RiskIA.

Non pas pour créer une machine destinée à décider à la place du dirigeant, mais pour construire un outil permettant de mieux distinguer, de mieux hiérarchiser et de mieux comprendre.

Autrement dit, pour accompagner le passage :

• de la donnée à l’information ;
• de l’information à la connaissance ;
• de la connaissance au discernement ;
• et du discernement à la décision.

L’intelligence artificielle trouve alors sa juste place.

Non pas celle d’un oracle auquel nous demanderions :

« Que dois-je faire ? »

Mais celle d’un instrument auquel nous demanderions :

« Aide-moi à mieux voir avant que je décide. »

Le véritable progrès apporté par l’intelligence artificielle dans l’analyse des risques ne réside peut-être pas seulement dans sa capacité à apporter davantage de réponses.

Il pourrait résider dans sa capacité à nous conduire à poser de meilleures questions.

Car devant le risque comme devant l’inconnu, la lumière ne dispense jamais celui qui la reçoit de choisir son chemin.

Vers une anthropologie nouvelle de la décision dans l’organisation

L’intelligence artificielle ne constitue pas seulement un nouvel instrument mis à la disposition de l’organisation.

Son apparition nous oblige peut-être à interroger la manière même dont une organisation construit sa connaissance et prend ses décisions.

Car une organisation ne décide jamais uniquement à partir de données.

Elle décide à travers une histoire, une culture, des rapports d’autorité, des habitudes, des croyances, des expériences accumulées, des intérêts parfois divergents et des représentations collectives du risque.

La décision est donc aussi un fait humain et social.

Pendant longtemps, l’organisation a construit son propre corpus décisionnel.

L’expérience du dirigeant, l’expertise des métiers, les règles de gestion, les procédures, les systèmes de contrôle, la mémoire de l’entreprise et les échanges entre les individus constituaient ensemble une forme d’intelligence collective.

L’intelligence artificielle introduit désormais une nouvelle composante dans ce corpus décisionnel.

Non pas un acteur humain supplémentaire, mais un système capable de produire de l’analyse, de rapprocher des informations, de formuler des hypothèses et de proposer des recommandations.

Dès lors apparaît une question qui me semble plus profonde que celle de la seule performance technologique :

Comment l’organisation va-t-elle intégrer cette nouvelle forme d’intelligence dans son propre processus de décision ?

Nous pourrions voir émerger un nouveau corpus organisationnel dans lequel cohabiteraient plusieurs formes de connaissance :

• la connaissance acquise, issue de l’expérience ;
• la connaissance démontrée, fondée sur les faits et les preuves ;
• la connaissance calculée, produite par les modèles ;
• la connaissance estimée, issue des probabilités et des scénarios ;
• la connaissance collective, construite par la confrontation des regards ;
• et désormais la connaissance augmentée, issue de l’interaction entre l’Homme et les systèmes d’intelligence artificielle.

Mais cette dernière ne devrait jamais être confondue avec une vérité nouvelle.

Elle constitue une proposition supplémentaire soumise au discernement.

De l’organisation de la connaissance à l’organisation du discernement

Cette évolution pose également une question de pouvoir.

Dans toute organisation, celui qui détient l’information détient une partie de la capacité d’influencer la décision.

Que devient cet équilibre lorsqu’un système peut agréger davantage d’informations que chacun des acteurs pris individuellement ?

À qui appartient alors la connaissance produite ?

• À celui qui possède les données ?
• À celui qui construit le modèle ?
• À celui qui formule la question ?
• À celui qui interprète la réponse ?
• Ou à celui qui, finalement, assume la décision ?

La question de l’intelligence artificielle rejoint ici celle de la gouvernance.

L’enjeu n’est donc plus seulement de savoir si l’IA peut mieux analyser le risque.

Il consiste également à déterminer la place que nous souhaitons lui donner dans l’architecture humaine de la décision.

Nous avons longtemps représenté la décision selon une logique relativement verticale : l’information remonte, elle est analysée, puis une décision redescend.

L’intelligence artificielle pourrait bouleverser cette représentation.

Elle permet potentiellement à différents niveaux de l’organisation d’accéder simultanément à des capacités d’analyse autrefois concentrées entre quelques mains.

Le collaborateur, l’expert, le manager et le dirigeant pourraient ainsi interroger une même réalité à partir d’angles différents.

L’organisation ne serait alors plus seulement structurée par la circulation de l’information.

Elle pourrait l’être par la capacité collective à l’interroger.

Cela modifierait profondément le rôle du dirigeant.

Sa valeur ne résiderait plus nécessairement dans le fait de savoir davantage que les autres.

Elle pourrait résider davantage dans sa capacité à poser la bonne question, à confronter plusieurs représentations du réel, à arbitrer entre elles et à assumer la décision qui en résulte.

Nous passerions ainsi progressivement d’une organisation de la connaissance à une organisation du discernement.

Et c’est peut-être ici que la dimension anthropologique devient essentielle.

Car plus la machine sera capable de calculer, plus l’Homme devra apprendre à distinguer.

Plus elle sera capable de proposer, plus il devra savoir questionner.

Plus elle semblera certaine, plus il devra préserver la possibilité du doute.

L’intelligence artificielle ne supprimerait donc pas la responsabilité humaine.

Paradoxalement, elle pourrait la rendre plus importante encore.