Intelligence artificielle & corruption

Articles à la une

L’Intelligence Artificielle, une arme contre la corruption ?

L’indice de perception de la corruption (IPC)1)Indice composite qui mesure les perceptions de la corruption dans le secteur public perçue dans les administrations publiques et la classe politique de 180 pays et territoires du monde. 2019 de Transparency International place la France à la 23ème place sur 180 pays. Avec un score de 69 dans l’IPC2)https://www.transparency.org/cpi2019, sur une échelle de 0 à 100 où les Etats proches de 0 sont perçus comme très corrompus tandis que les plus proches de 100 sont perçus comme moins corrompus, la France se situe dans la moyenne des pays européens. Si ces dernières années, elle a commencé à mettre en œuvre des mesures de lutte contre la corruption de grande envergure telles que les lois pour la transparence de 2013 et la loi Sapin 2 du 9 décembre 2016, des « zones grises »3)Rapport d’évaluation du Cinquième Cycle sur la France en matière de corruption, Groupe d’Etats contre la corruption (GRECO), Conseil de l’Europe, adopté le 6 décembre 2019. dans la lutte contre la corruption demeurent. Une nouvelle impulsion politique est donc indispensable afin de progresser dans la lutte contre ce fléau.

Un tournant dans ce combat pourrait alors venir de l’utilisation des nouvelles technologies notamment l’intelligence artificielle destinée à jouer un rôle majeur dans un avenir proche. L’intelligence artificielle (IA) se définit comme l’intelligence démontrée par des machines, contrairement à l’intelligence naturelle dont font preuve les humains et les animaux. Elle est souvent programmée pour imiter les processus décisionnels des humains sans erreur ni parti pris. Une question se pose donc : l’Intelligence artificielle peut-elle contribuer à la lutte contre la corruption ?

 

L’IA, un outil de lutte contre la corruption à fort potentiel

L’utilisation de la technologie d’ IA comme outil de lutte contre la corruption n’est pas entièrement nouvelle. Le gouvernement de Singapour a testé l’ IA pour identifier les fraudes aux marchés publics par une analyse des données financières, des demandes de marchés, des approbations d’appels d’offre, des noms d’employés du gouvernement, de fournisseurs et des membres de leur famille4)https://www.channelnewsasia.com/news/singapore/singapore-double-artificial-intelligence-efforts-balakrishnan-11298028. Depuis 2012, la Chine utilise une Intelligence Artificielle, « Zero Trust » capable, grâce à l’analyse de données bancaires, de registres de propriété et même de données satellitaires, d’identifier les signes de corruption au niveau institutionnel5)https://futurism.com/the-byte/china-ai-corruption. Le système peut de ce fait détecter immédiatement des indicateurs de pratiques corruptives.

À l’heure où la donnée est le nouvel « or noir », l’intelligence artificielle a la capacité d’analyser de vastes quantités de données provenant de diverses sources, de relever des activités suspectes, le tout à une vitesse et avec une complexité qu’aucun humain ne peut égaler.

La détection d’activités suspectes est l’un des avantages les plus considérables dans la lutte contre la corruption. En effet, l’IA peut analyser les livres comptables, les notes de frais de voyages, les dépenses, les reçus et les factures, les e-mails, les appels téléphoniques et les SMS.

Un outil de surveillance basé sur l’apprentissage automatique (ou « machine learning » en anglais)6)Le machine learning consiste à fournir au système une masse de données, que l’Homme lui aura préalablement expliqué ,et sur la base desquelles l’IA effectuera ses propres déductions, affinées à mesure qu ‘elle « apprend » de ses erreurs. reçoit des informations de base et apprend à reconnaître les modèles transactionnels acceptables et appropriés, puis a la capacité d’identifier les transactions qui ne correspondent pas à ce modèle, qui ne font pas partie du flux d’affaires normal et qui peuvent être anormales, telles que les paiements en retard ou en double, les factures falsifiées et autres transactions suspectes.

L’implémentation de ce type d’outils peut donc aider les chargés de conformité à identifier et limiter les risques de corruption en temps réel et en continu.

 

Peut-on  donc prédire la corruption avec l’IA?

L’IA permet à priori de détecter des modèles qui laissent entrevoir la possibilité d’un comportement corrompu.

Une autre approche pour détecter les actes de corruption consiste à intégrer des analyses prédictives. Les algorithmes prédictifs peuvent être utilisés pour analyser les données historiques et créer automatiquement des règles prédictives pour compléter celles qui ont été créées manuellement. Ainsi, selon une étude7)López-Iturriaga, F. J., and Sanz, I. P. 2018. Predicting Public Corruption with Neural Networks: An Analysis of Spanish Provinces. Social Indicators Research 140 (3):975–98 réalisée par l’Ecole supérieure d’économie (HSE) et l’Université de Valladolid en Espagne, publiée en 2017, il est possible de prédire la propension à la corruption au niveau des provinces et des municipalités grâce à l’analyse de liens de causalité entre certains éléments et l’apparition de cas de corruption tel que la longue durée d’un mandat politique, l’augmentation des prix de l’immobilier, la croissance économique…

Cette prédiction aiderait les gouvernements à cibler leurs efforts, en se concentrant sur des contrôles plus stricts dans ces zones particulièrement à risque. Plus important encore, les systèmes d’IA peuvent aider les gouvernements à repérer les failles dans le cadre réglementaire national ou régional (Lorsqu’une variable identifiée par le système d’IA ne répond pas comme prévu aux changements d’une autre variable, le système d’IA peut envoyer une alerte).

Un tel système aiderait les Etats à faire face à la corruption en leur fournissant les outils nécessaires pour agir avant qu’elle ne s’installe.

Les innovations technologiques en matière d’intelligence artificielle sont donc un vecteur important du développement sociétal et peuvent contribuer significativement à lutter contre la corruption. Toutefois, comme toute avancée, son impact soulève des enjeux majeurs.

Tout d’abord, sachant avec quelle facilité les programmeurs informatiques peuvent modifier les algorithmes de recherche pour diriger les individus vers un contenu plutôt qu’un autre ou recueillir des informations à partir de profils individuels sur  les réseaux sociaux, il est évident que les personnes ayant de mauvaises intentions s’intéressent beaucoup à la manière d’utiliser ces algorithmes à leur avantage.

Les entreprises doivent donc être conscientes qu’elles ont obligation de disposer de solides programmes de sécurité de l’information pour garantir que le trafic de données est protégé contre toute attaque. Elles doivent également mettre en place des mesures pour détecter les tentatives d’intrusion afin que des mesures puissent être prises immédiatement et que les modifications appropriées soient faites.

Ensuite, les décisions basées sur l’IA peuvent soulever des problèmes de transparence. En effet, il arrive que les algorithmes à la base des décisions prises par l’IA puissent être si compliqués que les créateurs ne soient pas en mesure d’expliquer le raisonnement qui sous-entend les résultats. C’est ce qu’on appelle « l’effet de la boîte noire » et de multiples méthodes sont étudiées pour le résoudre8)L’entreprise américaine IBM a développé en 2018 une solution logicielle permettant de faire comprendre à l’utilisateur comment le modèle d’Intelligence Artificielle a abouti à une décision en temps réel en utilisant des termes clairs. https://www.ibm.com/blogs/watson/2018/09/trust-transparency-ai/. C’est notamment le cas de l’intelligence Artificielle, « Zero Trust » qui lorsqu’elle désignait un fonctionnement corrompu ne pouvait expliquer le processus par lequel elle était parvenue à une telle conclusion. Ces préoccupations doivent être prises en compte lors de la conception ou la promotion de la technologie d’IA dans des domaines sensibles tels que la lutte contre la corruption.
Enfin, bien que l’IA prenne le relais sur certains sujets et réduise la nécessité d’effectuer certaines tâches, l’homme est nécessaire pour orienter l’IA dans la bonne direction et pour superviser les informations reçues. Si les algorithmes sont défectueux, de mauvaises décisions peuvent être prises ou des éléments importants peuvent être manqués.

Si l’on veut que la lutte contre la corruption profite réellement du plein potentiel de l’intelligence artificielle, il faut mettre en place certaines garanties pour éviter toutes utilisations abusives.

En dépit de ces promesses, des questions persistent sur la manière de gérer ces algorithmes, notre capacités à contester ces décisions automatisées et la responsabilité qu’il en découle lorsque les machines prennent ces décisions. Le” droit d’être oublié”  le droit de la vie privée et le droit à l’explicabilité9)Droit découlant de l’Article 22 du Règlement Général sur la protection des données personnelles (RGPD) demeurent des  questions épineuses.

L’IA fait d’ailleurs l’objet de nombreuses discussions à l’échelle internationale. Ainsi, la Banque mondiale travaille avec Microsoft pour développer une machine, outil d’apprentissage qui détecte les anomalies dans les marchés publics, en combinant les données des appels d’offres avec des informations sur la propriété effective. Les résultats sont encore à venir, preuve que ce sujet est bien d’actualité.10)https://blogs.worldbank.org/governance/can-artificial-intelligence-stop-corruption-its-tracks

References
1 Indice composite qui mesure les perceptions de la corruption dans le secteur public perçue dans les administrations publiques et la classe politique de 180 pays et territoires du monde.
2 https://www.transparency.org/cpi2019
3 Rapport d’évaluation du Cinquième Cycle sur la France en matière de corruption, Groupe d’Etats contre la corruption (GRECO), Conseil de l’Europe, adopté le 6 décembre 2019.
4 https://www.channelnewsasia.com/news/singapore/singapore-double-artificial-intelligence-efforts-balakrishnan-11298028
5 https://futurism.com/the-byte/china-ai-corruption
6 Le machine learning consiste à fournir au système une masse de données, que l’Homme lui aura préalablement expliqué ,et sur la base desquelles l’IA effectuera ses propres déductions, affinées à mesure qu ‘elle « apprend » de ses erreurs.
7 López-Iturriaga, F. J., and Sanz, I. P. 2018. Predicting Public Corruption with Neural Networks: An Analysis of Spanish Provinces. Social Indicators Research 140 (3):975–98
8 L’entreprise américaine IBM a développé en 2018 une solution logicielle permettant de faire comprendre à l’utilisateur comment le modèle d’Intelligence Artificielle a abouti à une décision en temps réel en utilisant des termes clairs. https://www.ibm.com/blogs/watson/2018/09/trust-transparency-ai/
9 Droit découlant de l’Article 22 du Règlement Général sur la protection des données personnelles (RGPD)
10 https://blogs.worldbank.org/governance/can-artificial-intelligence-stop-corruption-its-tracks