Les lundis de l'IA et de la finance

Co-organisés par l’Autorité de Contrôle Prudentiel et de Résolution (ACPR/Banque de France) et Télécom Paris, les « Lundis de l’IA et de la Finance » forment un cycle de conférences autour de la réglementation de l’IA dans le secteur financier. Dans ce cadre, régulateurs, chercheurs et autres acteurs de l’industrie financière se sont réunis tous les deux mois pour échanger autour de différentes thématiques du domaine. Un premier cycle s’est déroulé de novembre 2020 à mai 2021, un second a lieu tout au long de l’année 2023.

AI mondays
Ce cycle de conférences est organisé par les chaires XAI for Anti-Money Laundering et Finance Digitale avec la participation de la chaire DSAIDIS, au sein de l’initiative Operational AI Ethics de Télécom Paris.
  • #9 – 29 avril 2024 : IA, LCB-FT et fraude
  • #8 – IA et souveraineté numérique
  • #7 – ChatGPT, Large Language Models : Les modèles de fondation
  • #6 – Vers une IA auditable
  • #5 – L’humain (où) dans la boucle ?
  • #4 – Réglementation de l’IA dans le secteur financier
  • #3 – Le partage de données pour l’IA en finance
  • #2 – L’équité dans les algorithmes
  • #1 – L’explicabilité de l’IA en finance

Les Lundis de l’IA et de la finance organisés par Télécom Paris et l’ACPR reprennent donc pour un nouveau cycle de webinaires croisant les points de vue des régulateurs, des chercheurs et des industriels sur les usages et la réglementation de l’IA en finance.

Logo-ACPR-225x220

#9 – 29 avril 2024 : IA, LCB-FT et fraude

Le webinaire du lundi 29 avril (17h à 18h30, heure de Paris), explorera le thème de l’intelligence artificielle, la lutte contre le blanchiment des capitaux et le financement du terrorisme (LCB-FT) et la fraude. Nos intervenants :

Visionner le replay

#8 – IA et souveraineté numérique

Nos intervenants :

nous ont expliqué le 25 septembre en quoi consiste ce défi de la souveraineté numérique et ont apporté leurs perspectives sur ce sujet riche et transverse. Une partie de ces discussions s’est tenue sous la forme d’une table ronde modérée par Olivier Fliche, directeur du pôle Fintech-Innovation de l’ACPR/Banque de France.

En savoir plus sur IA et souveraineté numérique

Visionner le replay

#7 – ChatGPT, Large Language Models : Les modèles de fondation

Le 5 juin 2023, nous nous sommes penchés sur les aspects sociétaux et techniques liés à la régulation des modèles de fondation comme ChatGPT. Quatre experts ont apporté leurs éclairages sur le fonctionnement technique des modèles de fondation, sur les réponses réglementaires politiques émergeant à travers le monde, sur l’enjeu de protection des données et sur l’utilité des LLMs (Large Language Models) pour améliorer nos interactions en ligne.

En savoir plus sur ChatGPT, Large Language Models

Visionner le replay

#6 – Vers une IA auditable

Le deuxième lundi de l’IA de 2023 s’est penché sur la question de l’auditabilité de l’IA. David Bounie, professeur d’économie à Télécom Paris a ouvert le webinaire en posant les interrogations émergentes sur l’audit de l’IA : Quels sont les acteurs de l’audit et de la certification de l’IA en France et en Europe ? Comment les exigences de certification de l’IA Act seront-elles transposées au secteur financier ? Comment les banques se préparent à la certification et aux audits de leurs modèles d’IA ?

Nous avons ensuite écouté les présentations de trois experts : Julien Uri, Expert Fintech-Innovation à l’ACPR/Banque de France,  Agnès Delaborde, Responsable du département Évaluation de l’A et cybersécurité au LNE (Laboratoire National de Métrologie et d’essais) et Thomas Bonnier, Model Risk Manager à la Société Générale.
La dernière demi-heure du webinaire a pris la forme d’une table ronde animée par Olivier Fliche, directeur du pôle Fintech Innovation à l’ACPR et dans laquelle nous avons accueilli Mélanie Gornet, doctorante à Télécom Paris sur la régulation de l’IA, en plus de nos trois présentateurs.

Visionner le replay

#5 – L’humain (où) dans la boucle ?

Le premier webinaire de l’année 2023 (6 mars) a porté sur la place de l’humain dans la supervision de l’IA. « Human in the loop », « Human on the loop » sont des termes désignant le niveau d’implication de l’humain dans les systèmes de décision basés sur l’IA. Y-a-t-il cependant une place réaliste à accorder à l’humain pour rester « aux commandes » ? Nous avons questionné le concept d’humain dans la boucle en nous demandant où – dans le processus de conception, de décision et de gouvernance des systèmes d’IA – l’humain peut avoir une chance de garder le contrôle.

En savoir plus sur le séminaire L’humain (où) dans la boucle ?

Visionner le replay

#4 – Réglementation de l’IA dans le secteur financier

Lors de ce quatrième Lundi de l’IA et de la Finance organisé par l’ACPR et Télécom Paris, nous portons un regard international sur la régulation de l’intelligence artificielle dans le secteur de la finance.

La première heure du webinaire est consacrée à la présentation par nos experts des différents aspects de la réglementation de l’IA. La seconde partie de la conférence prend la forme d’une table ronde animée par Olivier Fliche, Directeur du Hub Fintech-Innovation à l’ACPR et Winston Maxwell, Directeur du droit et des études numériques à Télécom Paris.

Le programme

Introduction: David Bounie (Télécom Paris) et Olivier Fliche (ACPR)

Speakers’ presentations:

Roundtable discussion

  • Olivier Fliche, Director of the Fintech-Innovation Unit at the ACPR
    Winston Maxwell, Director of Law and Digital Studies at Télécom Paris
    Watch the video

Conclusion

Visionner le replay

Lire le compte rendu

#3 – Le partage de données pour l’IA en finance

Dans ce troisième lundi de l’IA avec l’ACPR, nous discutons du partage de données pour l’IA en finance.

La première partie de la conférence se concentre sur l’intérêt public à partager des données. Nous passons en revue plusieurs points de vue différents en examinant l’enjeu de la mise en commun de données pour la lutte anti-blanchiment d’argent, les problématiques de protection des données sensibles et les principes économiques du partage de données.

La deuxième séquence se penche sur l’état de l’art des techniques de traitement collaboratif de données sensibles. Des experts du domaine nous présentent les principes de chiffrement fonctionnel et de confidentialité différentielle (Differential Privacy), les calculs collaboratifs sécurisés (Secure Multi-Party Computation) et l’apprentissage fédéré, ainsi que leurs applications.

Le programme

Introduction : David Bounie (Télécom Paris) et Olivier Fliche (ACPR)

Table ronde 1 : L’intérêt public à partager les données
Animée par Olivier Fliche (ACPR)

Table ronde 2 : Techniques de traitement collaboratif de données sensibles
Animée par Laurent Dupont (ACPR)

Visionner le replay

Lire le compte rendu

#2 – L’équité dans les algorithmes

Dans ce deuxième lundi de l’IA avec l’ACPR, nous discutons des biais algorithmiques, des discriminations qu’ils engendrent et de leur impact dans le secteur de la finance. Nous évoquons notamment les difficultés à la fois techniques et pratiques pour traiter ces biais dont l’origine se trouve bien souvent dans les données reflétant les problèmes d’équité présents dans la société.

La conférence se déroule en deux tables rondes chacune suivie d’une discussion ouverte. La première table ronde analyse les biais d’un point de vue académique en statistiques et en droit avec les professeurs Jean-David Fermanian, Stephan Clémençon et Célia Zolynski. La deuxième table ronde se penche sur la façon de gérer ces biais dans les différents métiers du secteur financier avec Florence Picard, membre de l’Institut des actuaires, My Chi TO, du NYDFS et Vivien Tran-Thien, directeur de AI Consulting chez Dataiku.

Le programme

Introduction : David Bounie (Télécom Paris) et Olivier Fliche (ACPR)

Table ronde 1 : Biais algorithmiques, équité et discrimination
Animée par David Bounie(Télécom Paris

  • Biais d’équité et méthodes de correction
    Jean-David Fermanian, Professeur en Finance et Statistique à l’ENSAE, Institut Polytechnique de Paris
    Télécharger la présentation | Regarder la vidéo
  • Correction des biais : entre défis et impossibilités
    Stephan Clémençon, Professeur en mathématiques appliquées à Télécom Paris, Institut Polytechnique de Paris
    Télécharger la présentation | Regarder la vidéo
  • Biais et discriminations : quelles différences, quels remèdes ?
    Célia Zolynski, Professeure des universités, École de droit, Université Paris I Panthéon Sorbonne
    Regarder la vidéo

Table ronde 2 : Le secteur financier face aux biais algorithmiques
Animée par Laurent Dupont (ACPR)

  • L’approche de l’institut des actuaires
    Florence Picard, membre du haut conseil de l’Institut des actuaires
    Regarder la vidéo
  • L’approche d’une entreprise du numérique
    Vivien Tran-Thien, directeur AI Consulting, Dataiku
    Regarder la vidéo
  • L’approche du Défenseur des droits
    Gaëtan Goldberg, chargé de mission Numérique, Droits et Libertés au Défenseur des droits
    Regarder la vidéo
  • L’approche du régulateur de l’État de New York
    My Chi To    , Executive Deputy Superintendent for Insurance, New York State Department of Financial Services (NYDFS)
    Regarder la vidéo

Visionner le replay

Lire le compte rendu

#1 – L’explicabilité de l’IA en finance

Alors que les cas d’usages de l’IA dans la finance se multiplient, les algorithmes « boîtes noires » posent question pour leur manque de transparence et leur faible interprétabilité. Dans cette première conférence virtuelle de la série des « Lundis de l’IA et de la Finance » avec l’ACPR , nous discutons de la notion d’explicabilité qui apparaît de plus en plus cruciale pour garantir l’acceptabilité des algorithmes dans le secteur financier, en examinant notamment l’approche à quatre niveaux proposée par l’ACPR dans son document de réflexion sur la gouvernance des algorithmes.

La conférence se déroule en deux tables rondes autour de l’explicabilité de l’IA dans la finance, chacune suivie d’une discussion ouverte. La première table ronde analyse les enjeux académiques de l’explicabilité ainsi que les enjeux de régulation. La deuxième table ronde se penche sur les attentes du marché concernant l’explicabilité.

Le programme

Introduction : David Bounie, Télécom Paris, Institut Polytechnique de Paris et Olivier Fliche, Directeur du pôle fintech-innovation à l’ACPR.

Table ronde : l’explicabilité, de la théorie à la régulation

  • Le concept d’explicabilité en informatique et science des données
    Florence d’Alché-Buc, Professeure à Télécom Paris, Institut Polytechnique de Paris
    Télécharger la présentation
  • Le concept d’explicabilité pour la société
    Winston Maxwell, Directeur d’étude en droit numérique, Télécom Paris, Institut Polytechnique de Paris
    Télécharger la présentation
  • Le concept d’explicabilité du point de vue du régulateur – L’approche « 4 niveaux » de l’ACPR
    Laurent Dupont, Data Scientist senior au pôle fintech-innovation à l’ACPR
    Télécharger la présentation
  • Discussion et questions / réponses
    Animation par Astrid Bertrand, doctorante de la chaire XAI for Anti-Money Laundering de Télécom Paris

Table ronde : Comment appréhender l’explicabilité pour les acteurs du marché ?

  • Défis pour le marché
    Jean Barrère, Associé Data Intelligence chez PwC France et Maghreb
    Télécharger la présentation
  • L’explicabilité des algorithmes dans l’assurance
    Antoine Lissowski, Directeur Général de CNP Assurances
  • Discussion et questions / réponses
    Animation par Olivier Fliche

Conclusion : David Bounie et Olivier Fliche

Visionner le replay

Lire le compte rendu