Module M6 · Éthique IA & Décision Augmentée · 2026
Module 6 · ½ journée

Éthique IA &
Décision Augmentée

Biais · Droit à l'explication · Responsabilité humaine · Dilemmes concrets

L'IA prend des décisions qui affectent des personnes réelles — l'accès à un crédit, l'évaluation d'un risque, la sélection d'un candidat. Ces décisions peuvent être biaisées, opaques et non contestables. Ce module forme les collaborateurs bancaires à exercer leur responsabilité éthique face à l'IA : reconnaître les biais, exiger l'explication, maintenir le jugement humain là où il est irremplaçable.

Objectifs pédagogiques
01Comprendre comment les biais algorithmiques se forment et comment les détecter
02Connaître le droit à l'explication (EU AI Act Art. 13-14) et ses implications opérationnelles
03Distinguer les décisions où l'IA peut aider de celles qui exigent un jugement humain pur
04Appliquer une grille de décision éthique sur des dilemmes concrets bancaires
Direction Générale Conformité & Risques Direction RH Data Owners Pré-requis : M3 + M4
Pejman Gohari · CDO · Chief AI Officer · ORBii
DataLab SG (scoring crédit, churn, fraude) · Bpifrance 15+ produits ML · Gouvernance IA agentique BPCE SI · Auteur DUNOD · Professeur IESEG
academy.orbii.tech
ORBii.Academy · M6 · Éthique IA & Décision AugmentéeConfidentiel · 202601
M6 · Éthique IA & Décision Augmentée · 02
Section 1

L'éthique IA n'est pas philosophique — c'est opérationnelle

« Quand j'ai déployé le premier modèle de scoring crédit au DataLab de la Société Générale, nous avons découvert a posteriori que le modèle surpondérait des codes postaux corrélés à l'origine sociale des clients. Il n'y avait pas d'intention discriminatoire. Mais l'effet était réel et mesurable. C'est ça, un biais algorithmique. »
— Pejman Gohari · DataLab SG 2012-2018 · CDO · Chief AI Officer · ORBii

Pourquoi la banque est en première ligne

Les établissements bancaires utilisent l'IA pour prendre ou préparer des décisions qui ont des conséquences directes sur des individus : accès au crédit, évaluation du risque d'assurance, recrutement, surveillance des transactions. Ces décisions sont soumises à des obligations légales spécifiques que l'EU AI Act renforce.

4
catégories de systèmes IA
classés "haut risque" en banque par l'EU AI Act Annexe III
30M€
ou 6% du CA mondial
amende maximale EU AI Act pour non-conformité systèmes haut risque
100%
des décisions individuelles
doivent être expliquables à la personne concernée (Art. 14)
Août 2026
EU AI Act pleinement applicable
pour les systèmes haut risque en production
⚖️
La question n'est pas « l'IA est-elle éthique ? » mais « comment m'assurer que son usage dans mon périmètre respecte les droits des personnes et les obligations de l'organisation ? ». C'est une question de responsabilité professionnelle concrète.

Ce que l'éthique IA signifie en pratique — 4 dimensions

1 · Équité — Ne pas discriminer

Un système IA ne doit pas produire de résultats systématiquement défavorables à un groupe de personnes en raison de caractéristiques protégées (origine, genre, âge, situation de handicap). Pas de discrimination directe, ni indirecte via des variables proxy.

2 · Transparence — Pouvoir expliquer

Toute personne affectée par une décision IA a le droit de comprendre sur quelle base cette décision a été prise, quelles variables ont été déterminantes, et comment contester si elle estime la décision injuste.

3 · Responsabilité — Maintenir l'humain

L'IA ne prend pas de décisions — elle propose. La responsabilité de la décision finale reste toujours avec un humain habilité. Cela protège l'organisation, et protège le client.

4 · Proportionnalité — Adapter le niveau de supervision

Plus l'impact potentiel d'une décision est élevé, plus le niveau de supervision humaine et d'audit doit être renforcé. Un modèle de scoring crédit à fort volume requiert un dispositif de contrôle continu ; un outil de traduction interne peut fonctionner avec un contrôle minimal.

ORBii.Academy · M6 · Éthique IA & Décision AugmentéeConfidentiel · 202602
Contenu protégé

Vous avez consulté l'aperçu de ce module (2 premières pages).
Pour accéder au contenu complet, entrez votre code d'accès ou demandez un accès.

6 pages restantes Lien personnel · Valide 24h