Hoja de repaso: Introduction à la régulation de l'IA

📋 Plan du Cours

1. Approches et technologies de l'intelligence artificielle
2. Applications et impacts de l'IA
3. Risques et enjeux éthiques de l'IA
4. Cadre juridique européen de l'IA
5. Classification des systèmes d'IA selon le risque
6. Exigences et obligations réglementaires pour l'IA
7. Organismes de contrôle et sanctions
8. Défis et perspectives de la régulation de l'IA
9. Responsabilité juridique liée à l'IA

📖 1. Approches et technologies de l'intelligence artificielle

🔑 Notions clés & Définitions

• États-Unis : Pas d’autorité fédérale unique, mais des agences sectorielles (ex.
• Doivent être : Les décisions prises par l’IA doivent être justifiées et contextualisées selon le secteur (ex : emploi, justice).
• France : Exemples par pays : → France : la CNIL est l’autorité de contrôle ;
• Apprentissage automatique : L’IA connexionniste, quant à elle, utilise l’apprentissage automatique à partir de grandes quantités de données et s’appuie sur des corrélations statistiques difficiles à expliquer.

📝 Points essentiels

• L’IA est née dans les années 1950 avec pour objectif de modéliser le comportement du cerveau humain.
• L’IA symbolique repose sur des algorithmes déterministes, mais elle reste limitée pour formaliser des concepts complexes.
• L’IA connexionniste utilise l’apprentissage automatique à partir de grandes quantités de données et s’appuie sur des corrélations statistiques difficiles à expliquer.
• Les technologies d’IA permettent des applications variées, notamment en reconnaissance vocale, traitement du langage naturel et vision par ordinateur.
• Cependant, pour les modèles horizontaux et génératifs (ex : ChatGPT), l’explicabilité complète est limitée car le raisonnement repose sur des analogies et des corrélations de données, et non sur un raisonnement logique explicite.

💡 À retenir

Comprendre les fondements scientifiques et les principales approches technologiques qui structurent l’intelligence artificielle.

📖 2. Applications et impacts de l'IA

🔑 Notions clés & Définitions

• Intelligence artificielle : Technologie transversale capable d’optimiser des processus, de favoriser la recherche et la créativité, et de transformer des secteurs économiques et sociaux tels que la finance, l’éducation, la santé et la justice.
• Haut risque : → Non-respect des obligations pour les IA à haut risque : 15 millions € ou 3% du chiffre d’affaires annuel mondial.

📝 Points essentiels

• L’IA permet d’optimiser la logistique et la domotique tout en améliorant l’efficacité énergétique.
• L’IA générative et les modèles prédictifs favorisent la recherche et la créativité dans divers domaines.
• L’IA transforme de nombreux secteurs comme la finance, l’éducation, la santé et la justice.
• L’IA accroît la rapidité et l’efficacité des processus tout en soulevant des questions sur la transparence et le respect des droits fondamentaux.
• Droit et intelligence artificielle INTRODUCTION L’intelligence artificielle (IA) est une technologie de rupture transversale qui transforme de nombreux secteurs tels que la finance, l’éducation, la santé et la justice. Son développement rapide entraîne une augmentation des requêtes auprès du Conseil d’État. L’IA se distingue par son efficacité et sa rapidité, mais elle soulève des questions importantes, notamment sur la transparence, la responsabilité de l’utilisateur et le respect des droits fondamentaux. I - Définir l’intelligence artificielle

💡 À retenir

L’IA a des usages concrets dans de nombreux secteurs, favorisant l’innovation tout en soulevant des enjeux éthiques et réglementaires.

📖 3. Risques et enjeux éthiques de l'IA

🔑 Notions clés & Définitions

• 3/ Reconnaissance biométrique dans l’espace public : Interdite sauf cas de sécurité, afin de protéger l’autonomie et les libertés civiles des individus (ex : reconnaissance faciale).
• Notation sociale : Un système attribuant un score aux individus en fonction de leur comportement, pouvant entraîner stigmatisation, exclusion, discrimination et décisions arbitraires.
• Surveillance de masse : La collecte et l’analyse continues de données sur de larges populations dans l’espace public à l’aide de l’IA, pouvant porter atteinte à la vie privée et aux droits fondamentaux.

📝 Points essentiels

• La notation sociale attribue un score aux individus selon leur comportement, posant des risques de stigmatisation et d’exclusion.
• L’IA pose des risques pour les droits fondamentaux, notamment en matière de liberté, dignité et non-discrimination.

💡 À retenir

La notation sociale attribue un score aux individus selon leur comportement, posant des risques de stigmatisation et d’exclusion.

📖 4. Cadre juridique européen de l'IA

🔑 Notions clés & Définitions

• Les citoyens : Les individus bénéficiant d’une protection réglementaire européenne qui garantit la transparence, la protection de la vie privée et la non-discrimination dans l’utilisation des systèmes d’IA.
• Neutralité technologique : Un principe du cadre européen qui impose des règles uniformes applicables à tous les systèmes d’IA, indépendamment de leur technologie ou domaine d’application spécifique.
• Protection des droits fondamentaux : L’axe central de la régulation européenne visant à préserver la vie privée, la dignité, la non-discrimination et d’autres valeurs essentielles face aux systèmes d’IA.
• Dans un cadre plus large : Cette réglementation s’inscrit dans un cadre plus large incluant le RGPD, le Digital Services Act et le Digital Markets Act.

📝 Points essentiels

• L’Union européenne a choisi une régulation de droit dur pour encadrer l’IA, centrée sur la protection des droits fondamentaux.
• Le cadre européen promeut une IA éthique, fiable et explicable, fondée sur la neutralité technologique.
• La régulation européenne vise à protéger le marché et les citoyens avec une approche humaniste et protectrice.
• Le Conseil de l’Europe et le Conseil européen pilotent l’évolution normative de l’IA au niveau européen.

💡 À retenir

L’Union européenne a choisi une régulation de droit dur pour encadrer l’IA, centrée sur la protection des droits fondamentaux.

📖 5. Classification des systèmes d'IA selon le risque

🔑 Notions clés & Définitions

• Systèmes à risque inacceptable : Les usages d’IA incompatibles avec les valeurs européennes, tels que la notation sociale, la manipulation cognitive ou la reconnaissance biométrique en temps réel dans l’espace public, sont interdits car ils portent atteinte à la dignité, la liberté ou la sécurité des individus.
• Systèmes à haut risque : Les systèmes d’IA dont l’usage peut avoir un impact direct sur la vie des individus, notamment dans la santé ou la justice, sont soumis à des obligations renforcées pour garantir leur conformité, traçabilité, supervision humaine, transparence, robustesse et cybersécurité.
• Systèmes à risque minimal : Les systèmes d’IA présentant un risque limité nécessitent une réglementation très légère voire aucune, en raison de leur impact réduit sur les droits fondamentaux.
• Principe de proportionnalité : Les sanctions reposent sur 3 principes fondamentaux : 1/ Principe de proportionnalité : la gravité du manquement, l’intention de l’auteur et la taille de l’entreprise sont pris en compte.

📝 Points essentiels

• L’AI Act classe les systèmes d’IA selon leur risque pour la société et les droits fondamentaux, avec interdictions pour les usages inacceptables, obligations renforcées pour les haut risque, et réglementation minimale pour le risque minimal.
• Les usages d’IA interdits incluent la notation sociale, la manipulation cognitive exploitant la vulnérabilité, et la reconnaissance biométrique en temps réel dans l’espace public, sauf cas de sécurité.
• La classification repose sur les principes de proportionnalité, contextualité et évolutivité, pour assurer une régulation graduée et adaptée.

💡 À retenir

L’AI Act classe les systèmes d’IA selon leur risque pour la société et les droits fondamentaux, avec interdictions pour les usages inacceptables, obligations renforcées pour les haut risque, et réglementation minimale pour le risque minimal.

📖 6. Exigences et obligations réglementaires pour l'IA

🔑 Notions clés & Définitions

• Les entreprises : Coûts et opportunités Toutes les entreprises doivent financer la conformité de leurs systèmes d’IA, ce qui représente un coût et peut freiner l’innovation.
• Supervision humaine : Incitée aux USA et omniprésente en Chine.
• Logique des obligations renforcées : Les systèmes à haut risque, la logique des obligations renforcées repose sur le principe préventif : plus un système peut influencer des décisions critiques, plus il doit être encadré.

📝 Points essentiels

• Les systèmes d’IA à haut risque doivent respecter des obligations renforcées pour garantir la sécurité et la conformité.
• Une documentation technique détaillée est exigée pour comprendre le fonctionnement des systèmes d’IA.

💡 À retenir

La classification des systèmes d’IA selon le risque repose sur une logique graduée et proportionnée, avec interdictions pour les usages inacceptables, obligations renforcées pour les haut risque, et réglementation légère pour le risque minimal.

📖 7. Organismes de contrôle et sanctions

🔑 Notions clés & Définitions

• Sanctions financières : Des amendes imposées par les autorités nationales aux opérateurs d’IA en cas de non-respect des obligations réglementaires, dont le montant est proportionné à la gravité des infractions constatées.

📝 Points essentiels

• Chaque État membre doit désigner une autorité nationale chargée de l’application de la réglementation IA.
• Les autorités nationales contrôlent la conformité des systèmes d’IA aux exigences réglementaires.
• Les sanctions prévues sont proportionnées à la gravité des manquements constatés.
• Les entreprises doivent adopter une logique de compliance by design, intégrant dès la conception des systèmes les exigences réglementaires et combinant innovation technologique et respect des règles.
• Les administrations assurent la surveillance et le contrôle des opérateurs d’IA, accompagnent ces derniers via des dispositifs comme les bacs à sable réglementaires et appliquent les sanctions prévues.

💡 À retenir

Comprendre le rôle des autorités nationales et le cadre des sanctions est essentiel pour assurer l’application effective de la régulation IA.

📖 8. Défis et perspectives de la régulation de l'IA

🔑 Notions clés & Définitions

• Zones grises de l’explicabilité : Les situations où la complexité et l’opacité des systèmes d’intelligence artificielle rendent difficile la compréhension et l’explication de leur fonctionnement, ce qui complique la régulation et le contrôle de ces technologies.
• Gouvernance mondiale : L’approche coordonnée à l’échelle internationale nécessaire pour réguler l’intelligence artificielle, car cette technologie dépasse les frontières européennes et requiert une coopération globale pour une régulation efficace.
• Mise en œuvre de la régulation : Le processus d’application des règles et normes relatives à l’intelligence artificielle, qui rencontre des défis techniques, juridiques et organisationnels importants en raison de la complexité des systèmes et des exigences de conformité.

📝 Points essentiels

• La régulation stricte de l’UE peut freiner l’innovation mais vise à protéger les droits fondamentaux.
• Le régulateur doit faire face à des zones grises liées à la complexité et à l’opacité des systèmes d’IA.
• La gouvernance de l’IA nécessite une approche mondiale au-delà du cadre européen.
• La mise en œuvre de la régulation pose des défis techniques, juridiques et organisationnels importants.

💡 À retenir

La régulation stricte de l’UE peut freiner l’innovation mais vise à protéger les droits fondamentaux.

📖 9. Responsabilité juridique liée à l'IA

🔑 Notions clés & Définitions

• Responsabilité du fait des choses : Ce régime permet d'engager la responsabilité du gardien d'une chose, sans faute, si celle-ci cause un dommage, mais il est difficile d'appliquer ce principe à l'IA en raison de la difficulté à identifier le gardien et à démontrer le rôle actif de l'IA.
• Absence de personnalité juridique de l’IA : L'IA ne possède pas de personnalité juridique, ce qui empêche de la tenir responsable pénalement ou civilement, la responsabilité revenant aux concepteurs, opérateurs ou utilisateurs.
• Difficultés probatoires : La responsabilité en matière d'IA est compliquée par la difficulté à établir le lien de causalité et à démontrer que l'IA a eu un comportement anormal ou joué un rôle actif dans le dommage.
• Responsabilité partagée : → La nécessité d’une responsabilité partagée entre concepteurs, fournisseurs et utilisateurs.

📝 Points essentiels

• L’IA ne dispose pas de personnalité juridique et ne peut être tenue responsable pénalement.
• La responsabilité juridique incombe aux concepteurs, opérateurs et utilisateurs des systèmes d’IA.
• La responsabilité du fait des choses permet d’engager la responsabilité civile sans faute des producteurs, mais son application à l’IA est limitée par la difficulté à démontrer le rôle actif de l’IA et à identifier le gardien.
• Les difficultés probatoires et le lien de causalité compliquent l’application des régimes de responsabilité en matière d’IA.
• Le cadre actuel vise une responsabilité partagée adaptée aux spécificités des systèmes automatisés, notamment pour l’IA utilisée par la puissance publique.

💡 À retenir

La responsabilité juridique de l’IA est limitée par l’absence de personnalité juridique de la machine, la responsabilité revenant aux concepteurs, opérateurs ou utilisateurs, avec des défis probatoires importants.

📊 Tableaux de Synthèse

Classification des systèmes d'IA selon le risque

Type de risque	Exemples d'usages interdits ou réglementés	Obligations principales
Inacceptable	Notation sociale, reconnaissance biométrique en temps réel dans l’espace public sauf sécurité	Interdiction, protection des droits fondamentaux
Haut risque	IA dans la santé, la justice	Obligations renforcées, traçabilité, supervision humaine, transparence
Minimal	Systèmes à risque limité	Régulation légère ou aucune

Principes de régulation de l'IA dans l'UE

Principe	Description
Neutralité technologique	Règles uniformes indépendamment de la technologie ou domaine
Protection des droits fondamentaux	Garantir vie privée, dignité, non-discrimination
Proportionnalité	Sanctions adaptées à la gravité, intention, taille de l'entreprise

⚠️ Pièges & Confusions Fréquentes

1. Confusion entre responsabilité civile et pénale en l'absence de personnalité juridique de l'IA.
2. Sous-estimer la difficulté de démontrer le rôle actif de l'IA dans un dommage.
3. Confondre la classification des risques avec la réglementation spécifique à chaque secteur.
4. Ignorer l'impact des obligations renforcées sur l'innovation et la compétitivité.
5. Omettre la nécessité d'une supervision humaine dans les systèmes à haut risque.
6. Confusion entre surveillance de masse et reconnaissance biométrique dans l’espace public.
7. Négliger la responsabilité partagée entre concepteurs, opérateurs et utilisateurs.

✅ Checklist Examen

1. Comprendre les différentes approches technologiques de l'IA.
2. Identifier les usages à haut risque et leur réglementation.
3. Connaître le cadre juridique européen et ses principes.
4. Savoir classer un système d'IA selon le risque.
5. Maîtriser les obligations réglementaires pour chaque catégorie.
6. Reconnaître les sanctions possibles en cas de non-conformité.
7. Comprendre la responsabilité juridique liée à l'IA.
8. Identifier les enjeux éthiques et les risques pour les droits fondamentaux.
9. Connaître le rôle des autorités de contrôle nationales.
10. Intégrer la conformité dès la conception des systèmes.