5.1 Reconnaître les enjeux éthiques de l’IA
Bienvenue dans ce chapitre très important de l'autoformation sur l'IA.
Nous explorerons ici des questions délicates liées à l'utilisation de l'IA, en mettant un accent particulier sur le contexte scolaire, tout en élargissant notre présentation à d'autres domaines d'application.
Ce chapitre explore de nombreux aspects éthiques de l'IA, mais notre but n'est pas de faire de vous des experts en éthique de l'IA. Nous souhaitons plutôt vous encourager à réfléchir à ce que signifie utiliser cette technologie de manière responsable et comment vous pouvez l'appliquer au quotidien. En d'autres termes, ce chapitre est conçu pour vous sensibiliser à l'importance d'une utilisation éthique et responsable de l'IA et pour vous inciter à prendre un rôle actif dans la gestion des défis actuels et futurs que cela représente pour notre société.
Pour rendre cette expérience interactive, vous trouverez des questions tout au long du texte qui vous inviteront à réfléchir activement à ces enjeux, tout en nous faisant part de vos réflexions.
L'IA est une technologie révolutionnaire qui possède le potentiel de transformer significativement de nombreux domaines de notre société. Grâce à l'IA, nous pouvons :
- Optimiser les processus, réduire les coûts et augmenter l'efficacité[1] dans divers secteurs.
- Traiter et analyser des quantités massives de données[1] de manière précise et rapide, surpassant les méthodes traditionnelles laborieuses.
- Personnaliser l'expérience des utilisateurs dans le commerce, les médias ou le tourisme, en adaptant les produits et services aux besoins spécifiques de chaque individu, ce qui améliore la satisfaction client[1] et renforce l'engagement.
- Améliorer et optimiser les méthodes traditionnelles en proposant des solutions innovantes adaptées aux défis contemporains.
L'IA joue également un rôle crucial dans la résolution de problèmes complexes tels que la gestion des changements climatiques, la planification urbaine et la santé publique, en fournissant des modèles prédictifs qui facilitent la prise de décisions éclairées.[2]
En outre, l'IA contribue à la création de nouvelles opportunités d'emploi et au développement de compétences avancées, tout en automatisant les tâches répétitives et en libérant les humains pour des activités plus créatives et stratégiques.[3]
Voici un aperçu non exhaustif des domaines bénéficiant de l'IA, accompagné de quelques-uns des avantages qu'elle apporte :
Tableau 1 : Avantages de l'IA dans différents domaines[30]
| # | Domaines | Impacts positifs de l'IA |
|---|---|---|
| 1 | Économie et finance | |
| 2 | Santé |
|
| 3 | Éducation | |
| 4 | Sécurité, défense et militaire | |
| 5 | Gouvernance et politique | |
| 6 | Droit et éthique | |
| 7 | Sciences et technologie | |
| 8 | Industrie et infrastructure | |
| 9 | Commerce et emploi | |
| 10 | Communication et médias | |
| 11 | Culture, arts et divertissement | |
| 12 | Gestion des ressources et développement durable | |
| 13 | Urbanisme et logement |
En somme, l'intégration de l'intelligence artificielle dans divers secteurs ne se limite pas à l'optimisation des processus existants ; elle ouvre également la voie à des innovations qui façonnent l'avenir de notre société.[16]
Cependant, il est important de ne pas considérer l'IA uniquement sous l'angle de ses avantages, car elle présente également des limites et fait face à de nombreux défis. Nous explorerons ces aspects plus en détail dans les chapitres suivants.[2]
Maintenant que nous avons découvert plusieurs avantages d'utiliser l'IA, observons ensemble le revers de la médaille et analysons ses limites[17][30] :
Tableau 2 : Les limites de l'IA
| # | Limites de l'IA | Description | Exemples |
|---|---|---|---|
| 1 | Manque de bon sens[17] |
|
Un assistant vocal échoue à comprendre des requêtes inhabituelles qui s'écartent des commandes standards. |
| 2 | Créativité limitée[17] |
|
Logiciels de génération artistique qui produisent des œuvres en mélangeant des styles connus plutôt qu'en créant de nouveaux genres. |
| 3 | Limites éthiques et sociales[17] |
|
Systèmes de reconnaissance faciale présentant des biais raciaux ou de genre dans l'identification des individus. |
| 4 | Manque de transparence[17] |
|
Algorithmes de crédit où les clients ne peuvent pas comprendre pourquoi leur demande de prêt a été refusée. |
| 5 | Limites techniques[17] et absence de conscience[18] |
|
IA utilisée dans les soins médicaux qui ne peut pas remplacer le jugement clinique d'un médecin lors de diagnostics complexes. |
Ainsi, comme vous pouvez le constater, l'IA comporte des défis qui nécessitent une attention rigoureuse. Malgré ses nombreuses capacités, elle reste une création humaine sujette à des limites inhérentes, à des erreurs et à des abus. Ces limitations soulignent l'importance de développer des systèmes d'IA en parallèle avec des cadres éthiques et réglementaires robustes, pour guider leur utilisation responsable.
Les dérives de l'IA font référence aux utilisations problématiques, non éthiques ou préjudiciables de la technologie. Ces dérives peuvent survenir de diverses manières et ont des conséquences potentiellement graves pour les individus et la société. Voici quelques exemples de dérives courantes de l'IA[19][20][21][30] :
-
Biais et discrimination[19] : L'IA peut perpétuer ou même amplifier les biais existants dans les données sur lesquelles elle est entraînée. Cela peut entraîner des discriminations dans des domaines critiques tels que le recrutement, les prêts bancaires, la justice pénale, et les soins de santé.
-
Surveillance et vie privée[19] : L'utilisation de l'IA pour la surveillance à grande échelle peut porter atteinte à la vie privée des individus. Par exemple, les systèmes de reconnaissance faciale utilisés pour surveiller les citoyens peuvent collecter et stocker des données personnelles sans consentement adéquat.
-
Automatisation et perte d'emploi[19] : Bien que l'automatisation puisse augmenter l'efficacité, l'adoption rapide de l'IA pour automatiser des tâches peut aussi entraîner une perte significative d'emplois, affectant la stabilité économique et sociale.
-
Manipulation et désinformation[19] : Les technologies d'IA, comme les deepfakes ou les bots automatisés, peuvent être utilisées pour créer et diffuser des informations trompeuses ou fausses, influençant l'opinion publique et déstabilisant les processus démocratiques.
-
Autonomie des systèmes militaires[19] : Le développement de systèmes d'armes autonomes pose des questions éthiques sérieuses sur la délégation de décisions de vie ou de mort à des machines, surtout en l'absence de supervision humaine adéquate.
-
Dépendance technologique[20] : Une dépendance excessive à l'IA peut réduire les compétences humaines et la capacité de prise de décision indépendante, rendant les individus et les organisations vulnérables en cas de défaillance des systèmes d'IA.
-
Conséquences inattendues[21] : L'IA peut parfois agir de manière imprévisible ou avec des effets secondaires non intentionnels, surtout dans des systèmes complexes, ce qui peut avoir des impacts négatifs difficiles à prévoir et à gérer.
L'intégration de l'IA dans le secteur éducatif offre d'indéniables bénéfices, toutefois, elle suscite également des préoccupations importantes parmi les acteurs de l'éducation. Voici certaines de ces inquiétudes qui ont été énoncées par des membres du personnels éducatifs[22][23][24] :
- Je crains que l'intégration de l'IA dans l'éducation ne limite la capacité des élèves à réfléchir par eux-mêmes. Je veux qu'ils apprennent à être créatifs et à penser de manière critique, surtout quand il s'agit de questions éthiques. L'IA ne doit pas faire le travail à leur place.
- L'utilisation de l'IA dans ma classe soulève des questions sérieuses sur le plagiat. Il devient de plus en plus difficile de distinguer le travail original de ce qui a été généré ou aidé par l'IA. Nous devons absolument trouver des moyens plus efficaces pour détecter et prévenir le plagiat.
- Avec tout ce flux d'informations généré par l'IA, je m'inquiète pour la capacité de concentration de mes élèves. Comment faire pour qu'ils restent attentifs et retiennent ce qu'ils apprennent, sans se laisser submerger par tant d'informations ?
- Et moi-même en tant qu'enseignant, je me sens parfois dépassé par la quantité de données que l'IA met à ma disposition. Comment puis-je utiliser toutes ces données pour améliorer mes méthodes d'enseignement sans me noyer dans l'analyse de celles-ci ?
- L'IA risque d'accentuer les préjugés existants liés au genre, à l'ethnie, à la classe sociale ou encore à la culture. Cela pourrait non seulement renforcer les inégalités mais aussi manipuler les opinions de manière subtile. Comment éviter tout cela ? Comment développer l'esprit critique de mes élèves sur ces enjeux importants ?
- L'IA soulève de nombreuses questions éthiques, notamment sur l'accès à l'éducation, les conseils donnés aux élèves, la centralisation des données personnelles, et bien plus encore. Comment assurer le respect de la confidentialité et conserver la propriété de nos données ?
- Quel impact cela aura-t-il sur l'emploi dans notre secteur ? Vais-je être remplacé par une IA ?
Poursuivons notre exploration pour approfondir notre compréhension des enjeux associés à l'IA. Ci-dessous, vous trouverez un tableau qui répertorie différents domaines impactés par l'IA et l'automatisation. Pour chaque domaine, nous avons illustré un exemple de risques et de dangers, identifié une problématique spécifique et proposé une solution potentielle. Ce tableau a été intentionnellement simplifié pour éviter une surcharge d'informations et rendre son contenu plus accessible. Nous avons choisi de ne pas aborder les questions éthiques ici, car elles seront abordés dans le prochain chapitre, afin de maintenir la clarté et l'accessibilité de cette présentation.[25][30]
Tableau 3 : Risques et dangers de l'IA et de l'automatisation
| Domaine | Risques et dangers | Exemples de problématiques rencontrées | Solutions potentielles |
|---|---|---|---|
| Santé[26] | Amélioration des diagnostics1, risque d'erreurs et de biais. | Les algorithmes de diagnostic IA, bien qu'innovants, montrent des taux d'erreur variés selon les populations, révélant des biais dans l'apprentissage dus à des ensembles de données non représentatifs, ce qui peut entraîner des diagnostics incorrects et affecter la qualité des soins pour certains groupes démographiques.[30] | Validation rigoureuse des algorithmes, formation éthique, supervision de l'IA par des professionnels. |
| Éducation[28] | Personnalisation de l'apprentissage, inégalités d'accès.[30] | Des élèves dans des régions moins développées ou avec un accès limité à internet et à la technologie sont laissés pour compte par les systèmes d'apprentissage en ligne basés sur l'IA, creusant le fossé éducatif.[30] | Développement d'infrastructures digitales inclusives. |
| Environnement[29] | Surveillance et protection de l'environnement, dépense énergétique de l'IA. | L'intelligence artificielle joue un rôle crucial dans la surveillance de la déforestation, mais son impact environnemental soulève des préoccupations. En effet, sa consommation énergétique élevée, en particulier lors de l'entraînement de modèles complexes, augmente considérablement son empreinte carbone, ce qui remet en question son utilité dans la lutte contre le changement climatique. De plus, l'extraction de métaux rares nécessaires à la fabrication des infrastructures d'IA, comme les serveurs et les microprocesseurs, peut entraîner une contamination des sols et des eaux, ajoutant une dimension écologique problématique à l'utilisation de l'IA.[30] |
Optimisation de l'efficacité énergétique des data centers et création de modèles d'IA moins énergivore. |
| Automatisation et emploi[27] | Obsolescence de certaines compétences et métiers, perte d'emplois. | L'automatisation des caisses dans les supermarchés réduit le besoin de caissiers.[30] | Développement de programmes de formation et de reconversion professionnelle. |
| Sécurité et vulnérabilités[27] | Compromission de la sécurité nationale, sûreté publique, confidentialité des données. | Attaques de ransomware sur des hôpitaux ou des écoles. | Standards de sécurité renforcés, audits réguliers par des entreprises externes. |
| Contrôle et autonomie des machines[27] | Décisions ou actions imprévues par l'IA dans des contextes critiques. | Un véhicule autonome impliqué dans un accident mortel alors qu'il aurait pu être évité.[30] | Cadres réglementaires, systèmes de surveillance. |
1 Note : Vous verrez dans la colonne « Risques et dangers » certains points qui semblent très positifs à première vue. Cependant, ce qui est positif peut aussi avoir un côté négatif. Par exemple, l'« Amélioration des diagnostics » dans le domaine de la santé est une bonne chose, mais si on prend en compte que cela pourrait occasionner des faux négatifs ou des faux positifs pour les groupes minoritaires pour lequel l'IA n'a pas été entrainée, on réalise que ces améliorations bénéficient surtout aux groupes majoritaires. Cela pourrait donc accentuer les inégalités entre différentes classes de personnes, ce qui constitue un réel risque.
Tirée du mot grec « ethos » qui signifie « manière de vivre », l'éthique est une branche de la philosophie qui s'intéresse aux comportements humains et, plus précisément, à la conduite des individus en société. L'éthique fait l'examen de la justification rationnelle de nos jugements moraux, elle étudie ce qui est moralement bien ou mal, juste ou injuste.
Objectif IA : Identifiez les enjeux éthiques de l’intelligence artificielle (2 min 44 s)
Que sont les enjeux éthique de l'IA ?
Après avoir lu la définition du Gouvernement du Québec et écouté une petite vidéo sur les enjeux éthique de l'IA, revoyons ces notions autrement :
- L'éthique joue un rôle crucial dans presque tous les aspects de la société : dans les affaires, la médecine, la technologie et l'environnement, etc. En fournissant des lignes directrices pour agir de manière juste et responsable, elle encourage les individus et les organisations à réfléchir aux impacts de leurs actions et à s'efforcer de faire ce qui est juste et pas seulement ce qui est légalement requis ou avantageux pour eux.[31]
Voici un tableau (non exhaustif) qui présente la complexité multimodale des enjeux éthiques pour les domaines mentionnés précédemment, et plus encore[32] :
Tableau 4 : Domaines d'application de l'IA, acteurs concernés, risques et dangers, enjeux éthiques, impacts et solutions[33][30]
| Domaines | Acteurs | Risques et dangers | Enjeux éthiques | Impacts | Solutions potentielles |
|---|---|---|---|---|---|
| Santé |
|
|
|
|
|
| Éducation |
|
|
|
|
|
| Environnement |
|
|
|
|
|
| Automatisation et emploi |
|
|
|
|
|
| Sécurité et vulnérabilités |
|
|
|
|
|
| Contrôle et autonomie des machines |
|
|
|
|
|
| Justice et surveillance |
|
|
|
|
|
| Éthique et gouvernance |
|
|
|
|
|
Les risques de l’intelligence artificielle : entrevue avec Yoshua Bengio (9 min)
Tribune sur les dangers des IA : « Il y a un risque, faisons une pause » (4 min 55 s)
Pour en savoir davantage concernant la compétence de l'éthique de l'IA, consulter ce document : Former à l’éthique de l’IA en enseignement supérieur : Référentiel de compétence.
Le Conseil de l’innovation du Québec recommande d’adapter dès maintenant les programmes de formation pour renforcer la littératie numérique et en IA des jeunes et des adultes. Pour en savoir davantage, consultez le dossier de l'École branchée sur le sujet, lisez le rapport complet Prêt pour l'IA et consultez aussi le site web officiel du Conseil de l'innovation du Québec.
Le Conseil de l’innovation du Québec a fait paraitre un excellent document « Réflexion collective sur l'encadrement de l'IA, dossier thématique no 5 », que vous pouvez consulter en cliquant sur le titre suivant : Les autres impacts sociétaux de l’intelligence artificielle.
Voir aussi le reportage avec Yoshua Bengio, spécialiste en intelligence artificielle et en intelligence profond. C'est un chercheur québécois d'origine marocaine qui a travaillé avec Yann Le Cun et Geoffrey Hiton, avec lesquels ils ont remporté le prix Turing 2018, le 27 mars 2019 : Les dangers de l'intelligence artificielle : entrevue avec Yoshua Bengio
En résumé, l'IA possède une force transformatrice exceptionnelle, capable de révolutionner de multiples secteurs en optimisant les processus, en personnalisant les expériences utilisateur, et en améliorant la prise de décision à travers des analyses de données avancées. Elle a le potentiel de jouer un rôle crucial dans la résolution de défis complexes tels que le changement climatique, la planification urbaine, et la santé publique.
Cependant, malgré ses nombreux avantages, l'IA pose également des défis significatifs, nécessitant une approche équilibrée qui prend en compte ses implications éthiques et sociales :
- Les étudiants utilisent de plus en plus l'IA dans leur vie quotidienne, ce qui peut affecter leur apprentissage.
- L'absence de lois claires sur l'IA crée des zones d'ombre concernant la responsabilité et la protection des données.
- L'IA peut propager des fausses informations, nécessitant des contrôles pour limiter les dommages.
- Le partage de données avec l'IA peut menacer la confidentialité si les données sont utilisées sans consentement ou pour des finalités non prévues.
- Les modèles d'IA utilisent souvent des données dont les origines ne sont pas claires, posant des problèmes éthiques et légaux.
- Les biais dans les données peuvent se traduire par des résultats injustes ou discriminatoires dans les systèmes d'IA.
- Les systèmes d'IA sont souvent des « boîtes noires », ce qui complique la compréhension de leurs mécanismes et la correction des erreurs.
Pour promouvoir une utilisation éthique de l'IA en éducation tout en évitant les dérives et de celle-ci, il est nécessaire de :
- Éduquer les enseignants et les élèves sur les enjeux éthiques de l'IA.
- Promouvoir la coopération entre éducateurs et développeurs d'IA.
- Établir des principes éthiques et des normes réglementaires claires.
- Encourager la transparence et la participation actives de la société.
- Soutenir la recherche en IA éthique et assurer un accès équitable aux technologies d'IA.
Maintenant que vous comprenez mieux les enjeux éthiques de l'IA, vous avez tous les outils en main pour l'utiliser dans un contexte réel. C'est d'ailleurs ce qui vous attends dans le prochain exercice.