Une formation en IA éthique : qu’est-ce que c’est ? A quoi ça ressemble ?

Le potentiel de l’IA est énorme, mais une formation en éthique reste de rigueur pour les systèmes d’intelligence artificielle étant donné que les algorithmes n’ont pas de limites. À côté de cela, une bonne compréhension des principes, des défis et des enjeux de l’IA est primordiale. Surtout, à l’ère où ces technologies prennent de la place dans nos quotidiens, tant au niveau social que privé et professionnel.

Quels sont les risques d’éthique encourus avec l’IA ?

Se référant aux valeurs comme l’impartialité, le respect, l’intégrité ou la loyauté, l’éthique est un moyen de veiller à l’intérêt public. Les risques liés à l’IA se rapportent nécessairement à ces valeurs. Cependant, eu égard à l’intelligence artificielle générative, les préoccupations concernent en particulier les enjeux de la confiance et de la sécurité. Précisément, les risques vont aussi inclure les deepfakes, les hallucinations, la confidentialité des données, les problèmes de cybersécurité, sans oublier les questions de droits d’auteurs.

À quoi sont dues les controverses sur l’éthique de l’IA ?

Les algorithmes étant dépourvus d’éthique bien qu’étant d’une grande complexité technique, l’intelligence artificielle soulève tant de questions. Fascinante et inquiétante à la fois, l’IA permet à la société moderne de faire un bond en avant en sauvant des vies et en simplifiant le travail humain. Mais de l’autre côté, le revers de la médaille n’est pas à perdre de vue, comme sa capacité à favoriser une surveillance de masse des populations.

 C’est ce pouvoir de générer un large éventail d’applications et de logiciels en aval de l’IA pour un usage à des fins utiles et moins utiles qui a été à l’origine des recommandations sur l’éthique portée par l’UIT en 2021. L’institution de l’ONU spécialisée pour les technologies l’Union Internationale des Télecommunications exhorte la nécessité de créer des garde-fous autour de ces technologies.

Les hallucinations

Ce terme désigne les erreurs susceptibles d’être commises par les modèles d’IA. Les hallucinations s’apparentent à des réponses biaisées qu’il est difficile de repérer. Ces réponses factuellement incorrectes peuvent susciter des problèmes majeurs lorsque l’on s’y fie pour obtenir des informations sur un sujet.

L’IA générative et la prolifération du fake

La montée du fake découlant de l’évolution des réseaux neuronaux dits génératifs peut inonder le monde d’une myriade de créations vidéos, photos, vocales qui sont en fait de faux contenus créés à partir d’un deepfake. Le logiciel StyleGAN sur Github est l’exemple le plus parlant dans ce domaine.

On l’utilise souvent pour générer des visages réalistes servant à attaquer des personnes plus pou moins connues. Capable de reprendre la ressemblance avec une vraie personne, l’IA générative peut servir à diffuser en masse de fausses informations à des fins trompeuses.

La formation à l’IA éthique en prévention d’autres conséquences fâcheuses

Les algorithmes peuvent être responsables d’autres types de biais. Imaginez des systèmes d’IA conçus pour classer des visages humains par ordre d’attractivité ou de non-attractivité. L’IA générative comme le GAN peut servir à reprendre une formulation des critères prétendus de beauté. Ce qui pourrait avoir comme conséquence d’influencer la vision du monde pour l’inonder de cette esthétique spécifique, excluant les autres, jugés non conformes.

Une formation en IA éthique peut limiter les risques sur la confidentialité des données

Les données utilisées par les intelligences artificielles génératives soulèvent aussi la question de la protection de la vie privée.  Effectivement, les datas collectées sur les utilisateurs sont employées pour entraîner les modèles. Or, l’interaction avec des solutions comme les chatbots peut conduire à l’exposition des données sensibles sur des tiers, des collaborateurs ou des entreprises.

En outre, il arrive souvent que les applications stockent les données saisies par les utilisateurs de façon définitive. La confidentialité peut être davantage menacée lorsque les applications les utilisent dans le but de former d’autres modèles. Pire. Les données collectées peuvent tomber entre de mauvaises mains si une violation de la sécurité se produit.

L’IA et la cybersécurité

De la même manière, un problème de cybersécurité peut se poser lorsque les capacités avancées de ces modèles (à l’exemple du codage) atterrissent entre les mains de personnes mal intentionnées. Au-delà des risques de phishing et d’ingénierie sociale, les hackers pourraient se servir de ces outils pour créer plus aisément des codes malveillants.

Une formation en IA éthique au service du droit d’auteur

Le droit d’auteur figure aussi parmi les préoccupations majeures incitant à l’IA éthique. DALL-E par exemple, un outil de création d’IA, est en mesure de générer une image à partir d’un message. Ce type d’outil va puiser dans la grande base de données de photos à partir desquelles il a été formé. Vu que les véritables œuvres ayant été à l’origine de la formation des modèles d’IA générative ne sont pas dévoilées, il est difficile de trancher sur ces problèmes liés aux droits d’auteur.

Une formation en IA éthique pour résoudre les craintes dans le domaine militaire

L’IA qui s’applique aux activités militaires et policières peut aussi entraîner certains risques. Dans ce contexte, les préoccupations portent sur une expansion non contrôlée des applications de l’IA.  Des appels se font entendre pour l’abandon des projets de surveillance de masse permis par des technologies de type reconnaissance faciale. Tous ces faits n’ont fait qu’inciter à l’interdiction complète du ChatGPT dans certains pays ou amener certains à revoir leur politique de l’intelligence artificielle de manière à mieux protéger leurs citoyens.

Formation en intelligence artificielle : points sur l’IA éthique

On relève de nombreux défis éthiques.

•  Le manque ou l’absence de transparence au niveau des outils d’IA. Quand l’IA prend des décisions, les humains ne les comprennent pas toujours.
• Le manque ou l’absence de neutralité de l’IA. Les décisions prises par l’IA aboutissent parfois à des résultats discriminatoires. Elles peuvent être biaisées ou être erronnées si on les prend à partir d’une IA.
• L’exposition de la vie privée des personnes ou les pratiques de surveillance dans la collecte des données.
• Les nouvelles préoccupations sur l’équité et le risque concernant les droits humains ou certaines valeurs fondamentales.

Pour une meilleure clarification de la notion d’éthique de l’IA, 4 éthiques sont à prendre en compte.

• L’éthique informatique
• L’éthique artificielle, algorithmique ou robotique
• L’éthique digitale 
• L’éthique des applications de l’IA.

L’éthique de l’IA doit ainsi être entendue en tant que l’ensemble de ces 4 composantes.

L’éthique informatique : qu’est-ce que c’est ?

Plusieurs aspects de la technologie de l’IA, notamment l’IA sous forme d’apprentissage profond ou deep learning, échappent encore au contrôle des praticiens expérimentés. Si l’on peut dire que l’éthique informatique fait référence au travail des experts, des mathématiciens et informaticiens, sur l’écriture du code, il s’assimile à un double objectif.

Celui d’appréhender et de maitriser les fonctionnalités de ses inventions et de s’assurer qu’elles ne sont pas dangereuses pour pouvoir offrir une garantie sur leur qualité et leur utilisation fiable. L’étude sur l’intelligence artificielle par Capgemini, intitulée « AI and the Ethical Conundrum. » a permis de mettre en exergue 4 vecteurs d’éthique dans le domaine de la formation en IA et de l’apprentissage automatique :

• L’auditabilité ou la possibilité d’auditer un système d’intelligence artificielle dans le but de déterminer son fonctionnement 
• L’équité
• L’explicabilité
• La transparence.

Exemple de formation à l’IA éthique

Afin d’initier les apprenants à l’IA éthique, le centre Broca (FCPS & IREST) – Université Paris 1 Panthéon-Sorbonne, propose la formation « Concilier intelligence artificielle et éthique ». Visant à une meilleure compréhension de l’importance de respecter les données personnelles, les droits et les libertés des personnes, ce cours traite notamment des données et du management des enjeux éthiques de l’intelligence artificielle. Il aborde aussi les enjeux juridiques de l’IA.

Les objectifs de la formation

A côté des compétences clés à acquérir sur l’intelligence artificielle, ce cours vise plusieurs objectifs.

• Une compréhension de l’IA, ses fonctionnements et ses types
• La définition des clés de compréhension des notions de l’innovation et de l’éthique avec une présentation des liens qui les relient.
• Une sensibilisation aux conséquences de l’IA sur les domaines intégrés par l’éthique
• Une compréhension des enjeux techniques du digital, ceux des algorithmes et de l’IA en général.
• L’acquisition des compétences dans l’élaboration de stratégies assurant la protection des intérêts des citoyens et confortant les liens entre l’IA, les technologies numériques, l’économie numérique, et l’Homme.
• Permettre la création des Legal Bots et le développement des systèmes d’IA éthiques et responsables.

De quoi se compose un programme de formation en IA éthique ?

Une formation en IA éthique tourne souvent autour des thématiques suivantes :

• L’IA et ses sous-ensembles pour familiariser les apprenants avec les algorithmes, et ce qui joue le rôle de décideur dans l’IA.
• Les risques sur l’usage de l’IA (biais transmissibles à l’IA, les potentielles mauvaises intentions)
• L’utilisation concrète de l’IA éthique impliquant la résolution des risques récurrents comme
• Les causes du raisonnement trop simpliste de l’IA quand il prend des décisions
• Les causes d’une capacité de l’IA à déceler des corrélations supérieures par rapport aux corrélations identifiables par l’humain
• L’éventualité où une IA développerait un caractère et un langage qui lui sont propres
• L’éventualité où l’IA entraînerait une discrimination de genre ou de race.

L’injection de l’éthique dans l’intelligence artificielle

Des chercheurs ont émis des propositions et initiatives afin de répondre aux enjeux éthiques de l’IA. La mise en pratique de chaque concept s’effectue via des exercices de mise en situation, des jeux de rôles, des vidéos…

L’ampleur des secteurs sous-tendus par ces technologies émergentes comme la production, la mobilité, la distribution, la médecine, la sécurité, l’assistance aux personnes, etc. justifie encore plus cette nécessité d’appliquer l’éthique à l’IA. C’est le seul moyen d’en garantir des utilisations non nocives.