Lutte antiacridienne : Faut-il craindre une invasion de criquets au Maroc ? [INTEGRAL]    Cardiologie interventionnelle : Dislog Group prend une participation majoritaire dans Afrobiomedic    Cema Bois de l'Atlas : 150 MDH pour renforcer la compétitivité    Energie Eolienne : Managem, premier à opter pour l'alimentation en moyenne tension    Trump annonce de nouveaux tarifs douaniers : Maroc (10%), Algérie (30%), Tunisie (28%)    Classement FIFA : Le Maroc progresse de deux places    Classement FIFA Avril 25: Le Maroc 12e mondial, 1er africain    CAN U17/ Aujourd'hui, Maroc-Zambie : Horaire? Chaînes?    Trump imposes 10% reciprocal tariff on Morocco in new trade policy    A Rabat, le président du Parlement andin soutient la souveraineté du Maroc    L'Algérie, parrain d'un Sahel instable, entre soutien au terrorisme et quête de puissance régionale    Sahel : L'armée malienne répond à l'abattage de son drone Akinci    Droits de douane : Donald Trump taxe le monde entier, y compris le Maroc    Le nombre de milliardaires dépasse les 3 000 pour la première fois dans le monde    Sahara : Le président mauritanien reçoit De Mistura    Trois milliardaires marocains figurent dans le classement Forbes 2025    Bassin de Sebou: un taux de remplissage des barrages de près de 52%    1⁄2 Finale. Copa del Rey : Le Barça retrouve le Real en finale le 26 avril courant    Coupe de la CAF. RS Berkane gagne à Abidjan    L'AS FAR saisit la CAF après l'interdiction de ses supporters lors du match contre Pyramids    Aéroports marocains : Objectif 80 millions de passagers d'ici 2030    Akdital adquiere dos establecimientos de salud en El Aaiún    Sáhara: La UE evita condenar la expulsión de periodistas españoles por parte de Marruecos    Zineb Hattab : première cheffe végane étoilée en Suisse    Lancement d'un vol direct Agadir-Amsterdam    Avril diplomatique : Quand la France préside, le Maroc s'impose    Le DG de l'OIT salue l'adoption de la loi sur la grève au Maroc et sa validation par la Cour constitutionnelle    Températures prévues pour le jeudi 03 avril 2025    Genomia MDATA et la Fondation Mohammed VI des Sciences et de la Santé : une alliance au profit de la médecine de précision en Afrique    Foot: Double confrontation amicale entre la sélection nationale féminine U17 et son homologue kényane les 4 et 7 avril    Abderrahman Boukhaffa décoré par le Roi Charles III pour ses contributions à la diversité linguistique au Canada    Rabat: Mehdi Qotbi reçoit une délégation du parlement andin    Ghita Triki : "Résonance chromatique s'inscrit dans les programmes de visibilisation des cultures du Maroc et d'Afrique"    Installation de Mohammed El Habib Belkouch, Délégué interministériel aux Droits de l'Homme    Akdital: Feu vert du Conseil de la concurrence pour l'acquisition de deux établissements de santé à Laâyoune    Festival Mawazine: Will Smith et Kid Cudi en têtes d'affiche    Thiago Pitarch, la pépite du Real Madrid convoitée par le Maroc et l'Espagne    Zagora : Deux soldats tués lors d'une collision et un blessé    Washington annonce la nomination de Massad Boulos comme conseiller principal pour l'Afrique    Le temps qu'il fera ce mercredi 2 avril 2025    CHU Ibn Rochd: les futurs dentistes poursuivent leur boycott des stages    Charles Thépaut, expert de la région MENA et de la lutte contre la désinformation au Quai d'Orsay, nommé premier conseiller à l'ambassade de France au Maroc    Milan : Hicham Lahlou, membre du jury du Salone Satellite Award 2025    La Dolce Vita à Mogador : Le Cinéma Italien à l'honneur à Essaouira du 23 au 26 Avril 2025    Somalie. Les Etats-Unis ont le contrôle exclusif des bases aériennes et des ports.    Gabon. La campagne pour la présidentielle est ouverte    L'Alliance des Etats du Sahel établit un droit de douane commun    Un Festival pour promouvoir la cuisine ivoirienne    







Merci d'avoir signalé!
Cette image sera automatiquement bloquée après qu'elle soit signalée par plusieurs personnes.



Education : lutter de toute urgence contre les biais de l'IA !
Publié dans Les ECO le 23 - 10 - 2023

Directeur de la transformation digitale chez Excelia Group
L'intelligence artificielle (IA) est certainement l'une des avancées technologiques les plus significatives de notre ère. Elle a révolutionné la manière dont nous interagissons avec la technologie, en influençant des domaines allant de la médecine à la finance, en passant par le divertissement et l'éducation. Derrière l'omniprésence de l'IA accentuée par l'arrivée des IA génératives, les biais de l'IA restent un défi majeur. Il est impératif que l'éducation, dans toutes ses dimensions, s'attaque à cette problématique de manière proactive et éclairée.
Comprendre les biais de l'IA
Les biais dans l'IA se forment au stade de l'entraînement des modèles. Si les données d'entraînement comportent des préjugés ou des discriminations, l'IA peut les reproduire sans discernement. Par exemple, les systèmes de reconnaissance faciale ont été accusés de présenter des taux d'erreur plus élevés pour les personnes de couleur, en partie à cause des ensembles de données biaisés utilisés pour les former. Cela souligne l'importance cruciale de s'attaquer à cette question. Pour comprendre les biais de l'IA, il est essentiel de saisir comment ils émergent. Les modèles d'IA apprennent à partir de données réelles, qu'ils utilisent pour prendre des décisions ou faire des recommandations. Si ces données sont imprégnées de stéréotypes, d'injustices, ou de discriminations, l'IA peut reproduire ces mêmes problèmes. Par conséquent, il est essentiel de s'attaquer aux biais à la source, c'est-à-dire les données d'entraînement.
Un projet «Gender Shades» instructif
Le projet "Gender Shades" évalue la précision des logiciels de classification de genre alimentés par l'IA. Cette étude a révélé que les entreprises soumises à ces évaluations obtenaient des résultats de reconnaissance faciale nettement meilleurs pour les hommes que pour les femmes, avec une différence de 8,1% à 20,6% dans les taux d'erreur. Cette étude du MIT (Massachusetts Institute of Technology) concernant l'examen du logiciel d'analyse faciale révèle également un taux d'erreur surprenant de 0,8% pour les hommes à la peau claire et de 34,7% pour les femmes à la peau foncée (*). Les conclusions du projet mettaient en évidence le potentiel d'abus de la technologie de l'analyse faciale, que ce soit aux mains de gouvernements autoritaires, d'individus malveillants ou d'entreprises opportunistes. En fin de compte, le projet soulignait la vulnérabilité des algorithmes à la corruption et à la partialité.
Le rôle de l'éducation sur l'impact sociétal face aux biais de l'IA
L'éducation joue un rôle crucial dans la sensibilisation aux biais de l'IA. Les institutions éducatives, des écoles primaires aux établissements d'enseignement supérieur, peuvent intégrer des modules sur l'IA et l'éthique dans leurs programmes scolaires. Cela permet aux étudiants d'acquérir une compréhension profonde des implications des biais de l'IA et de leur impact sur la société. En développant cette compréhension, les élèves sont mieux préparés à relever les défis éthiques qui se posent à mesure que l'IA devient omniprésente. De plus, l'éducation peut encourager une culture de responsabilité dans le développement de l'IA. Les futurs développeurs et utilisateurs d'IA doivent être conscients des conséquences potentielles de leurs actions. L'apprentissage de l'éthique de l'IA devrait être incontournable pour ceux qui entrent dans le domaine de l'informatique et de la science des données. Ils doivent comprendre qu'ils ont un rôle essentiel à jouer pour éviter que les biais de l'IA ne deviennent un problème encore plus grand.
La promotion de la diversité dans l'IA
Un autre aspect crucial dans la lutte contre les biais de l'IA est la promotion de la diversité. Actuellement, il existe un déséquilibre évident en termes de genre, de race et de contextes socio-économiques parmi les développeurs d'IA. Cette homogénéité peut contribuer à l'émergence de biais involontaires dans les systèmes d'IA. L'éducation doit jouer un rôle de premier plan en encourageant la diversité dans le domaine de l'IA. Les institutions éducatives, en partenariat avec le monde de l'entreprise et les organisations, peuvent prendre des mesures pour recruter davantage de personnes sous-représentées dans le secteur de l'IA. Les initiatives de mentorat, de bourses d'études et de sensibilisation peuvent contribuer à attirer un large éventail de talents vers les carrières en IA.
Former les développeurs d'IA à concevoir des systèmes équitables
Les business schools et les écoles d'ingénieurs ont un rôle essentiel à jouer en introduisant des cursus communs qui mettent l'accent sur l'éthique de l'IA et la réduction des biais. Les étudiants en informatique doivent apprendre à concevoir des systèmes IA équitables et à évaluer les données d'entraînement pour repérer les préjugés potentiels. Ils doivent être en mesure de développer des modèles d'IA qui ne se limitent pas à maximiser la précision des prédictions mais qui tiennent compte de l'éthique.
Encourager les enseignants à former à l'éthique de l'IA
Pour que l'éducation soit véritablement efficace dans la lutte contre les biais de l'IA, les enseignants doivent être accompagnés et formés pour enseigner l'éthique de l'IA aux élèves de tous âges. Les étudiants devraient être incités à poser des questions sur la façon dont l'IA affecte leur vie quotidienne et comment ils peuvent contribuer à atténuer les biais. Les enseignants peuvent jouer un rôle essentiel en guidant les élèves dans la réflexion sur l'IA et en les aidant à développer des compétences critiques pour évaluer les systèmes automatisés. Pour cela ils peuvent s'entraîner avec les réponses fournies par les IA génératives et challenger leur véracité et la pertinence des informations en retour.
Agir sans attendre
L'éducation joue un rôle clé dans la lutte contre les biais de l'IA. L'omniprésence visible ou non de l'IA dans notre société signifie que les décisions qu'elle prend et les recommandations qu'elle émet ont un impact considérable. Si nous ne prenons pas des mesures pour atténuer les biais, nous risquons de perpétuer les inégalités et les injustices de manière consciente ou inconsciente. Nous ne pouvons pas attendre pour agir, les effets bénéfiques attendus des formations sur le sujet peuvent mettre du temps à se révéler. L'éducation doit s'attaquer à cette question complexe et garantir que l'IA soit utilisée de manière éthique et équitable pour une société plus responsable.
(*) Joy Buolamwini, Timnit Gebru Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification – Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 2018.


Cliquez ici pour lire l'article depuis sa source.