Dakhla-Oued Eddahab: une délégation française explore les opportunités d'investissement    Grands chantiers: Les programmes prévisionnels des marchés publics présentés aux acteurs du BTP    Funérailles du Pape François : Arrivée à Rome du Chef du gouvernement pour représenter SM le Roi    La météo pour ce samedi 26 avril    Sahel : Le Niger dénonce les expulsions de migrants par l'Algérie    Les pays du Sahel annoncent leur plein soutien au Maroc et saluent l'initiative stratégique « Rabat – Atlantique »    Le Président français se félicite du lancement par S.M. le Roi des travaux de réalisation de la Ligne à Grande Vitesse Kénitra-Marrakech    Maroc Telecom. Près de 80 millions de clients et de nouvelles ambitions    Service militaire 2025 : Début de l'opération de recensement    Congrès du PJD. Le casse du siècle    Ligue des Champions CAF : Pyramids FC rejoint Mamelodi Sundowns en finale    Crans Montana. L'initiative atlantique Royale est historique et porteuse de paix    Averses orageuses avec grêle locale et rafales de vent, vendredi dans plusieurs provinces du Royaume    2èmes Assises du Féminisme, pour l'égalité économique    Résultats de la 9ème édition du Grand Prix National de la Presse Agricole et Rurale    Mawazine 2025 : Michael Kiwanuka, la soul britannique sous les étoiles de Rabat    Taghazout Bay célèbre l'humour marocain et l'âme d'Edith Piaf    Le Casa Fashion Show souffle sa 20ème bougie    PSG : Achraf Hakimi, troisième latéral le plus cher d'Europe    Gabon/Présidentielle: la Cour constitutionnelle confirme l'élection de Brice Clotaire Oligui Nguema    Le baril continue de dévisser alimenté par les tensions commerciales et les incertitudes    France-Algérie : la tension continue de monter autour des expulsions et des visas    L'Humeur : Démission après chômage    L'Inspecteur Général des FAR effectue une visite de travail en Ethiopie    LDC.CAF : Aujourd'hui, les demi-finales égypto-sud-africains ''retour''    CAN(f) Futsal Maroc 25 / Ce vendredi, journée off : Le Maroc grand favori !    Championnat africain de football scolaire de la CAF : L'Equipe nationale (f) U15 en demi-finale cet après-midi    Les patronats marocain et égyptien explorent les moyens de booster les échanges commerciaux    Visa y Maroc Telecom firman una alianza estratégica para los pagos móviles en África    Ex-Raja Casablanca president Mohamed Boudrika extradited to Morocco for bad checks    Settat : Détention du suspect principal dans l'horrible affaire de meurtre à Ben Ahmed    Indignations après les actes de vandalisme au Stade Mohammed V    Banque mondiale : 83 % des entreprises au Maroc opèrent dans le secteur informel    DeepTech Summit : Comment l'IA transforme l'innovation    Algérie... La liberté d'expression à la merci des militaires    SIEL 2025 : Des illustrateurs marocains valorisent le patrimoine de Rabat    Comediablanca : Pour le meilleur et pour le rire    La FRMF choisit un partenaire stratégique pour la gestion de la billetterie    L'ONMT crée trois pôles stratégiques    ONU: Omar Hilale élu président du Comité de haut niveau sur la coopération Sud-Sud    Walid Regragui : Le Maroc offre aux joueurs binationaux un projet de cœur et de conviction    Le Crédit Agricole du Maroc et la société TOURBA s'allient pour promouvoir l'agriculture régénératrice    Effondrement... Trois éléments du "Polisario" fuient et se rendent aux Forces Armées Royales    La Chine dément toute négociation commerciale avec Washington : pas de consultations ni d'accord en vue    Quand le régime algérien fabrique ses propres crises : d'un simple hashtag à un règlement de comptes interne au nom de la souveraineté    Les prévisions du vendredi 25 avril    Mustapha Fahmi amène Cléopâtre et Shakespeare au SIEL 2025    Un chef patissier marocain bat le record Guinness, en réalisant le plus long fraisier du monde    







Merci d'avoir signalé!
Cette image sera automatiquement bloquée après qu'elle soit signalée par plusieurs personnes.



Education : lutter de toute urgence contre les biais de l'IA !
Publié dans Les ECO le 23 - 10 - 2023

Directeur de la transformation digitale chez Excelia Group
L'intelligence artificielle (IA) est certainement l'une des avancées technologiques les plus significatives de notre ère. Elle a révolutionné la manière dont nous interagissons avec la technologie, en influençant des domaines allant de la médecine à la finance, en passant par le divertissement et l'éducation. Derrière l'omniprésence de l'IA accentuée par l'arrivée des IA génératives, les biais de l'IA restent un défi majeur. Il est impératif que l'éducation, dans toutes ses dimensions, s'attaque à cette problématique de manière proactive et éclairée.
Comprendre les biais de l'IA
Les biais dans l'IA se forment au stade de l'entraînement des modèles. Si les données d'entraînement comportent des préjugés ou des discriminations, l'IA peut les reproduire sans discernement. Par exemple, les systèmes de reconnaissance faciale ont été accusés de présenter des taux d'erreur plus élevés pour les personnes de couleur, en partie à cause des ensembles de données biaisés utilisés pour les former. Cela souligne l'importance cruciale de s'attaquer à cette question. Pour comprendre les biais de l'IA, il est essentiel de saisir comment ils émergent. Les modèles d'IA apprennent à partir de données réelles, qu'ils utilisent pour prendre des décisions ou faire des recommandations. Si ces données sont imprégnées de stéréotypes, d'injustices, ou de discriminations, l'IA peut reproduire ces mêmes problèmes. Par conséquent, il est essentiel de s'attaquer aux biais à la source, c'est-à-dire les données d'entraînement.
Un projet «Gender Shades» instructif
Le projet "Gender Shades" évalue la précision des logiciels de classification de genre alimentés par l'IA. Cette étude a révélé que les entreprises soumises à ces évaluations obtenaient des résultats de reconnaissance faciale nettement meilleurs pour les hommes que pour les femmes, avec une différence de 8,1% à 20,6% dans les taux d'erreur. Cette étude du MIT (Massachusetts Institute of Technology) concernant l'examen du logiciel d'analyse faciale révèle également un taux d'erreur surprenant de 0,8% pour les hommes à la peau claire et de 34,7% pour les femmes à la peau foncée (*). Les conclusions du projet mettaient en évidence le potentiel d'abus de la technologie de l'analyse faciale, que ce soit aux mains de gouvernements autoritaires, d'individus malveillants ou d'entreprises opportunistes. En fin de compte, le projet soulignait la vulnérabilité des algorithmes à la corruption et à la partialité.
Le rôle de l'éducation sur l'impact sociétal face aux biais de l'IA
L'éducation joue un rôle crucial dans la sensibilisation aux biais de l'IA. Les institutions éducatives, des écoles primaires aux établissements d'enseignement supérieur, peuvent intégrer des modules sur l'IA et l'éthique dans leurs programmes scolaires. Cela permet aux étudiants d'acquérir une compréhension profonde des implications des biais de l'IA et de leur impact sur la société. En développant cette compréhension, les élèves sont mieux préparés à relever les défis éthiques qui se posent à mesure que l'IA devient omniprésente. De plus, l'éducation peut encourager une culture de responsabilité dans le développement de l'IA. Les futurs développeurs et utilisateurs d'IA doivent être conscients des conséquences potentielles de leurs actions. L'apprentissage de l'éthique de l'IA devrait être incontournable pour ceux qui entrent dans le domaine de l'informatique et de la science des données. Ils doivent comprendre qu'ils ont un rôle essentiel à jouer pour éviter que les biais de l'IA ne deviennent un problème encore plus grand.
La promotion de la diversité dans l'IA
Un autre aspect crucial dans la lutte contre les biais de l'IA est la promotion de la diversité. Actuellement, il existe un déséquilibre évident en termes de genre, de race et de contextes socio-économiques parmi les développeurs d'IA. Cette homogénéité peut contribuer à l'émergence de biais involontaires dans les systèmes d'IA. L'éducation doit jouer un rôle de premier plan en encourageant la diversité dans le domaine de l'IA. Les institutions éducatives, en partenariat avec le monde de l'entreprise et les organisations, peuvent prendre des mesures pour recruter davantage de personnes sous-représentées dans le secteur de l'IA. Les initiatives de mentorat, de bourses d'études et de sensibilisation peuvent contribuer à attirer un large éventail de talents vers les carrières en IA.
Former les développeurs d'IA à concevoir des systèmes équitables
Les business schools et les écoles d'ingénieurs ont un rôle essentiel à jouer en introduisant des cursus communs qui mettent l'accent sur l'éthique de l'IA et la réduction des biais. Les étudiants en informatique doivent apprendre à concevoir des systèmes IA équitables et à évaluer les données d'entraînement pour repérer les préjugés potentiels. Ils doivent être en mesure de développer des modèles d'IA qui ne se limitent pas à maximiser la précision des prédictions mais qui tiennent compte de l'éthique.
Encourager les enseignants à former à l'éthique de l'IA
Pour que l'éducation soit véritablement efficace dans la lutte contre les biais de l'IA, les enseignants doivent être accompagnés et formés pour enseigner l'éthique de l'IA aux élèves de tous âges. Les étudiants devraient être incités à poser des questions sur la façon dont l'IA affecte leur vie quotidienne et comment ils peuvent contribuer à atténuer les biais. Les enseignants peuvent jouer un rôle essentiel en guidant les élèves dans la réflexion sur l'IA et en les aidant à développer des compétences critiques pour évaluer les systèmes automatisés. Pour cela ils peuvent s'entraîner avec les réponses fournies par les IA génératives et challenger leur véracité et la pertinence des informations en retour.
Agir sans attendre
L'éducation joue un rôle clé dans la lutte contre les biais de l'IA. L'omniprésence visible ou non de l'IA dans notre société signifie que les décisions qu'elle prend et les recommandations qu'elle émet ont un impact considérable. Si nous ne prenons pas des mesures pour atténuer les biais, nous risquons de perpétuer les inégalités et les injustices de manière consciente ou inconsciente. Nous ne pouvons pas attendre pour agir, les effets bénéfiques attendus des formations sur le sujet peuvent mettre du temps à se révéler. L'éducation doit s'attaquer à cette question complexe et garantir que l'IA soit utilisée de manière éthique et équitable pour une société plus responsable.
(*) Joy Buolamwini, Timnit Gebru Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification – Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 2018.


Cliquez ici pour lire l'article depuis sa source.