Une menace insidieuse plane sur l’intégrité numérique du continent africain. Mandiaye Diallo, expert sénégalais reconnu du numérique, lance un avertissement clair : les algorithmes d’intelligence artificielle (IA), loin d’être neutres, sont capables de reproduire, voire d’amplifier, des préjugés raciaux, menaçant l’équité et la souveraineté pour des millions de personnes. Selon lui, une « discrimination algorithmique peut toucher des millions de personnes en quelques secondes ».
L’IA face au test des identités
L’auteur de « La Quatrième Blessure – Pourquoi l’Afrique doit gagner la guerre numérique » rapporte des expériences édifiantes menées avec plusieurs systèmes d’IA largement connus. Il a observé que la réaction de ces outils variait significativement selon l’origine ou la couleur de peau de la personne évoquée. Une même situation, lorsqu’elle mentionnait un Algérien ou une personne noire, aurait déclenché des réponses axées sur la sécurité, allant jusqu’à suggérer l’intervention de la police. En revanche, si la personne était présentée comme un Italien, les conseils tendaient plutôt vers l’échange et la socialisation. Ces exemples concrets révèlent la présence de stéréotypes profondément enracinés dans les modèles d’apprentissage de ces technologies.
Des préjugés aux décisions structurantes
Le problème dépasse largement les simples réponses d’un chatbot. Mandiaye Diallo souligne que l’intelligence artificielle est de plus en plus appelée à jouer un rôle central dans des décisions ayant un impact majeur sur les parcours de vie. Le recrutement, la justice, la santé, la sécurité ou la diffusion d’informations sont autant de secteurs où l’IA intervient déjà. Par conséquent, les représentations culturelles et les informations intégrées dans les données utilisées pour concevoir et entraîner ces modèles pourraient influencer directement les droits et les opportunités de millions d’individus. Ces outils ne sont, en aucun cas, autonomes ou exempts de responsabilité humaine : ils sont le reflet de choix effectués par des développeurs, depuis la sélection des données jusqu’à la définition des objectifs.
L’Afrique à la croisée des chemins numériques
Cette problématique des biais est intrinsèquement liée à la forte dépendance technologique du continent. L’Afrique, qui représente 18 % de la population mondiale, ne dispose que de moins de 1 % de la capacité mondiale en centres de données. Sur les 223 centres recensés, plus des deux tiers sont situés en Afrique du Sud. Cette concentration géographique et ce déficit infrastructurel renforcent une dépendance déjà existante vis-à-vis des modèles, des données et des références culturelles qui proviennent de l’extérieur. Le risque est clair : l’Afrique pourrait rester une simple consommatrice de systèmes conçus ailleurs, sans avoir la maîtrise de leur fonctionnement ni la capacité d’anticiper les conséquences de leurs décisions.
Pour inverser cette tendance, Mandiaye Diallo exhorte les nations africaines à ne plus se contenter d’être de simples utilisateurs. Il est impératif de créer des modèles d’IA adaptés, des centres de recherche locaux et des bases de données qui intègrent les langues, les histoires, les cultures et les réalités spécifiques du continent. Le défi n’est pas seulement de développer des compétences techniques, mais surtout de conserver la maîtrise des choix humains encodés dans ces technologies, avant que des machines ne maîtrisent les langues africaines tout en véhiculant des préjugés racistes.
