Un livre lu pour vous

L’AI occupe aujourd’hui une place centrale dans plusieurs secteur, à commencer par l’éducation, la santé en passant par le monde des finances ou encore la culture, sans omettre aussi le champ politique….

Dans cette série d’articles, nous allons présenter à nos lecteurs,  chaque jour et ce durant tout le mois de ramadan, un livre écrit par l’un des grands chercheurs en matière de l’intelligence artificielle.

Aujourd’hui, nous abordons le livre de Yarden Katz, intitulé « Artificial Whiteness: Politics and Ideology in Artificial Intelligence ». 

L’intelligence artificielle (IA) est souvent perçue comme une avancée technologique majeure, promettant des progrès dans de nombreux domaines, de la médecine à la finance. Mais derrière cette façade d’objectivité, Yarden Katz, dans Artificial Whiteness: Politics and Ideology in Artificial Intelligence, pose une question dérangeante : et si l’IA n’était pas neutre, mais un outil façonné par et pour une élite blanche et dominante ?

Loin d’être une simple innovation scientifique, l’auteur souligne que  l’IA s’inscrirait dans un projet de pouvoir, renforçant des structures sociales inégalitaires. Ce constat soulève une question essentielle : peut-on réinventer l’IA pour la rendre plus inclusive ou est-elle irrémédiablement ancrée dans une logique de domination ?

Une technologie au service d’une idéologie dominante ?

————————————————————

Pour lui, dès ses débuts, l’IA a été pensée et développée dans des institutions académiques et militaires dominées par des hommes blancs. Stanford, le MIT, et d’autres centres de recherche majeurs ont bénéficié de financements massifs du gouvernement américain et des forces armées.  « L’IA est une technologie qui sert la blancheur en faisant avancer ses projets impériaux et capitalistes. » (p. 10)

Cela étant, les critères de rationalité et d’intelligence promus par ces institutions reflètent une vision euro-centrée du savoir, excluant d’autres formes de pensée. Ainsi, loin d’être un outil universel, l’IA perpétue une hégémonie intellectuelle occidentale.

Toutefois, certaines voix s’élèvent pour dénoncer cette homogénéité. Des initiatives féministes et postcoloniales tentent d’introduire une diversité de perspectives dans la conception des algorithmes, mais ces efforts restent marginaux face aux structures de pouvoir en place.

Un des arguments clés de Katz est que l’IA repose sur une illusion : celle de la neutralité scientifique. Or, les algorithmes ne sont que le reflet des données qui les alimentent et des choix humains qui les programment.

L’auteur rappelle que « L’intelligence universelle est l’une des plus grandes impostures épistémiques de l’IA. » (p. 171)

Les biais sont omniprésents. Par exemple, les technologies de reconnaissance faciale affichent des taux d’erreur bien plus élevés sur les visages noirs et asiatiques que sur les visages blancs. Une discrimination qui n’est pas fortuite : elle découle directement d’un cadre de développement où la blancheur est implicitement la norme.

Des chercheurs en IA plaident pour une meilleure régulation et un ajustement des modèles afin de réduire ces discriminations. Mais Katz va plus loin : selon lui, ces biais ne sont pas de simples erreurs techniques, mais le symptôme d’un problème structurel plus profond.

Un outil de contrôle des populations

——————————————————-

L’IA n’a jamais été un simple outil scientifique. Dès la guerre froide, elle a été un levier stratégique pour les États-Unis, financée pour des applications militaires et de renseignement. Dans ce sens, Katz souligne que  « l’Initiative de Défense Stratégique de Reagan a justifié le développement de l’IA sous prétexte de sécurité nationale. » (p. 43) Aujourd’hui, force est de constater que l’IA est  omniprésente dans les stratégies militaires : drones autonomes, cyberdéfense, surveillance de masse… Son développement s’inscrit donc dans une logique impérialiste plutôt que dans une quête purement scientifique.

Abondant dans le même ordre d’idées, l’auteur met l’accent sur le fait que  la généralisation des technologies de reconnaissance faciale et des algorithmes prédictifs a transformé l’IA en un outil de contrôle des populations. Ces dispositifs sont utilisés aussi bien par des démocraties que par des régimes autoritaires pour surveiller, classifier et, dans certains cas, réprimer.

L’auteur rappelle que « Microsoft a été exposé pour avoir installé une ‘porte dérobée’ dans son système Skype permettant à la NSA d’espionner les utilisateurs. » (p. 74)

Des systèmes comme le crédit social chinois ou les algorithmes de police prédictive aux États-Unis montrent que l’IA renforce les inégalités existantes plutôt qu’elle ne les corrige.

Une tentative de rebranding sous couvert d’éthique

——————————————————————–

Face aux critiques, les géants de la tech ont lancé des initiatives d’« IA éthique » pour redorer leur image. Mais selon Katz, ces efforts relèvent davantage du marketing que d’une réelle remise en question.

Katz note que « L’IA s’est transformée en un discours sur la justice sociale, tout en continuant à servir les mêmes agendas sous un vernis progressiste. » (p. 167)

Les entreprises mettent en avant la diversité et l’inclusion dans leurs équipes, tout en continuant à exploiter des modèles algorithmiques qui perpétuent les discriminations.

En termes plus clairs, de nombreuses entreprises financent des centres de recherche en IA éthique, mais ces initiatives servent souvent à détourner l’attention des vrais enjeux. Comme l’auteur le souligne, ces mesures ne remettent pas en cause le fonctionnement fondamental des algorithmes, mais cherchent plutôt à légitimer leur existence.

Il faut dire que derrière ces efforts de façade, l’IA reste un outil de pouvoir. Utilisée dans le recrutement, l’accès au crédit ou la justice pénale, elle tend à renforcer les injustices plutôt qu’à les corriger.  « Débattre des biais algorithmiques ne suffit pas : il faut s’interroger sur le rôle politique et social de l’IA dans un monde façonné par la suprématie blanche. » (p. 172) Dans ce contexte, il apparaît que l’IA ne se contente pas d’être biaisée : elle perpétue et aggrave activement les inégalités existantes.

Loin d’être une avancée neutre et bénéfique, l’IA est un projet politique et économique conçu pour maintenir les hiérarchies existantes. La véritable question n’est pas de savoir comment rendre l’IA plus éthique, mais de repenser son existence même dans un monde dominé par la suprématie blanche et le capitalisme impérialiste.

« Remettre en question l’IA en tant que technologie de la blancheur signifie comprendre comment son caractère nébuleux et évolutif sert les intérêts du pouvoir. » (p. 172)

Déconstruire l’IA passe donc par une remise en cause de son rôle dans nos sociétés et par l’élaboration de nouvelles formes de technologies réellement inclusives et libératrices, insiste-t-il.