Club XXIe Siècle

Les algorithmes à l’épreuve de la diversité

Publié le 15 février 2019

L’IA fait couler beaucoup d’encre depuis ces deux dernières années. Elle suscite l’engouement de toutes les entreprises, le développement de nouvelles formations, une guerre des talents, et la curiosité voire l’admiration d’une grande majorité de novices… Mais cette IA est-elle dangereuse pour notre société ?

L’IA est un sujet pervasif, il n’est pas uniquement technologique. Il impacte les plateformes, crée de la valeur, impulse de nouveaux positionnements et induit des transformations managériales et organisationnelles. C’est un sujet qui par le fait doit s’inscrire dans une démarche de confiance, de sécurité, dans une démarche sociétale et éthique.

L’IA, qu’elle soit forte ou faible, explicite ou implicite, reste un ensemble d’algorithmes pensés et créés par des développeurs. Ces développeurs sont tous porteurs de biais cognitifs inconscients qui vont se traduire par une discrimination technologique : un client écarté, un candidat non retenu, un visage non identifié… Ces biais sont tant dans l’algorithme développé que dans les données recueillies. En effet, si l’échantillon de données qui sert à prédire un résultat est biaisé car reflétant une réalité discriminatoire, alors l’algorithme produira lui-même un résultat discriminatoire. Ce principe de fonctionnement de l’IA en fait un moteur de reproduction des inégalités.
Et l’IA devient alors « une arme de discrimination massive » comme le titrait le journal Les Échos en août dernier.

Face à ce phénomène, les entreprises ont un rôle déterminant. Elles ont le devoir de mettre en œuvre les mécanismes nécessaires pour limiter ces biais. Elles doivent éveiller les consciences, sensibiliser et former les équipes techniques à la prise en compte de ce sujet. Les développeurs doivent s’entourer et être près des gens des métiers pour prévenir des erreurs.

Mais la communauté des développeurs doit aussi se diversifier elle-même et s’ouvrir à toutes les formes de diversités. Elle doit s’affranchir de ses propres préjugés, au risque de les essaimer au travers de la société civile par le biais de programmes faussement intelligents, mais réellement discriminants.

Fatiha Gas, vice-présidente du Club XXIe Siècle

Club XXIe Siècle,
Les algorithmes à l’épreuve de la diversité