Il y a quelques jours, dans une émission de radio, une intervenante reprochait à un Junior minister et à son parti de ne pas avoir eu recours à l’intelligence artificielle pour faire une première sélection parmi les 300 CV reçus lors d’un appel à candidatures. L’idée, pour résumer, c’était que l’humain était trop faillible, trop enclin à ses petites affinités (le fameux « ti-copinage »), pour qu’on lui fasse confiance. Tandis que l’IA, sous-entendait-elle, serait un juge impartial à qui on pourrait faire une confiance aveugle. C’est vrai qu’elle n’a pas eu le temps de nuancer ces propos dans ce cadre d’une discussion à bâtons rompus, mais c’est un sentiment que partagent beaucoup de monde. D’où la petite rengaine qu’on entend trop souvent : demande à ChatGPT (l’omniciente, l’infaillible !)
Qu’on ne s’y trompe pas : ceci n’est pas un manifeste anti-IA. Bien au contraire. L’IA est d’une efficacité redoutable et fait gagner un temps précieux et un gain de performance énorme à ses utilisateurs (dans les processus de recrutement itou). Mais cette puissance a son revers : elle reproduit nos biais, parfois de manière encore plus systématique que nous. Voilà pourquoi il faut la manier comme on manipule la nitroglycérine : avec des gants, du recul et un sens aigu de la responsabilité.
Pour en revenir à l’IA dans le recrutement, des exemples emblématiques nous ont justement rappeler qu’une vigilance de tous les instants est de mise. Prenons Amazon, par exemple. Le géant de Seattle avait imaginé un outil miracle pour sélectionner ses candidats. Miracle, en effet : l’algorithme avait appris tout seul à discriminer les femmes, puisque l’historique des embauches, majoritairement masculines, lui servait de référence. Conclusion : si vous aviez un diplôme prestigieux mais l’outrecuidance d’appartenir au sexe féminin, autant dire que votre CV finissait au compost numérique.
Apple, de son côté, a offert un autre chef-d’œuvre du genre avec sa carte de crédit : des plafonds de crédit faramineux pour les hommes, et des miettes pour les femmes, même quand ces dernières avaient un meilleur profil financier que leur conjoint. Quant aux logiciels de reconnaissance faciale, notamment aux États-Unis, ils excellent dans un art bien particulier : confondre un visage noir ou asiatique avec un suspect imaginaire, tout en identifiant sans faillir le visage rassurant d’un homme blanc. Autrement dit, l’IA ne crée pas les biais : elle les recycle en masse et les transforme en standards.
Le vrai défi : reconnaître nos biais pour mieux les dépasser
Il serait facile d’en conclure que l’IA est l’ennemie. Elle ne l’est pas. Elle n’est ni bonne ni mauvaise : elle est un outil. Ce qui compte, c’est l’esprit critique que nous appliquons en l’utilisant.
Le problème du biais ne concerne pas que les algorithmes : il traverse toutes nos décisions quotidiennes. Dans le recrutement, bien sûr, mais aussi dans le choix d’un prestataire, d’un partenaire stratégique, ou même dans nos jugements sur de grands enjeux de société (dépénalisation du cannabis par exemple). Nos biais inconscients guident nos choix, souvent à notre insu : biais de confirmation, effet de halo, biais d’ancrage… Nous croyons décider rationnellement, alors que nous sommes influencés par des raccourcis cognitifs qui faussent notre regard.
Ainsi, vouloir confier la sélection de CV à une machine pour éviter le favoritisme, c’est ignorer que la neutralité parfaite n’existe pas. Ni chez l’humain, ni chez l’algorithme. La clé n’est pas dans la fuite en avant technologique, mais dans l’éducation à nos propres angles morts.
Une initiative mauricienne : un mentor pour défier nos biais
C’est là qu’apparaît une piste prometteuse, née justement à Maurice : la startup Cognicraft. Plutôt que de prétendre remplacer l’humain, elle propose un outil singulier : un mentor doté d’intelligence artificielle, non pas pour donner des réponses, mais pour poser des questions.
Son ambition ? Aider chacun à identifier ses propres biais, à s’entraîner à les reconnaître et à les dépasser. Ce « AI mentor » se comporte un peu comme un Socrate numérique : il ne dicte pas une vérité, il accompagne l’utilisateur dans un processus d’auto-réflexion. Face à une décision – qu’il s’agisse de recruter, d’investir ou de trancher un dilemme éthique – il questionne, reformule, confronte les angles morts.
Disponible en version bêta et ouverte à tous sur https://www.ai-cognicraft.com/, ne demande qu’à s’affiner et à grandir et pourquoi pas trouver sa place dans cet univers bouillonnant d’innovation qu’est celui de l’IA. Après avoir répondu à un questionnaire qui dresse votre profil cognitif, vous êtes invité à plonger dans les méandres de votre pensée et à confronter vos biais. Comment ? En vous exerçant à la prise de décision à travers des scénarios réalistes et évolutifs, qui s’adaptent à vos choix et bousculent vos certitudes. Un entraînement intellectuel aussi stimulant qu’utile dans un monde où nos biais façonnent trop souvent nos jugements.
Dans un monde saturé d’outils qui nous promettent des solutions toutes faites, l’idée est rafraîchissante : et si l’intelligence artificielle servait avant tout à aiguiser notre esprit critique plutôt qu’à l’anesthésier ?
La lucidité comme antidote
L’enjeu, finalement, n’est pas de choisir entre l’humain et la machine. C’est d’apprendre à penser avec nos biais en pleine conscience, afin de les déjouer. L’IA peut nous y aider, mais seulement si nous cessons de la croire infaillible.
Car le plus grand danger n’est pas que la machine se trompe. C’est que nous, fascinés par son aura d’objectivité, cessions de questionner ses réponses.
À l’heure où Maurice discute de recrutement, de transparence et de justice sociale, rappelons-nous que l’outil ne remplacera jamais le jugement éclairé. Et qu’il n’y a pas de neutralité sans lucidité.
Pour plus d’informations : https://www.ai-cognicraft.com/
Rana Ramjaun
À propos de l’auteur : Responsable des contenus web chez MyConnecting, organisme de formation opérant en France dans les domaines de l’intelligence artificielle, des soft skills, entre autres, j’explore avec curiosité et exigence les mutations du monde du travail et de l’apprentissage. Diplômé d’un Master 2 recherche (Langues et civilisations anglophones) de l’Université Bordeaux Montaigne, je nourris mes réflexions de l’actualité de l’innovation, de l’évolution des compétences et des dynamiques humaines en entreprise.
