L’IA décide déjà de l’accès au crédit et à l’emploi
J’ai posé la question à un recruteur tech que je connais depuis dix ans : combien de CV son ATS (logiciel de tri automatique) écarte avant qu’un humain pose les yeux dessus ? Sa réponse m’a arrêté net : entre 60 et 75% des candidatures, selon le poste.
Ce phénomène se répète partout. Chaque jour, les algorithmes traitent des millions de décisions : un prêt accordé ou refusé, un entretien obtenu ou non, une assurance tarifée différemment. Le problème : ces systèmes apprennent à partir de données historiques produites par des sociétés qui discriminaient déjà.
Un modèle entraîné sur dix ans de décisions d’embauche reproduit les biais de cette période. Si 80% des ingénieurs embauchés étaient des hommes entre 25 et 35 ans, le modèle sur-scorera ces profils. Pas par malveillance – par simple statistique.
Le cas le plus documenté reste celui d’Amazon, qui a abandonné en 2018 son outil de recrutement automatisé après avoir constaté qu’il pénalisait systématiquement les CV contenant le mot « femmes » (comme dans « capitaine de l’équipe féminine de. »). Mais pour chaque cas révélé publiquement, combien restent dans l’ombre des process RH ?
À la banque, même jeu. Les algorithmes de scoring financier utilisent des variables cachées – code postal, historique de navigation, habitudes d’achat – qui reflètent fortement l’origine ethnique ou le niveau social. Résultat : une personne solvable se voit refuser un prêt non pas parce qu’elle ne peut pas rembourser, mais parce qu’elle vit dans le mauvais quartier.
Et la régulation arrive lentement. L’AI Act européen impose depuis 2024 une classification des systèmes IA à haut risque (dont le recrutement et le crédit), mais les audits effectifs restent encore rares.
72% des citoyens redoutent la surveillance de masse par l’IA
Ce chiffre – tiré d’un sondage Eurobaromètre – révèle un fossé : les États déploient des outils que les citoyens redoutent. La reconnaissance faciale équipe déjà des dizaines de villes en Europe et en Asie. Mais au nom de quoi exactement ?
À découvrir aussi : Robot cuisine : Test du chef cuisinier Kenwood : Avis et prix 2026.
| Technologie | Taux d’erreur estimé | Pays leaders | Score éthique (1-10) |
|---|---|---|---|
| Reconnaissance faciale | Jusqu’à 35% sur peaux foncées | Chine, USA, Royaume-Uni | 3/10 |
| Suivi comportemental en ligne | Faible (très précis) | USA, Europe (via GAFAM) | 4/10 |
| Géolocalisation prédictive | Variable selon données | Chine, Singapour, Israël | 2/10 |
| Score social automatisé | Non mesuré publiquement | Chine | 1/10 |
Sauf que la reconnaissance faciale n’est pas réservée aux dictatures. En France, elle a équipé les Jeux Olympiques 2024 sous une formule « anonymisée ». La question persiste : où s’arrête la sécurité, où commence la surveillance ? Personne n’a vraiment d’answer.
Qui est responsable quand un véhicule autonome tue ?
Marzo 2018, Tempe (Arizona): une voiture autonome Uber tue une piétonne. Le véhicule avait vu l’obstacle. Il n’a pas freiné. Qui devient responsable ? La conductrice humaine ? Uber ? Le développeur qui a écrit le code ? Le tribunal a mis des années avant de répondre – mal.
Peut-on programmer une IA pour « choisir » entre deux vies ?
Le dilemme du tramway devient réel. Programmer la voiture pour sauver d’abord ses passagers ou minimiser le nombre total de morts ? La MIT Moral Machine, une grande enquête sur ce que les gens pensaient moralement juste, a montré : les réponses changent selon les pays. Il n’existe pas de réponse universelle. Et les constructeurs ? Ils publient des chartes génériques sur la « sécurité maximale » sans vraiment répondre.
Quel cadre légal s’applique aujourd’hui ?
La directive européenne sur la responsabilité des produits a été révisée en 2022 pour intégrer les systèmes IA, mais son application aux véhicules autonomes reste fragmentée. En France, la loi d’orientation des mobilités de 2019 a posé un premier cadre, sans répondre aux cas extrêmes. Aux États-Unis, la régulation varie état par état. Résultat : une mosaïque juridique où les entreprises testent leurs véhicules dans les zones les moins contraignantes.
Les entreprises contournent-elles volontairement ces questions ?
Oui. Pas forcément par cynisme, mais parce que répondre précisément à ces questions implique d’assumer une responsabilité légale massive. Tant que le vide juridique persiste, les constructeurs ont intérêt à maintenir le flou dans leurs documentations techniques. C’est confortable pour eux. C’est inconfortable pour le reste d’entre nous.
Les modèles de langage absorbent nos préjugés culturels
GPT, Gemini, Claude, Mistral – tous entraînés sur des milliards de pages web. Or le web privilégie l’anglais, le point de vue masculin, l’occident. Les modèles en héritent. C’est mécanique.
Les biais qu’on observe vraiment :
- Représentation démographique insuffisante: les langues du Sud global, les dialectes régionaux, les cultures minoritaires sont massivement sous-représentés dans les corpus d’entraînement.
- Stéréotypes de genre: associer « infirmière » à un pronom féminin et « chirurgien » à un pronom masculin reste un pattern observé dans plusieurs modèles publics.
- Langage toxique détecté: des études de 2023 ont montré que plusieurs LLM produisent des associations négatives nettement plus fréquentes pour certains prénoms à consonance arabe ou africaine.
- Recommandations discriminantes: demander à un modèle de rédiger une offre d’emploi sans consigne produit parfois des formulations implicitement genrées.
- Tester les associations implicites : soumettre des paires de prénoms (masculin/féminin, occidental/non-occidental) sur des tâches identiques et comparer les sorties.
- Utiliser des benchmarks publics : BOLD (Bias in Open-ended Language Generation) ou WinoBias permettent d’évaluer les stéréotypes de genre.
- Vérifier la distribution des données d’entraînement : demander au fournisseur un rapport de composition du corpus – s’il n’existe pas, c’est déjà une réponse.
- Tester en langues minoritaires : les dégradations de performance révèlent souvent une sous-représentation structurelle.
Mais l’audit reste une démarche volontaire. L’AI Act impose une évaluation des risques pour les systèmes à haut risque – pas pour l’ensemble des LLM en usage général.
À lire aussi : 7 applications d’IA qui simplifient vraiment votre quotidien en 2026.
L’IA consomme autant d’électricité qu’une ville pour s’entraîner
GPT-3 a généré environ 552 tonnes d’équivalent CO₂ selon l’Université du Massachusetts (2019). GPT-4 et ses successeurs sont infiniment plus gros. OpenAI ne publie jamais les vrais chiffres.
Mais c’est aussi l’eau. Les data centers en avalent des quantités énormes pour rester froids. Microsoft a admis en 2023 que sa consommation d’eau avait explosé de 34% sur un an, largement à cause de ses nouveaux serveurs IA.
Et voilà le paradoxe : des dizaines de startups jurent qu’elles vont utiliser l’IA pour optimiser l’électricité, réduire les émissions d’usine, prédire le climat. Mais l’infrastructure qui exécute ces modèles empire ce qu’ils promettent de réparer. Ce n’est pas une raison d’abandonner. C’est une raison de cesser de dire que l’IA est écologique.
Vos données valent beaucoup, mais vous ne le saurez jamais
Quelques faits simples. Quand une plateforme vous offre un service gratuit et entraîne un modèle IA sur vos actions, elle capte la valeur de votre comportement, votre langage, ce que vous aimez. Vous ne voyez pas une centime de cet argent.
Les questions que personne ne tranche vraiment :
- Qui possède vos données d’entraînement ? – Légalement, souvent la plateforme, via des CGU que personne ne lit. Le RGPD impose un consentement éclairé, mais la notion de « contribution à l’entraînement d’un modèle » n’y figurait pas explicitement lors de sa rédaction en 2018.
- Peut-on être rémunéré pour ses données ? – Des initiatives existent. Coopératives de données comme Midata en Suisse ou des projets de « salaire des données » ont été théorisés, notamment par Jaron Lanier. Aucun n’a atteint une masse critique.
- A-t-on vraiment le choix ? – Refuser de partager ses données sur les grandes plateformes signifie souvent renoncer à des services devenus structurants. C’est un consentement contraint, pas libre.
- Qu’est-ce que les données altruistes ? – Le règlement européen sur la gouvernance des données (Data Governance Act, 2022) introduit la notion de partage volontaire de données pour l’intérêt général. Prometteur sur le papier, encore embryonnaire en pratique.
Et le débat sur qui possède réellement vos données ne fait que démarrer, puisque les modèles s’enrichissent et leur prix monte.
L’IA générative dépossède les créateurs sans jamais les payer
Je vais être honnête : c’est ce qui m’agace le plus dans ce débat sur l’IA éthique. Pas la technologie elle-même, mais l’impudence du déséquilibre.
Sur le même sujet : Robot cuisine : Test du RMC-M90E de Redmond : Avis et prix 2026.
Les modèles génératifs – image, texte, musique – ont gobé des corpus énormes d’œuvres dont beaucoup sont protégeables. Millions d’illustrations d’artistes piochées sans permission. Millions d’articles. Partitions, romans, traductions. Aspirés, convertis en nombres, puis vendus par des boîtes qui valent des dizaines de milliards.
Les créateurs, eux, n’ont rien reçu.
Les boîtes IA défendent leur pratique en disant : « l’entraînement ressemble à apprendre, pas à copier. » C’est facile à dire. Quelques tribunaux américains ont acheté l’argument, d’autres non. En Europe, l’AI Act force la transparence sur les données d’entraînement, mais n’impose aucun système de paiement automatique.
Mais c’est plus qu’une question de fric. C’est existentiel. Un illustrateur dont le style circule dans un modèle perd sa valeur commerciale – même si le fichier original n’a pas été volé. Un journaliste dont les papiers ont nourri un algorithme de résumé contribue malgré lui à l’outil qui tuerait son métier.
Les régulations arrivent avec retard. Pas un petit retard – elles sont structurellement tardives. Les plus gros modèles ont déjà avalé l’internet entier. L’AI Act ne jouera pleinement qu’en 2026-2027, alors que les corpus actuels sont déjà complets. On régule l’avenir, pas le passé.
Ce que les créateurs devraient exiger, collectivement et sans attendre : un droit à l’opt-out effectif (pas un formulaire obscur sur une page de paramètres), une compensation systématique pour l’usage commercial et un droit à l’oubli numérique opposable aux modèles IA – c’est-à-dire la capacité réelle à demander qu’une œuvre soit retirée d’un corpus, même post-entraînement. Techniquement difficile. Politiquement nécessaire.
Sans ça, l’économie de la création se retrouve dans une situation absurde : les œuvres humaines financent les outils qui rendent les humains moins nécessaires. Ce n’est pas du progrès. C’est une externalité non comptabilisée.
Cet article fait partie de notre dossier complet : L’IA révolutionne le travail : 5 transformations concrètes en 2026.