#27 - L'IA n'est ni intelligente ni artificielle
Pourquoi il est temps d’arrêter de fantasmer sur une technologie qui n’est que le reflet de nos propres contradictions.
Bonjour tout le monde 👋,
C’est Romain de snooze.
Tous les 15 jours, snooze essaye de déconstruire un mythe, un grand récit de notre société.
Tu peux aussi me suivre sur LinkedIn ou sur Bluesky pour continuer la discussion ou lire les épisodes précédents..
🧚 Le mythe du jour : l'IA est un extra-terrestre.
L'IA est une intelligence technologique surnaturelle désincarnée.
Pour certains, elle va sauver le monde.
Pour d'autres, elle va remplacer les humains et détruire l'humanité. D’habitude, les sujets que je traite ici sont des récits vieux d'au moins deux ou trois siècles.
C'est souvent la durée nécessaire pour qu'un concept ou un préjugé sorte du champ des idées dont on débat volontiers pour pénétrer le monde des normes.
Une fois qu’une idée devient norme, elle n’est plus questionnée ni questionnable.
Si je fais une exception aujourd’hui c’est d’abord parce que l’IA suit un schéma assez semblable à d’autres technologies avant elle (comme la voiture par exemple) et aussi parce que sa vitesse de pénétration est fulgurante (100 millions d’utilisateurs en deux mois).
L’idée la plus largement répandue sur l’intelligence artificielle consiste à considérer l’IA comme une intelligence technologique quasi-surnaturelle.
Une technologie qui aurait le pouvoir de nous sauver des périls à venir ou au contraire de nous détruire.
Une technologie-progrès qui sera partout et qui nous impose une réaction rapide : se former, l’adopter, ne pas être dépassé, garder le contrôle.
L’IA est en train de devenir une norme. Elle s’impose partout. On ne peut plus vraiment questionner son usage et cela devient de plus en plus compliqué de l’éviter malgré son impact important sur notre planète.
Pourtant le seul moyen de la contrôler, c’est bien de comprendre comment marche vraiment cette technologie, ce qu’il se passe quand on l’utilise et quelles sont les conséquences de nos actes sur le long terme.
C’est parti ! 🤖
Sommaire
L’IA n’a rien d’intelligent
Un impact environnemental important
Quelles ressources doit-on allouer à l’IA ?
L’IA est humaine…
… et non artificielle
Pour aller plus loin
L’IA n’a rien d’intelligent
Ce qu’il est convenu d’appeler l’intelligence artificielle existe depuis les années 50. Certes les usages étaient plutôt restreints au début mais depuis les réseaux sociaux, les assistants vocaux ou la reconnaissance faciale, nous avons aujourd’hui l’habitude de l’utiliser au quotidien.
L’intelligence artificielle dite générative est plus récente.
Nourrie par une quantité infâme de textes, l’IA générative est capable de sélectionner l’occurence la plus probable du mot suivant.
L’IA ne “comprend” pas un mot de ce que vous lui demandez ou de ce qu’elle raconte, elle est juste entraînée pour enchaîner la suite de mots la plus probable.
Ce n’est pas clair ?
Ok, vous connaissez ce monsieur ?
C’est Nigel Richards, il est triple champion du monde de Scrabble : en anglais, en français et depuis peu en espagnol.
Vous devez vous dire que pour maîtriser trois langues à la perfection, ce type doit être sacrément intelligent.
Sauf que Nigel Richards ne parle pas un mot de français ni d’espagnol.
Un peu comme une IA qui se serait fixée comme mission de gagner au Scrabble, il a appris par coeur le dictionnaire des mots admis au Scrabble et place ses pièces sans connaître le sens des mots qu’il joue.
L’intelligence est la “faculté de comprendre, de concevoir, de connaître, et notamment faculté de discerner ou d’établir des rapports entre des faits, des idées ou des formes pour parvenir à la connaissance”.
ChatGPT et Nigel Richards ne comprennent pas un mot de ce qu’ils écrivent. Ils sont simplement entraînés pour placer la bonne série de lettres au bon moment.
Un impact environnemental important
Le truc c’est que pour être capable de rédiger la météo à la manière de Shakespeare, de rédiger un rapport de stage ou d’écrire des posts Linkedin, l’IA a besoin d’énormément de données.
Et pour traiter cette quantité astronomique de données, elle a besoin d’une puissance de calcul gigantesque.
Par l’électricité qu’elle consomme, une requête sur ChatGPT-4 génère en moyenne 0,27 kilogramme de dioxyde de carbone.
Faites ça dix fois par jour, et vous atteignez près d’une tonne de CO2 en un an. Une tonne : ça correspond à la moitié de ce qu’une personne ne devra pas dépasser en une année d’ici 2050 pour respecter l’Accord de Paris.
Juliette Quef, vert.eco
A cela, il faut ajouter l’eau nécessaire pour refroidir les data centers (l’IA générative consomme 50 cl d’eau potable pour une conversation de 20-50 messages).
Quand l’IA génère de l’image, du son, c’est 10 à 20 fois plus émetteur et dans certains cas de requêtes complexes (vous demandez une tâche à l’IA qui exécute une multitude de tâches enchaînées pour vous répondre), les émissions de CO2 peuvent dépasser 600kg pour une seule requête !
Plus ça va et plus les modèles sont consommateurs de ressources.
La plupart du temps, on utilise des modèles sur-dimensionnés par rapport à notre requête.
Reformuler un simple mail avec le dernier modèle d’OpenAi proposé par défaut sur l’interface de ChatGPT revient un peu à déposer ses enfants à l’école avec un 33 tonnes !
Il devient tellement facile de créer du contenu qu’on en génère même quand ça ne sert à rien.
Du coup il faut le stocker.
Et pour stocker ces données, il faut des data centers.
Quelles ressources doit-on allouer à l’IA ?
Mais une chose est sûre : la quantité d’électricité qu’on peut produire est limitée.
Si nous mettons plus de cerveaux, de kWh, et de cuivre pour faire de l'intelligence artificielle, il en restera moins pour rendre durables et résilientes l'industrie, l'agriculture, les infrastructures de transport, ou encore les logements.
Vous voudriez y réfléchir ? en débattre ? Vous exprimer sur le sujet ? Une cause vous semble-t-elle plus pertinente qu’une autre ?
Vous voudriez avoir votre mot à dire ?
Sauf que non, ça ne marche pas comme ça.
La décision a déjà été prise.
En quelques mois, l’IA générative a, par exemple, fait son apparition sur Google, Microsoft Words, PowerPoint, Whatsapp, Snapchat, Messenger, Linkedin, Notion, Deepl, Amazon, Acrobat, Photoshop, Strava, Zoom, Spotify…
Les éditeurs qui ont fait des investissements colossaux dans l’IA nous poussent à la mise-à-jour et à consommer de l’IA à tout va.
L’écrivain Gaspard Koenig s’est récemment plaint dans une chronique du fait que Copilot, l’IA générative de Microsoft Word, le harcelait pour écrire à sa place.
Si l'option de désactivation existe, son existence n'est pas mentionnée aux utilisateurs et le paramètre dédié est caché parmi d'autres. Il existe un écart considérable entre, d'une part, la manière dont les possibilités des fonctions basées sur l'IA sont mises en évidence et présentées et, d'autre part, les informations fournies aux utilisateurs pour leur permettre de protéger leurs données contre l'utilisation à des fins d'entraînement de l'IA.
Limites numériques, Projet de recherche mené par le LIRIS (CNRS), l'ACCRA (Université de Strasbourg) et Designers Éthiques.
Les géants de la tech ont décidé que l’IA serait partout et qu’il fallait flécher les ressources vers l’IA.
En Irlande, les data centers ont utilisé 21 % du total de la consommation électrique mesurée en 2023 dans le pays, contre 5 % en 2015 et 18 % en 2022.
Le Financial Time a révélé que dans trois quartiers de Londres, la construction de logement était stoppée parce que les data centers du coin consommait toute l’électricité.
Même chose pour l’eau. Les Echos se demandait en mai 2024 :
Avec le développement de l'intelligence artificielle et la multiplication des échanges de données, les data centers sont en surchauffe. Pour les refroidir, les quantités d'eau nécessaires explosent. De quoi alerter sur de futurs conflits d'usage de l'eau.
Il y a plein d’usages où l’IA générative peut apporter quelque chose et créer de la valeur.
Pourtant ce serait un débat passionnant à tenir : comment allouer nos ressources le plus efficacement possible ? Comment utiliser l’IA pour nous aider ?
Au lieu de ça, l’IA générative se répand partout et à grande vitesse malgré son impact et son coût faramineux simplement parce qu’elle parvient à discuter avec nous, à faire croire qu’elle “réfléchit”, comme un humain.
L’IA est humaine…
Oui on peut avoir l’impression de discuter avec un assistant quand on parle avec un IA.
On a vu plutôt qu’il n’en était rien et que l’IA ne pigeait pas un broc de ce qu’il se passait mais il n’en reste pas moins que oui, elle semble réfléchir comme un humain.
Mais quels humains ?
De quels humains est-ce que les IA générative acquièrent leur caractéristiques psychologique ?
C’est cette question passionnante que s’est posée, le chercheur en biologie à Harvard, Joseph Henrich.
Dans une étude de 2023, il rappelle que les humains ne peuvent pas être classés dans une catégorie homogène vu la diversité psychologique à l’échelle de la planète.
La plasticité du cerveau est suffisamment importante pour que les différentes populations développent des différences culturelles importances a maints égards (vie en société, façon de réfléchir, de se repérer dans l’espace, d’apprendre…).
Les IAs sont entraînées sur d’immenses quantités de données textuelles qui ne reflètent pas l’ensemble de la diversité psychologique humaine mais essentiellement ce que Henrich appelle les WEIRD (White, Educated, Industrialized, Rich, Democratic) et le plus souvent en langue anglaise.
Il utilise une étude réalisée auprès de près de 100 000 individus dans 65 pays pour tester les réponses de ChatGPT et les situer dans le spectre de la variation psychologique humaine contemporaine
Sans surprise, ChatGPT répond comme un canadien, un irlandais, un anglais, un américain ou un allemand mais pas du tout comme un éthiopien, un pakistanais ou un Kirghize.
À l'avenir, les modèles de plus grande taille ne s'amélioreront pas nécessairement dans le sens d'une réduction de leur biais WEIRD. Ce n'est pas seulement une question de taille, mais aussi de diversité et de qualité des données. Les futurs modèles pourraient encore souffrir du problème “WEIRD-in-WEIRD-out” car la plupart des données textuelles sur Internet sont produites par des personnes WEIRD (et principalement en anglais). Certaines études ont montré que les LLM multilingues se comportent toujours de manière WEIRD, reflétant les normes occidentales, même lorsqu'ils répondent à des questions dans des langues autres que l'anglais.
Joseph Henrich, Which Humans? (2023)
Les modèles d’IA que nous sommes en train de développer nous ressemblent. Ils perpétuent et auto-alimentent nos clichés et nos préjugés.
… et non artificielle
En 2014, Amazon a tenté d'automatiser son processus de recrutement de développeurs avec une IA entraînée sur dix ans de CV d'employés existants. Mais le système, biaisé par l'historique masculin dominant de l'entreprise, s'est mis à pénaliser les CV de femmes ou contenant le terme « femme ».
Même après ajustements, le biais persistait, révélant involontairement comment l'outil, nourri des décisions passées, reproduisait simplement les inégalités existantes.
À son insu, Amazon avait créé un outil de diagnostic. Comme la grande majorité des ingénieurs embauchés chez Amazon ces dix dernières années étaient des hommes, les modèles qu'ils créaient, entraînés à partir des CV d'hommes, avaient appris à recommander l'embauche d'autres hommes.
Kate Crawford, Contre-Atlas de l'intelligence artificielle (2021)
Pour fonctionner correctement, une IA doit être entraînée. Des humains (souvent payés quelques dollars de l’heure dans des pays du sud) doivent classer et catégoriser des mots et des images.
C’est comme ça que l’IA apprend. On crée des catégories, on dessine des cases et on lui montre ce qui entre dedans.
En lisant les contenus écrits par nous autres WEIRD, en étant obligé de les faire entrer dans des catégories que nous autre WEIRD avons créé, comment pensez-vous que l’IA a rangé les termes femmes, noir, homosexuel, trans, malades mentaux…?
Le principal risque n’est pas que l’IA prenne la main sur les humains et détruise l’humanité, c’est que l’IA nous empêche de réfléchir et d’innover.
Utilisé à mauvais escient, c’est un terrible outil de maintien du statu quo, des inégalités et des discriminations, un terrible outil pour pétrifier un système extractiviste et destructeur.
Deux questions pour finir…
Comment faire pour que toutes ces questions décisives pour la planète et pour notre futur nous soient réellement posées ?
Comment utiliser à bon escient cet outil sans succomber aux sirènes des géants de la tech (et des gouvernements qui investissent des centaines de milliards sans nous convier aux débats) qui nous poussent au crime ?
Pour aller plus loin
Tu veux m’aider ?
Avec plaisir, j’ai besoin de toi pour cliquer sur 🤍, t’abonner ou partager cet article. Ça m’aide beaucoup à faire connaître mon travail :
À très vite 👋,
Romain
Encore passionnant. Partage à toute l’équipe Jumanji Studio à l’instant. Merci Romain
C'est terrible cet article.
J'utilise l'IA au quotidien dans mon métier de développeur, et chaque caractère, chaque ligne que j'écris, déclenche en arrière plan une requête à un serveur, un prompt, me suggérant la ligne suivante à la façon autocomplete.. Sans parler des fonctions d'orchestrations qui "prennent la main" sur l'IDE et doivent enchainer 10-20 prompts d'un coup pour me générer les modifications idoines dans 10-20 fichiers. En toute honnêteté, je n'ai jamais développé aussi vite et pris autant de plaisir à coder 5 à 20x plus vites mes projets ces 6 derniers mois que ces 20 dernières années. J'ai l'impression d'être un développeur "amélioré" qui dirige une petite équipe de 5-6 développeurs assistants dans mes projets.
Dans mes bases de données numériques, où les données textes libres sont toutes hétéroclites, l'IA m'aide à les classifier, comme un stagiaire ou Mechanical Turk l'aurait fait, sur 17k lignes..
L'IA aide aussi mes collaborateurs ou mes clients, à accéder plus facilement et rapidement à la donnée, en leur permettant d'écrire textuellement ce qu'ils recherchent, plutôt que d'essayer de maitriser une quelconque syntaxe programmatique type SQL.
Ces usages-là ne sont pas des gimmicks, des caprices et sont voués à durer et même à croitre. Comme si tu disais à un bucheron qu'il devait ne plus utiliser sa tronçonneuse et retourner à la hache, comme si tu disais à chauffeur de taxi qu'il devait troquer sa Prius contre un tuk-tuk à pédales.
Comment s'en passer désormais ? Comment ralentir ?