Soutien à cette objection de conscience, et de bons arguments à reprendre

Complètement à côté de la plaque 🤦

Intéressant. Ça va contribuer à ma propre réflexion sur la question stratégique d'intégrer ou pas de l'IA dans Firefox. Mais a minima, d'accord avec la suggestion d'intégrer un bouton CLAIR permettant de retirer tout ce qui a trait à l'IA. Mais perso je préfère la stratégie de Vivaldi ou Kagi en ce moment.

« Plus généralement, mettre de l’ordre dans un texte, c’est mettre de l’ordre dans sa pensée. Souvent, l’universitaire qui signe un papier, la chroniqueuse qui critique un disque ou l’amoureux éconduit qui met des mots sur ses émotions n’écrivent pas simplement ce qu’ils pensent : ils écrivent pour savoir ce qu’ils pensent ». Très juste en ce qui me concerne.

« Après la phase d’excitation, on entre dans le tunnel de la désillusion. Je pense que les usages vont se rationaliser. Peut-être qu’on arrivera à la conclusion que l’IA ne sert pas à grand-chose ? »

TRIBUNE. La mise en place de l’intelligence artificielle doit conduire au meilleur résultat possible pour les patients, soulignent plusieurs experts dans une tribune au « Monde », plaidant pour des interfaces adaptées.

Meaningful social change starts with acknowledging the root causes of existing inequities, from gender-based violence to poverty and hunger. Overcoming them requires sustained effort and significant reallocation of resources. By distracting from these realities, technosolutionism is part of the problem.

Il y a une citation de Philippe Meirieu qui me semble très bien résumer tout cela : « l’IA comble le désir de savoir mais tue le désir d’apprendre. » [...] Moralité ? Je ne suis pas certain que ça nous rende tous encore plus idiots, mais je suis presque totalement convaincu que ça ne pas nous rendre collectivement plus intelligents.

Ils n'arrêteront jamais...

Je reprends ici l'analyse excellente de Karl Pineau sur LinkedIn :

• les LLMs actuels sont peu performants dans des contextes professionnels (rappelons l'étude du MIT qui indiquait que 95% des projets d'IA en entreprise ne produisent aucun ROI) ;
• il est très difficile à ce stade d'en faire des outils d'automatisation fiables (rappelons l'étude de Metr qui montrait que les développeurs sénior utilisant des IA étaient 20% moins productifs que les autres), les gens renoncent donc progressivement à les utiliser pour cela ;
• les LLMs sont très bons dans l'interaction sociale et le fait de poser des mots sur des idées, ce qui explique leur usage massif en conseils de vie, psy ou recherche en ligne.

On va bientôt avoir la chance de découvrir ce qu'est la LLM de bois

Intéressant. Quelques points clés : pour l'instant l'IA(gén) ne remplace pas quantitativement vraiment le travail, mais elle le déplace (l'IA prétexte pour délocaliser), le précarise, l'intensifie. Pas sûr de pouvoir imaginer une IA socialiste, à moins de pouvoir imaginer quelque chose de complètement différent.

Un très grand livre, toujours pas fini chez moi oups.

Mes notes de lecture :

AI con pourrait paraître comme un brûlot technocritique, mais il est plutôt une synthèse très documentée de ce qu’est l’IA et de ce qu’elle n’est pas.

Les promoteurs de l’IA ne cessent de répéter que leurs machines approchent de la conscience ou que les être humains, eux aussi, ne seraient que des perroquets stochastiques. Nous ne serions que des versions organiques des machines et nous devrions échanger avec elles comme si elles étaient des compagnons ou des amis. Dans cet argumentaire, les humains sont réduits à des machines.

Les promoteurs de l’IA passent leur temps à dévaluer ce que signifie être humain, comme l’ont montré les critiques de celles qui, parce que femmes, personnes trans ou de couleurs, ne sont pas toujours considérées comme des humains, comme celles de Joy Buolamnwini, Timnit Gebru, Sasha Costanza-Chock ou Ruha Benjamin. Cette manière de dévaluer l’humain par la machine, d’évaluer la machine selon sa capacité à résoudre les problèmes n’est pas sans rappeler les dérives de la mesure de l’intelligence et ses délires racistes. La mesure de l’intelligence a toujours été utilisée pour justifier les inégalités de classe, de genre, de race.

L’IA est un projet politique porté par des gens qui n’ont rien à faire de la démocratie parce qu’elle dessert leurs intérêts et qui tentent de nous convaincre que la rationalité qu’ils portent serait celle dont nous aurions besoin, oubliant de nous rappeler que leur vision du monde est profondément orientée par leurs intérêts

L’IA se déploie partout avec la même promesse, celle qu’elle va améliorer la productivité, quand elle propose d’abord « de remplacer le travail par la technologie ». « L’IA ne va pas prendre votre job. Mais elle va rendre votre travail plus merdique », expliquent les chercheuses. « L’IA est déployée pour dévaluer le travail en menaçant les travailleurs par la technologie qui est supposée faire leur travail à une fraction de son coût ». 

En vérité, aucun de ces outils ne fonctionnerait s’ils ne tiraient pas profits de  contenus produits par d’autres et s’ils n’exploitaient pas une force de travail massive et sous payée à l’autre bout du monde. L’IA ne propose que de remplacer les emplois et les carrières que nous pouvons bâtir, par du travail à la tâche. L’IA ne propose que de remplacer les travailleurs de la création par des « babysitters de machines synthétiques ». 

L’IA n’est que la poursuite de cette longue tradition de l’industrie à chercher des moyens pour remplacer le travail par des machines, renforcer les contraintes et dégrader les conditions de travail au nom de la productivité. 

Le remplacement par la technologie est un mythe persistant qui n’a pas besoin d’être réel pour avoir des impacts.

Plus qu’un remplacement par l’IA, cette technologie propose d’abord de dégrader nos conditions de travail. Les scénaristes sont payés moins chers pour réécrire un script que pour en écrire un, tout comme les traducteurs sont payés moins chers pour traduire ce qui a été prémâché par l’IA.

L’escroquerie de l’IA se développe également dans les services sociaux. Sous prétexte d’austérité, les solutions automatisées sont partout envisagées comme « la seule voie à suivre pour les services gouvernementaux à court d’argent ». L’accès aux services sociaux est remplacé par des « contrefaçons bon marchés » pour ceux qui ne peuvent pas se payer les services de vrais professionnels. Ce qui est surtout un moyen d’élargir les inégalités au détriment de ceux qui sont déjà marginalisés. Bien sûr, les auteurs font référence ici à des sources que nous avons déjà mobilisés, notamment Virginia Eubanks. « L’automatisation dans le domaine du social au nom de l’efficacité ne rend les autorités efficaces que pour nuire aux plus démunis« . 

Dans le social, la santé ou l’éducation, le développement de l’IA est obnubilé par l’efficacité organisationnelle : tout l’enjeu est de faire plus avec moins. L’IA est la solution de remplacement bon marché. « L’IA n’est qu’un pauvre facsimilé de l’Etat providence ». « Elle propose à tous ce que les techs barons ne voudraient pas pour eux-mêmes ». « Les machines qui produisent du texte synthétique ne combleront pas les lacunes de la fabrique du social ». 

Pour répondre aux défis de la modernité, nous n’avons pas besoin de générateur de textes, mais de gens, de volonté politique et de ressources, concluent les chercheuses.

Pour les deux chercheuses, la résistance à l’IA passe d’abord et avant tout par luttes collectives. C’est à chacun et à tous de boycotter ces produits, de nous moquer de ceux qui les utilisent. C’est à nous de rendre l’usage des médias synthétiques pour ce qu’ils sont : inutiles et ringards. Pour les deux chercheuses, la résistance à ces déploiements est essentielle, tant les géants de l’IA sont en train de l’imposer, par exemple dans notre rapport à l’information, mais également dans tous leurs outils. C’est à nous de refuser « l’apparente commodité des réponses des chatbots ». C’est à nous d’oeuvrer pour renforcer la régulation de l’IA, comme les lois qui protègent les droits des travailleurs, qui limitent la surveillance. 

Emily Bender et Alex Hanna plaident pour une confiance zéro à l’encontre de ceux qui déploient des outils d’IA. Ces principes établis par l’AI Now Institute, Accountable Tech et l’Electronic Privacy Information Center, reposent sur 3 leviers : renforcer les lois existantes, établir des lignes rouges sur les usages inacceptables de l’IA et exiger des entreprises d’IA qu’elles produisent les preuves que leurs produits sont sans dangers.