On va bientôt avoir la chance de découvrir ce qu'est la LLM de bois

Intéressant. Quelques points clés : pour l'instant l'IA(gén) ne remplace pas quantitativement vraiment le travail, mais elle le déplace (l'IA prétexte pour délocaliser), le précarise, l'intensifie. Pas sûr de pouvoir imaginer une IA socialiste, à moins de pouvoir imaginer quelque chose de complètement différent.

Un très grand livre, toujours pas fini chez moi oups.

Mes notes de lecture :

AI con pourrait paraître comme un brûlot technocritique, mais il est plutôt une synthèse très documentée de ce qu’est l’IA et de ce qu’elle n’est pas.

Les promoteurs de l’IA ne cessent de répéter que leurs machines approchent de la conscience ou que les être humains, eux aussi, ne seraient que des perroquets stochastiques. Nous ne serions que des versions organiques des machines et nous devrions échanger avec elles comme si elles étaient des compagnons ou des amis. Dans cet argumentaire, les humains sont réduits à des machines.

Les promoteurs de l’IA passent leur temps à dévaluer ce que signifie être humain, comme l’ont montré les critiques de celles qui, parce que femmes, personnes trans ou de couleurs, ne sont pas toujours considérées comme des humains, comme celles de Joy Buolamnwini, Timnit Gebru, Sasha Costanza-Chock ou Ruha Benjamin. Cette manière de dévaluer l’humain par la machine, d’évaluer la machine selon sa capacité à résoudre les problèmes n’est pas sans rappeler les dérives de la mesure de l’intelligence et ses délires racistes. La mesure de l’intelligence a toujours été utilisée pour justifier les inégalités de classe, de genre, de race.

L’IA est un projet politique porté par des gens qui n’ont rien à faire de la démocratie parce qu’elle dessert leurs intérêts et qui tentent de nous convaincre que la rationalité qu’ils portent serait celle dont nous aurions besoin, oubliant de nous rappeler que leur vision du monde est profondément orientée par leurs intérêts

L’IA se déploie partout avec la même promesse, celle qu’elle va améliorer la productivité, quand elle propose d’abord « de remplacer le travail par la technologie ». « L’IA ne va pas prendre votre job. Mais elle va rendre votre travail plus merdique », expliquent les chercheuses. « L’IA est déployée pour dévaluer le travail en menaçant les travailleurs par la technologie qui est supposée faire leur travail à une fraction de son coût ». 

En vérité, aucun de ces outils ne fonctionnerait s’ils ne tiraient pas profits de  contenus produits par d’autres et s’ils n’exploitaient pas une force de travail massive et sous payée à l’autre bout du monde. L’IA ne propose que de remplacer les emplois et les carrières que nous pouvons bâtir, par du travail à la tâche. L’IA ne propose que de remplacer les travailleurs de la création par des « babysitters de machines synthétiques ». 

L’IA n’est que la poursuite de cette longue tradition de l’industrie à chercher des moyens pour remplacer le travail par des machines, renforcer les contraintes et dégrader les conditions de travail au nom de la productivité. 

Le remplacement par la technologie est un mythe persistant qui n’a pas besoin d’être réel pour avoir des impacts.

Plus qu’un remplacement par l’IA, cette technologie propose d’abord de dégrader nos conditions de travail. Les scénaristes sont payés moins chers pour réécrire un script que pour en écrire un, tout comme les traducteurs sont payés moins chers pour traduire ce qui a été prémâché par l’IA.

L’escroquerie de l’IA se développe également dans les services sociaux. Sous prétexte d’austérité, les solutions automatisées sont partout envisagées comme « la seule voie à suivre pour les services gouvernementaux à court d’argent ». L’accès aux services sociaux est remplacé par des « contrefaçons bon marchés » pour ceux qui ne peuvent pas se payer les services de vrais professionnels. Ce qui est surtout un moyen d’élargir les inégalités au détriment de ceux qui sont déjà marginalisés. Bien sûr, les auteurs font référence ici à des sources que nous avons déjà mobilisés, notamment Virginia Eubanks. « L’automatisation dans le domaine du social au nom de l’efficacité ne rend les autorités efficaces que pour nuire aux plus démunis« . 

Dans le social, la santé ou l’éducation, le développement de l’IA est obnubilé par l’efficacité organisationnelle : tout l’enjeu est de faire plus avec moins. L’IA est la solution de remplacement bon marché. « L’IA n’est qu’un pauvre facsimilé de l’Etat providence ». « Elle propose à tous ce que les techs barons ne voudraient pas pour eux-mêmes ». « Les machines qui produisent du texte synthétique ne combleront pas les lacunes de la fabrique du social ». 

Pour répondre aux défis de la modernité, nous n’avons pas besoin de générateur de textes, mais de gens, de volonté politique et de ressources, concluent les chercheuses.

Pour les deux chercheuses, la résistance à l’IA passe d’abord et avant tout par luttes collectives. C’est à chacun et à tous de boycotter ces produits, de nous moquer de ceux qui les utilisent. C’est à nous de rendre l’usage des médias synthétiques pour ce qu’ils sont : inutiles et ringards. Pour les deux chercheuses, la résistance à ces déploiements est essentielle, tant les géants de l’IA sont en train de l’imposer, par exemple dans notre rapport à l’information, mais également dans tous leurs outils. C’est à nous de refuser « l’apparente commodité des réponses des chatbots ». C’est à nous d’oeuvrer pour renforcer la régulation de l’IA, comme les lois qui protègent les droits des travailleurs, qui limitent la surveillance. 

Emily Bender et Alex Hanna plaident pour une confiance zéro à l’encontre de ceux qui déploient des outils d’IA. Ces principes établis par l’AI Now Institute, Accountable Tech et l’Electronic Privacy Information Center, reposent sur 3 leviers : renforcer les lois existantes, établir des lignes rouges sur les usages inacceptables de l’IA et exiger des entreprises d’IA qu’elles produisent les preuves que leurs produits sont sans dangers.

À lire et faire tourner... Parce qu'on pourrait avoir un débat philosophique super intéressant sur l'IA (et bien d'autres technologies numériques) si ces technologies n'étaient pas simplement insoutenables écologiquement et socialement.

Surpris par les chiffres de cette étude. Il y aurait « trois profils d'enseignants face à l'IA : réticents, pragmatiques et
convaincus »

38 % des enseignants voient dans l’IA un levier pédagogique puissant… à manier avec vigilance.
41 % des enseignants considèrent l’IA comme un outil utile pour gagner en efficacité.
21 % des enseignants voient dans l’IA davantage une source d’inquiétude qu’une opportunité.

Une fois de plus, on semble mettre sous le tapis les impacts écologiques et sociaux de l'IA générative, sans parler de son impasse éthique :/

Quelles compétences à développer pour les élèves ? => “Développer l’esprit critique pour pouvoir s’en émanciper” pour 48% des sondés

Merci Mathilde pour cet article, qui complète la vidéo de MrPhi à laquelle je reconnais avoir réagi trop rapidement. En fait, derrière tout ça, il faudrait vraiment que les journalistes arrêtent les bons clients (surtout quand ce sont des mecs blancs) et aient du temps de prépa et d'enquête pour fact-checker leurs interlocuteurices...

Responsable des questions de « Transitions numérique et écologique » à l’Agence nationale pour l’amélioration des conditions de travail (Anact), Vincent Mandinaud appelle à relativiser le tourbillon médiatique autour de la magie de l’IA : la puissance des technologies se heurte à la réalité économique et sociale des organisations de travail.

Quelques notes :

Dans le monde du travail, les IA permettent aussi bien la reconnaissance ou la génération d’images, de parole et de texte, l’assistance à la décision, l’analyse prédictive de comportements ou l’anticipation de situations, sur la base de calculs poussés.

Certains chercheurs disent que l’IA va étendre le pouvoir à un plus grand nombre de travailleurs. Qu’elle va augmenter les capacités d’expertise de celles et ceux qui n’étaient pas experts, et donc, que cela pourrait reconstruire une classe moyenne et augmenter les capacités décisionnelles.

A contrario, d’autres chercheurs pensent que l’IA peut entraîner une substitution. Elle vient « challenger », pour le dire gentiment, ou surveiller et évaluer, celles et ceux qui détiennent déjà l’expertise, elle peut la dévaluer ou la dévaloriser. Cela soulève des questions épineuses en matière de coopération, de transmission des savoir-faire, mais aussi de reconnaissance, de respect, de protection.

On pourrait par exemple réfléchir aux gains de temps supposés grâce à l’IA, notamment par la prise en charge de tâches dites à faibles valeurs ajoutées, répétitives, pour permettre aux travailleurs de se concentrer sur des activités plus nobles, plus intéressantes, plus épanouissantes et à plus forte valeur. Or, une tache peut apparaître de moindre valeur du point de vue du management, mais l’opérateur peut y trouver sens, intérêt et satisfaction ; et inversement.

Il reviendrait au dialogue social de se servir du fantasme technologique associé à la « hype » de l’IA pour sortir du techno-somnambulisme ambiant et revenir à des réalités organisationnelles et remettre au cœur du débat les questions du travail.

Bim

Essentiel. On veut la même avec Laurent Alexandre maintenant, c'est urgent

But pivoting to AI is not a business strategy. Telling journalists they must use AI is not a business strategy. Partnering with AI companies is a business move, but becoming reliant on revenue from tech giants who are creating a machine that duplicates the work you’ve already created is not a smart or sustainable business move, and therefore it is not a smart business strategy. It is true that AI is changing the internet and is threatening journalists and media outlets. But the only AI-related business strategy that makes any sense whatsoever is one where media companies and journalists go to great pains to show their audiences that they are human beings, and that the work they are doing is worth supporting because it is human work that is vital to their audiences

Je n'ai pas d'avis clair sur la question, mais je soutiens le débat d'idée et partage l'initiative

Pas de mention des datacenters dans cet article. Étonnant alors que la France ambitionne d'en faire pousser comme des champions dans son délire d'exister sur la scène de la hype IA

LOL... (oui désolé je fais pas beaucoup d'analyse fine en ce moment, j'ai pas trop le temps snif)

On ne pourra pas dire qu'on ne savait pas...

(d'autant que ce n'est pas qu'un gouffre énergétique, c'est aussi des minerais, de l'eau, des zones à artificialiser, etc.)

LOL

Très en phase avec @Khrys. Je crois que « l'IA » comme concept et idéologie, et particulièrement l'IA générative grand public, n'a pas besoin du capitalisme pour être nocive, car colonialiste, extractiviste (qui ne ne sont eux-mêmes pas limités au capitalisme pour exister au passage), binarisante, écocidaire, etc.

Un positionnement bien structuré sur l'IA générative. Je plussoie bien entendu !

For me personally, the current ethical issues mean that I default to not using generative AI. To me, “ethical AI” is currently an oxymoron. Still, “defaulting to” is the keyword here. I don't think all use of AI is problematic, it is specifically the throwing AI at things “just because we can” that is at odds with the ethical considerations I laid out in this post.

Je signe !