96 % des deepfakes sont à caractère pornographique, et 99 % des victimes sont des femmes

« Pour lutter contre ces violences, il faut d’abord combattre le sexisme et les discriminations hors-ligne. Il faut sensibiliser pour lutter contre ces processus de déshumanisation, et être plus sévère avec les plateformes qui sont construites pour maximiser la polarisation des débats et génèrent donc de la violence en ligne. »

Ils n'arrêteront jamais...

« Le consentement à l’écrasement de Gaza a créé une immense béance dans l’ordre moral du monde. […] Plus que l’abandon d’une partie de l’humanité, dont la réalpolitique internationale a donné maints exemples récents, c’est le soutien apporté à sa destruction que retiendra l’histoire. Cet acquiescement à la dévastation de Gaza et au massacre de sa population, à quoi il faut ajouter la persécution des habitants de Cisjordanie, laissera une trace indélébile dans la mémoire des sociétés qui en seront comptables. »

Je reprends ici l'analyse excellente de Karl Pineau sur LinkedIn :

• les LLMs actuels sont peu performants dans des contextes professionnels (rappelons l'étude du MIT qui indiquait que 95% des projets d'IA en entreprise ne produisent aucun ROI) ;
• il est très difficile à ce stade d'en faire des outils d'automatisation fiables (rappelons l'étude de Metr qui montrait que les développeurs sénior utilisant des IA étaient 20% moins productifs que les autres), les gens renoncent donc progressivement à les utiliser pour cela ;
• les LLMs sont très bons dans l'interaction sociale et le fait de poser des mots sur des idées, ce qui explique leur usage massif en conseils de vie, psy ou recherche en ligne.

On va bientôt avoir la chance de découvrir ce qu'est la LLM de bois

Une liste utile pour trouver des applis sympa sous Linux, particulièrement Gnome

Pour les utilisateurices de Fedora, un gain de temps ÉNORME après install !

Intéressant. Quelques points clés : pour l'instant l'IA(gén) ne remplace pas quantitativement vraiment le travail, mais elle le déplace (l'IA prétexte pour délocaliser), le précarise, l'intensifie. Pas sûr de pouvoir imaginer une IA socialiste, à moins de pouvoir imaginer quelque chose de complètement différent.

Sympa ce ptit site. Via Sebsauvage

Si la commission salue « l’étonnante clairvoyance d’une partie des mineurs » sur le sujet, elle note que même les plus lucides peinent à se détacher de TikTok et qu’un usage « initialement raisonnable peut très rapidement glisser vers une consommation excessive, problématique et finalement dangereuse ».

Un très grand livre, toujours pas fini chez moi oups.

Mes notes de lecture :

AI con pourrait paraître comme un brûlot technocritique, mais il est plutôt une synthèse très documentée de ce qu’est l’IA et de ce qu’elle n’est pas.

Les promoteurs de l’IA ne cessent de répéter que leurs machines approchent de la conscience ou que les être humains, eux aussi, ne seraient que des perroquets stochastiques. Nous ne serions que des versions organiques des machines et nous devrions échanger avec elles comme si elles étaient des compagnons ou des amis. Dans cet argumentaire, les humains sont réduits à des machines.

Les promoteurs de l’IA passent leur temps à dévaluer ce que signifie être humain, comme l’ont montré les critiques de celles qui, parce que femmes, personnes trans ou de couleurs, ne sont pas toujours considérées comme des humains, comme celles de Joy Buolamnwini, Timnit Gebru, Sasha Costanza-Chock ou Ruha Benjamin. Cette manière de dévaluer l’humain par la machine, d’évaluer la machine selon sa capacité à résoudre les problèmes n’est pas sans rappeler les dérives de la mesure de l’intelligence et ses délires racistes. La mesure de l’intelligence a toujours été utilisée pour justifier les inégalités de classe, de genre, de race.

L’IA est un projet politique porté par des gens qui n’ont rien à faire de la démocratie parce qu’elle dessert leurs intérêts et qui tentent de nous convaincre que la rationalité qu’ils portent serait celle dont nous aurions besoin, oubliant de nous rappeler que leur vision du monde est profondément orientée par leurs intérêts

L’IA se déploie partout avec la même promesse, celle qu’elle va améliorer la productivité, quand elle propose d’abord « de remplacer le travail par la technologie ». « L’IA ne va pas prendre votre job. Mais elle va rendre votre travail plus merdique », expliquent les chercheuses. « L’IA est déployée pour dévaluer le travail en menaçant les travailleurs par la technologie qui est supposée faire leur travail à une fraction de son coût ». 

En vérité, aucun de ces outils ne fonctionnerait s’ils ne tiraient pas profits de  contenus produits par d’autres et s’ils n’exploitaient pas une force de travail massive et sous payée à l’autre bout du monde. L’IA ne propose que de remplacer les emplois et les carrières que nous pouvons bâtir, par du travail à la tâche. L’IA ne propose que de remplacer les travailleurs de la création par des « babysitters de machines synthétiques ». 

L’IA n’est que la poursuite de cette longue tradition de l’industrie à chercher des moyens pour remplacer le travail par des machines, renforcer les contraintes et dégrader les conditions de travail au nom de la productivité. 

Le remplacement par la technologie est un mythe persistant qui n’a pas besoin d’être réel pour avoir des impacts.

Plus qu’un remplacement par l’IA, cette technologie propose d’abord de dégrader nos conditions de travail. Les scénaristes sont payés moins chers pour réécrire un script que pour en écrire un, tout comme les traducteurs sont payés moins chers pour traduire ce qui a été prémâché par l’IA.

L’escroquerie de l’IA se développe également dans les services sociaux. Sous prétexte d’austérité, les solutions automatisées sont partout envisagées comme « la seule voie à suivre pour les services gouvernementaux à court d’argent ». L’accès aux services sociaux est remplacé par des « contrefaçons bon marchés » pour ceux qui ne peuvent pas se payer les services de vrais professionnels. Ce qui est surtout un moyen d’élargir les inégalités au détriment de ceux qui sont déjà marginalisés. Bien sûr, les auteurs font référence ici à des sources que nous avons déjà mobilisés, notamment Virginia Eubanks. « L’automatisation dans le domaine du social au nom de l’efficacité ne rend les autorités efficaces que pour nuire aux plus démunis« . 

Dans le social, la santé ou l’éducation, le développement de l’IA est obnubilé par l’efficacité organisationnelle : tout l’enjeu est de faire plus avec moins. L’IA est la solution de remplacement bon marché. « L’IA n’est qu’un pauvre facsimilé de l’Etat providence ». « Elle propose à tous ce que les techs barons ne voudraient pas pour eux-mêmes ». « Les machines qui produisent du texte synthétique ne combleront pas les lacunes de la fabrique du social ». 

Pour répondre aux défis de la modernité, nous n’avons pas besoin de générateur de textes, mais de gens, de volonté politique et de ressources, concluent les chercheuses.

Pour les deux chercheuses, la résistance à l’IA passe d’abord et avant tout par luttes collectives. C’est à chacun et à tous de boycotter ces produits, de nous moquer de ceux qui les utilisent. C’est à nous de rendre l’usage des médias synthétiques pour ce qu’ils sont : inutiles et ringards. Pour les deux chercheuses, la résistance à ces déploiements est essentielle, tant les géants de l’IA sont en train de l’imposer, par exemple dans notre rapport à l’information, mais également dans tous leurs outils. C’est à nous de refuser « l’apparente commodité des réponses des chatbots ». C’est à nous d’oeuvrer pour renforcer la régulation de l’IA, comme les lois qui protègent les droits des travailleurs, qui limitent la surveillance. 

Emily Bender et Alex Hanna plaident pour une confiance zéro à l’encontre de ceux qui déploient des outils d’IA. Ces principes établis par l’AI Now Institute, Accountable Tech et l’Electronic Privacy Information Center, reposent sur 3 leviers : renforcer les lois existantes, établir des lignes rouges sur les usages inacceptables de l’IA et exiger des entreprises d’IA qu’elles produisent les preuves que leurs produits sont sans dangers.

Bravo pour tout ce boulot ! Flus ne convient pas à mon workflow de veille mais franchement cet outil vaut le détour !!!

À lire et faire tourner... Parce qu'on pourrait avoir un débat philosophique super intéressant sur l'IA (et bien d'autres technologies numériques) si ces technologies n'étaient pas simplement insoutenables écologiquement et socialement.

Surpris par les chiffres de cette étude. Il y aurait « trois profils d'enseignants face à l'IA : réticents, pragmatiques et
convaincus »

38 % des enseignants voient dans l’IA un levier pédagogique puissant… à manier avec vigilance.
41 % des enseignants considèrent l’IA comme un outil utile pour gagner en efficacité.
21 % des enseignants voient dans l’IA davantage une source d’inquiétude qu’une opportunité.

Une fois de plus, on semble mettre sous le tapis les impacts écologiques et sociaux de l'IA générative, sans parler de son impasse éthique :/

Quelles compétences à développer pour les élèves ? => “Développer l’esprit critique pour pouvoir s’en émanciper” pour 48% des sondés

Un grand bravo à la ville de Lyon, à ses équipes, et à ses élus.

Cette décision représente tout ce qu'est le numérique : des choix politiques, économiques, sociétaux. Merci de donner l'exemple d'une politique numérique audacieuse sur les enjeux de souveraineté, mais aussi écologiques et sociaux. On attend la suite (penser à la fracture numérique notamment, au droit au non-numérique)