Le Parlement européen a adopté un texte de régulation des intelligences artificielles. L’usage de systèmes d’intelligences artificielles à « haut risque » continue cependant d’inquiéter les défenseurs des droits fondamentaux.

Last week, we submitted comments to the National Telecommunication and Infrastructure Authority (NTIA), written in collaboration with Rishi Bommasani, Daniel Zhang, and Percy Liang at Stanford. In our comments, we describe the need for transparency around the generative AI ecosystem, the need for holistic public evaluations, and the guardrails needed for responsible open-source AI research and development. This post is a summary of our comments.

Entre lobbying des entreprises de la tech, préoccupations des représentants de la société civile et velléités des dirigeants français, la nouvelle phase de négociation autour du règlement européen sur l'intelligence artificielle promet de rester complexe.

Une très bonne vidéo explicative de l'IA

Via Dominique Boullier

Au salon Vivatech, le président de la République a dit partager les « inquiétudes » de voir les projets européens de réglementation de l’intelligence artificielle nuire à l’innovation.

Ptain ils respectent rien !

« Un malentendu s’est installé sur ce qu’est véritablement Twitter. Elon Musk veut nous faire croire que ce réseau social est un espace de discussion, ce qui laisse entendre que ce qui s’y passe relève uniquement de la liberté d’expression. Pour l’entrepreneur, si tout le monde peut s’exprimer de façon égale, l’ordre va émerger naturellement. »

« Commençons par arrêter de parler d’intelligence artificielle, cette expression anthropomorphique est trompeuse, les ordinateurs ne sont pas en train de s’humaniser. Ce n’est que du marketing et il n’y a rien que la Silicon Valley n’aime davantage que de vendre du rêve, l’idée qu’elle s’apprête à changer le monde. Il n’y a pas si longtemps, c’était les cryptomonnaies… »

... qu'est-ce qu'il pourrait mal se passer...

lol

Dans une tribune publiée par le quotidien britannique The Guardian, la très réputée professeure de justice climatique Naomi Klein s’attaque aux fantasmes qu’engendre l’intelligence artificielle, de la lutte contre le réchauffement climatique au « faux-socialisme », derrière lequel se cache un capitalisme retors. Autant d’« hallucinations » que l’autrice à succès entend démonter.

Pas faux... C'est bien commode de parler des problèmes à très long terme des IA pour mieux passer sous silence les problèmes à très court terme.

Dr. Hinton’s journey from A.I. groundbreaker to doomsayer marks a remarkable moment for the technology industry at perhaps its most important inflection point in decades. Industry leaders believe the new A.I. systems could be as important as the introduction of the web browser in the early 1990s and could lead to breakthroughs in areas ranging from drug research to education.

Intéressant.

La start-up Hugging Face, créée en 2016 par trois Français à New York, vient de lancer HuggingChat, « la première alternative open source à ChatGPT ».

Partout où l’IA est utilisée, « la technologie ne fonctionne pas comme prévu et produit des taux d’erreurs élevés et des résultats injustes et discriminatoires ».

Intéressant, même si évidemment ce texte ne parle absolument pas de l'exploitation humaine et naturelle qui est le propre de l'IA (du numérique en général, mais particulièrement de l'IA pour toute la partie apprentissage).

« Drug companies cannot sell people new medicines without first subjecting their products to rigorous safety checks. Biotech labs cannot release new viruses into the public sphere in order to impress shareholders with their wizardry. Likewise, A.I. systems with the power of GPT-4 and beyond should not be entangled with the lives of billions of people at a pace faster than cultures can safely absorb them. A race to dominate the market should not set the speed of deploying humanity’s most consequential technology. We should move at whatever speed enables us to get this right. »

Excellent article merci !!

« C’est là un point que personne n’aborde : la finalité de ces IA génératives qui sont effectivement très performantes dans la génération de contenus textuels et visuels, mais qui vont surtout dans un premier temps profiter aux fermes à contenus et spammeurs, une perspective qui ne me réjouit pas. À court terme, tous les articles seront remis en cause, car on les soupçonnera d’avoir été générés : Welcome to the Big Blur. »

Très important ça, le technosolutionnisme classique :

« Ils nous décrivent l’IA générative comme la solution ultime, alors qu’elle sert surtout à atténuer les symptômes d’une inculture informatique et numérique, mais pas à traiter les problèmes à la source. »

« À une époque pas si éloignée (il y a quelques semaines), la croissance des usages numériques était remise en cause par la nécessité de réduire l’impact environnemental (émission de gaz à effet de serre) et par la diminution de notre dépendance aux géants numériques américains. Et sans crier gare, ChatGPT débarque, et toutes ces considérations écolo-souverainistes passent au second plan. Telles des légions de skitarii de l’Adeptes Mechanicus, nous vénérons aveuglément l’innovation technologique et nous nous prosternons devant le dieu machine, comme s’il allait résoudre de façon miraculeuse tous nos problèmes. Celles et ceux qui osent questionner cette “révolution technologique” sont qualifiés de rétrogrades, voire de vieux cons incapables de mesurer le potentiel disruptives des IA génératives. Où est donc passé notre esprit critique ou notre libre arbitre ? »

« il faut dépasser le battage médiatique pour comprendre l’impact réel, en matière d’applications, de cette nouvelle technologie dont il est difficile de contrôler les contenus créés, et encore plus de certifier les réponses qu’elle apporte. Le bilan des cinq dernières années est impressionnant, peu de domaines progressent aussi vite, mais la route est encore longue. »

La route est longue pour aller où ???

« Les « intelligences » dites artificielles sont des technologies « prescriptives » pour reprendre le mot d’Ursula Franklin, ou des « instruments d’oppression » pour reprendre le mien, et nous devons empêcher les gamins de s’y laisser prendre. Les problèmes soulevés par Butterick — l’attribution des sources, l’administration de la preuve, la compréhension par l’émancipation — sont précisément les sujets qui doivent motiver l’existence de nos systèmes éducatifs. »