As states rush to enact laws criminalizing abortion-related care in the wake of the Supreme Court’s recent decision overturning Roe v. Wade, health advocates and civil rights groups are warning that school surveillance software can be weaponized against teens who seek reproductive care.

In tens of thousands of schools, every message students send or term they search on their computer is algorithmically monitored by software from companies like Bark, Gaggle, GoGuardian, and Securly. These tools monitor many students even outside of school hours and can send automatic alerts to school administrators, parents, or police when they detect dangerous behavior, which may range from imminent suicide threats to “sexual content.”

« Nicole said her school gives a computer to each student who needs or wants one and that each device comes pre-installed with GoGuardian. The software allows teachers to view students’ screens in real time, access their search histories, and monitor their messages. »

La CNIL vient de publier un dossier complet sur la vérification d’âge. Vérification à laquelle sont désormais astreints tous les sites pornographiques. Plusieurs d’entre eux ont rendez-vous devant les tribunaux, suite à une procédure ouverte par le président de l’Arcom, nouveau nom du CSA.

Mes deux centimes

• Toute l'énergie et l'intelligence déployée à vouloir exercer du contrôle serait mieux dépensée en éducation populaire et citoyenne.
• Quelle que soit la solution (déjà insatisfaisantes selon la CNIL) trouvée, elle sera contournée par celles et ceux qui veulent la contourner.

« Cette procédure est affublée d’un nom très étrange de prime abord, mais c’est en fait un acronyme anglais. Si on le déplie complètement, cela veut dire « Completely Automated Public Turing test to tell Computers and Humans Apart », soit « Test de Turing public entièrement automatisé pour distinguer les ordinateurs des humains » en français. »

Facebook (désormais Meta) va - encore - changer d'algorithme. Ou plus exactement Facebook va (encore) changer la présentation et l'affectation que ce que nous y voyons. De ce qu'il nous laisse voir et entrevoir.

Il y a de cela quelques courtes années (2018), il opérait un changement présenté comme radical en annonçant vouloir davantage mettre en avant les contenus issus des publications de nos amis ainsi que de la dimension "locale" (ce qui se passe près de là où nous sommes géo-localisés). En France nous étions alors en plein mouvement des Gilets Jaunes et j'avais surnommé ce changement "l'algorithme des pauvres gens". Il fait aujourd'hui exactement ... l'inverse.

Le 21 Juillet 2022 exactement, "Mark Méta Facebook Zuckerberg" annonce officiellement le déploiement d'une nouvelle version dans laquelle les publication de nos amis seront rassemblées dans un onglet qui ne sera plus celui de la consultation principale, laquelle sera toute entière trustée par les recommandations algorithmiques de contenus (notamment vidéos) n'ayant plus rien à voir avec nos cercles de socialisation hors le fait qu'ils y soient également exposés. C'est la "TikTokisation" de Facebook.

L’accès à certains sites ou services sur Internet est réservé aux majeurs, en particulier l’accès aux sites web à caractère pornographique. Il est alors nécessaire de mettre en place un système de vérification de l’âge de l’internaute.

Ces dispositifs, qui participent à la protection des mineurs, ne sont jamais parfaitement efficaces et des contournements sont possibles. Ils peuvent, par ailleurs, présenter des risques pour la vie privée. La CNIL rappelle qu’à défaut de pouvoir viser une efficacité absolue, il convient de choisir des dispositifs pertinents et sécurisés pour atteindre le meilleur résultat possible. Ils doivent être réservés aux sites pour lesquels cela est nécessaire, le principe restant que l’accès aux sites web doit se faire par défaut sans contrôle d’identité ou d’âge.

Le contrôle de l’âge de l’internaute, dans un objectif de protection de la jeunesse, est compatible avec le règlement général sur la protection des données (RGPD), à condition de présenter des garanties suffisantes pour minimiser les atteintes à la vie privée et éviter que le contrôle de l’âge soit l’occasion pour les éditeurs de récupérer des données supplémentaires sur les internautes consultant leur site. En outre, il convient d’éviter que les données soient captées par un tiers pour des usages malveillants (violation de données biométriques, hameçonnage, usurpation, chantage…).