Deux salles, deux enfances

Deux histoires autour de la donnée par les grandes entreprises technologiques qui font froid dans le dos quand on les met côte à côte.

https://themarkup.org/pixel-hunt/2023/11/22/facebook-watches-teens-online-as-they-prep-for-college

Dans le cadre de sa série sur les pixels de tracking, The Markup explore comment Meta peut suivre un enfant, défini légalement comme un individu de moins de 13 ans ou moins, tout au long de ses activités journalières. Rien de malfaisant si on omet le détail que cela permet à des tiers de faire du ciblage nécessaire. Cela peut être malveillant et ainsi exposer les enfants à des contenus malveillants. C'est ce dernier point qui au centre d'une conversation ayant actuellement lieu aux États-Unis.

https://www.wired.co.uk/article/artificial-intelligence-data-labeling-children

L'exploitation des algorithmes d'intelligence artificielle générative a provoqué une explosion de modération des contenus, notamment pour la classification pendant la phase d'entrainement des modèles. Ainsi, à la différence de la modération classique, il ne s'agit pas d'un travail de filtre de contenus partagés par d'autres humains, mais de contenus générés par des machines à la demande d'humains et à partir de contenus produits, pour l'instant, par des humains. La plupart des grandes entreprises ont recours à des prestataires pour cette partie de la chaîne de production, le travail se trouve ainsi éloigné physiquement, psychologiquement et socialement. C'est ainsi qu'on se retrouve avec une exposition massive à des mineurs de contenus traumatisants. On pourrait alors se questionner sur la transparence des entreprises proposant des fonctionnalités liées à l'intelligence artificielle et obliger une forme de traçabilité de la production des modèles et des contenus pour s'assurer que de bout en bout cela ne rend pas des populations misérables. À ce titre, on peut également faire la comparaison avec ce qui se passe dans les rues des métropoles avec les entreprises de livraison de nourriture qui ferment assez rapidement les yeux sur le travail des mineurs.

Le web étant devenu ce qu'il est, on a donc au centre des grandes entreprises qui cherchent à connaître le détail de nos vies, dont celles de nos enfants, pour mieux nous faire consommer. Ces mêmes entreprises ont recours à des technologies qui ont un impact psychologique sur des populations éloignées et invisibilisées, dont des mineurs. Cela souligne bien le caractère géographique de l'exploitation du secteur numérique, les territoires sont touchés dans leur ensemble sans distinction sociologique.

#linknote

Merci d'avoir lu ce texte ! On peut en discuter sur mastodon. Pour être informé·e lors de la parution de nouveaux articles, abonnez-vous au fil rss.