Les dérives antisociales des Big Data

Les chiffres ne mentent pas. Partant de ce postulat, l’invasion du calcul supposé neutre et infaillible pour trier, classer, attribuer des scores, apparier les demandes aux offres réduit les coûts mais surtout les bénéfices des catégories de personnes auxquelles il est appliqué. L’opacité des puissants algorithmes, le contournement de leurs règles d’équité, l’arbitraire des modèles d’entraînement des agents conversationnels utilisés sans discernement dans de grandes organisations publiques et privées pourrissent des décennies de progrès social sous de redoutables arguments marketing et financiers.
Des exemples de mise en garde sur les dérives antisociales du numérique comparables à ceux largement documentés des Etats-Unis se retrouvent en France. C’est le cas résultant de la normalisation des données des services publics, des interconnexions des mégas fichiers administratifs, des traitements abscons mis en œuvre à la CAF, à France Travail, aux Impôts et ailleurs. Derrière un objectif louable de rentabilité, derrière une efficacité discutable l’impartialité de l’Etat est mise en cause d’autant que les administrés les plus précaires se voient en proportion exclus de droits plus souvent que les autres.
La difficulté apparaît quand il s’agit de prouver les déraillements des systèmes d’IA par manque d’engagement des clients, manque d’outils et de temps des chercheurs, quand les biais de conception cumulés et entremêlés pour faire du profilage psychologique soit délivrent des résultats contradictoires selon les plates-formes, soit deviennent impossibles à identifier par défaut de transparence. Des indicateurs qualifiés de « fouets numériques », des mesures de surveillance nourries par l’automatisation des planifications, des mesures de performance rigides finissent par dégrader les conditions de travail.
Pour plus d’informations supervisées par Hubert Guillaud : DLA (Dans les algorithmes), pour comprendre l’impact social de la tech : https://danslesalgorithmes.net/

• 

  Les algorithmes contre la société [Texte imprimé] Hubert Guillaud

  de Guillaud, Hubert
  la Fabrique éd.
  ISBN : 9782358722995 ; 14,00 € ; 04/04/2025 ; 176 p. Broché

  Go Amazon