Du mésusage des mathématiques

Prenez garde dit l’experte américaine formée successivement à la théorie des nombres, au trading financier et au Big Data, les mathématiques statistiques sur lesquelles reposent les algorithmes de l’IA (Intelligence Artificielle) sont dangereuses. Des algorithmes mal conçus à partir de données insuffisantes, d’hypothèses réductrices ou non vérifiées, de biais dans l’esprit des concepteurs, fournissant des résultats mal compris par les utilisateurs destinataires, mal réévalués et rectifiés car trop souvent vendus sous l’étiquette d’infaillibilité, en fin de compte faussés pour de multiples raisons ont eu des conséquences préjudiciables à de larges communautés.
Les exemples encourageant les fraudes au détriment des plus vulnérables ne manquent pas, à commencer par le ciblage publicitaire agressif sur internet. Il y a les systèmes de classement des universités américaines faisant la part belle à celles de second ordre qui après avoir ciblé les candidats pauvres les laissent sortir plombés de dettes insurmontables, mais aussi ceux relatifs à l’évaluation des personnes sur la base de leurs supposées compétences. Et surtout les dérives des prêts hypothécaires qui sont à l’origine de la crise mondiale de 2007-2008, ont mis des millions d’américains modestes à la porte de chez eux, enrichi démesurément les responsables des banques et organismes financiers spéculatifs, sans qu’aucune des mesures correctrices préconisées lors des G20 ait été réellement mise en application.
C’est donc un appel à la régulation des abus par les autorités, à la vigilance du public contre toute forme de discrimination et de préjudice, à l’éthique des concepteurs et à la transparence de leurs modèles mathématiques trop souvent opaques sous le couvert du secret industriel que lance Cathy 0’Neil reconnaissant à cet égard une meilleure protection de la législation européenne(2).
(1) Le sigle ADM (Armes de Destruction Massive) détourné donne aussi (Armes de destruction mathématique), ou avec la prononciation phonétique anglaise de « mass » pour maths (Arms of Destructive Maths)
(2) Sur la protection des données personnelles en France :
https://service-public.fr/professionnels-entrepris…

• 

  Algorithmes, la bombe à retardement [Texte imprimé] Cathy O'Neil préface de Cédric Villani traduit de l'anglais (États-Unis) par Sébastien Marty

  de O'Neil, Cathy Marty, Sébastien (Traducteur)
  les Arènes
  ISBN : 9782352049807 ; 20,90 € ; 07/11/2018 ; 340 p. ; Broché

  Go Amazon