Superintelligence
de Nick Bostrom

critiqué par Colen8, le 8 décembre 2018
( - 82 ans)


La note: étoiles
Et si ? Et si ? Et si ? … Bien après le transhumanisme !
Ils sont quelques-uns avec Nick Bostrom cet universitaire suédois très impliqué dans la philosophie de l’esprit à considérer l’avènement possible d’une intelligence artificielle générale surpassant de beaucoup les meilleurs esprits individuels ou collectifs imaginables et toutes les formes déjà connues d’intelligence artificielle (IA) dont on observe des progrès en forte accélération. Dans un avenir certes imprécis, cette super-intelligence aura intégré par auto-apprentissage non seulement la totalité des connaissances mais aussi des valeurs morales pour autant que l’on sache les définir et les formaliser, une pensée autonome soutenue par des intentions et des motivations propres.
Dans quel but ? Pas moins que la colonisation de l’espace à l’aide de sondes de Von Neumann capables de se répliquer à l’infini sans que l’on puisse déterminer si l’existence humaine sera en capacité de s’y adapter ou pire de s’en protéger suffisamment pour y survivre. Quelles que soient les différentes voies envisageables, par enrichissement progressif de sous-systèmes, on parle là d’une IA germe, par émulation du cerveau sur support digital, par suite de l’échappement d’un projet super-intelligent parvenant à déborder ses concepteurs, priorité devrait être donnée au système de contrôle afin d’éviter que l’apparition d’une ou de plusieurs super-intelligences ait des conséquences désastreuses pour l’espèce humaine.
Cet ouvrage invite la communauté tout entière à y réfléchir par anticipation si l’on échouait à rendre une quelconque super-intelligence bienveillante et amicale. La complexité des interactions, l’incertitude sur les solutions au croisement des théories philosophiques, mathématiques et technologiques imposent ce genre d’exercice préalable. Un glossaire, des tableaux de synthèse, des résumés de chapitres sont là pour faciliter la compréhension d’un texte souvent lourd, confus, construit sur une montagne de suppositions, de conditions, d’objections enchevêtrées. Bien qu’il soit annoncé comme best-seller mondial, Nick Bostrom avoue lui-même avoir eu du mal à l’écrire en renonçant par souci de simplification à utiliser un formalisme qu’il semble pourtant maîtriser.
Gageons que les auteurs de science-fiction y trouvent des sources d’inspiration à foison.