À la demande générale...
Depuis la semaine dernière, vous avez été nombreux à me partager votre intérêt pour un compte rendu de l’intervention de l’essayiste américain Douglas Rushkoff à SXSW… Alors c’est parti, pour un format de newsletter un peu différent des autres, pour laquelle j’ai utilisé l’outil de génération d’image de Bing pour illustrer certaines de ses “punchlines”.
En espérant ne pas vous perdre en route !
TL;DR
Selon Douglas Rushkoff, la Silicon Valley porte en elle un objectif, qu’elle partage avec le monde de la finance : couper l’humain du monde physique.
Le numérique, à travers sa fusion avec le capitalisme, a été détourné de son objectif initial d'émancipation des individus, pour au contraire les contrôler et les rendre prévisibles… Les choses devraient empirer avec l’intelligence artificielle, dont les réseaux sociaux ont préparé l’arrivée, à la manière des missionnaires lors de la colonisation de l’Amérique.
Pour échapper à cette perspective, il propose quatre pistes de réflexion et nous invite à miser sur la coopération et la collaboration, dans le monde réel, tout en considérant la technologie comme un dernier recours.
Lorsqu’il arrive sur la scène de SXSW, Douglas Rushkoff se présente comme “anarcho-marxiste” ou comme un “Dominatrix for rich people”… Proche des pionniers du web dans les années 1990, il est connu pour ses travaux sur l'impact des technologies et des médias sur la société et l'économie, avec des ouvrages comme "Media Virus", "Present Shock" et "Team Human".
Dans son dernier livre, “Survival of the Richest”, il raconte sa rencontre avec un groupe de milliardaires américains (quelques extraits ici). Alors qu’il pensait être invité à donner une conférence classique, il s’est retrouvé à la place dans une salle avec cinq survivalistes qui l’ont bombardé de questions (plus ou moins absurdes) sur la meilleure façon de se préparer à la fin du monde…
Sa conclusion ? “En discutant avec ces gens, j'ai compris que s'ils construisent des bunkers ou rêvent de la fin du monde, ce n'est pas par crainte d'une apocalypse. Les catastrophes potentielles sont simplement leur prétexte pour investir dans un fantasme de vie isolée et étrange, loin du reste d'entre nous." Ou encore : “ces gens-là veulent passer en mode “méta”. Le bunker, c’est l'ultime ‘exit’. Il ne s’agit pas seulement de sortir de son entreprise, mais de sortir de la société”. Bref, plutôt que de craindre la catastrophe, ils seraient plutôt en train de l’espérer…
Pour lui, cette volonté de sortir du monde, de devenir “meta”, c’est-à-dire d’être un cran au-dessus de la nature et de la société, n’est pas seulement le fait de quelques milliardaires déconnectés. Elle est intrinsèquement liée aux valeurs du monde de la tech et a fortiori de la Silicon Valley, héritées du mouvement scientiste et de la philosophie de Francis Bacon, pour lequel la nature doit être “domptée” et exploitée pour le bien de l'humanité.
Exemple avec Facebook : “que fait Mark Zuckerberg une fois que Sheryl Sandberg a quitté le navire et que le Congrès lui en veut à mort et que personne ne l'aime vraiment ? Il devient méta, littéralement Meta.“ Ou encore avec Sam Altman, le co-fondateur d’OpenAI et président de Y Combinator, qui espère pouvoir "uploader son cerveau dans le cloud”.
Ce mouvement qui vise à couper l’humain du monde physique est selon lui encore accentué par l’alliance de la finance et du numérique, deux mondes “faits l'un pour l'autre” : “le numérique nous permet de créer une infinité d'instruments synthétiques dérivés au-dessus de l'économie. […] Nous nous éloignons de plus en plus de la terre ferme, des individus, de ce qui se passe réellement ici.”
Et de citer un exemple : “à l’ère du numérique, comment déterminer si votre business plan est efficace ? Il n'a pas besoin d'individus ni d'employés. Il peut se développer indéfiniment grâce aux algorithmes sans avoir besoin de tous ces maudits travailleurs.”
Il ne s’agit là en fait que d’une version exacerbée des logiques qui prévalent depuis les débuts de l’ère industrielle : “à l'école, on nous a expliqué que les chaînes de montage, la mécanisation et les usines avaient pour but de produire plus de biens, plus efficacement. Mais ce n'est pas la raison d'être de la chaîne de montage. Celle-ci existe pour que vous n'ayez pas à embaucher des travailleurs compétents.”
Pour autant, cette vision du numérique n’a pas toujours été dominante, rappelle-t-il. Aux débuts du web, le numérique était vu comme un outil qui allait donner du pouvoir aux gens : “on pensait que les individus allaient utiliser la technologie pour créer des choses nouvelles, imprévisibles, sauvages et créatives. Mais une fois qu’on associe la technologie et le capitalisme, est-ce qu’on veut qu'il arrive des choses sauvages et imprévisibles ? Non, vous voulez que les choses les plus prévisibles se produisent.”
Conséquence : "Au lieu que les individus utilisent la technologie pour que les choses se produisent, nous utilisons la technologie sur les individus pour les rendre plus prévisibles, pour les contrôler. Les êtres humains sont perçus comme un problème, et la technologie est la solution.”
À l’écouter, l’IA va marquer une nouvelle étape dans cet ”industrialisme numérique extractif” : “les réseaux sociaux, c’étaient les missionnaires. L'Église catholique et les familles royales ont envoyé des missionnaires en Amérique. Et qu'ont fait ces missionnaires ? Ils ont converti beaucoup de gens au catholicisme, mais ils les ont aussi étudiés. Quelles étaient leurs coutumes ? Comment pensaient-ils ? Ils ont envoyé toutes ces informations à leur pays d'origine, au roi. Et qui est venu ensuite ? Les conquistadors, en utilisant le fait que les gens avaient été préparés à aimer cette culture, à parler la langue et à croire en leurs dieux. Grâce à toute cette connaissance, ils ont pu asservir les peuples indigènes très rapidement.”
Après la vague des réseaux sociaux - qui ont, selon lui, échoué à nous “contrôler” - nous sommes donc désormais en train d’assister à l’arrivée des Conquistadors : les intelligences artificielles.
“Les intelligences artificielles en savent déjà plus sur nous que nos psychologues. Elles sont déjà plus douées pour manipuler le comportement humain que le meilleur gourou en finance comportementale. Par conséquent, si les entreprises leur demandent d'obtenir ce qu'elles veulent de cette personne par tous les moyens nécessaires, elles trouveront la solution. Et ce n'est pas en nous rendant heureux qu'ils y parviendront.”
Une fois ce sombre constat dressé, comment s’en sortir ? Douglas Rushkoff suggère quatre actions pour “inverser complètement la tendance” :
Dénaturaliser le pouvoir, “afin que les gens cessent d'accepter les constructions sociales comme des conditions naturelles. Ce n'est pas le cas. Ce sont des constructions sociales. Ce sont des lois élaborées par des gens à des moments particuliers de l'histoire pour promouvoir certaines visions et certaines relations de pouvoir”.
Favoriser l'initiative et ce qu’on appelle “l’agentivité”, “pour que les gens comprennent que nous sommes aux commandes et que nous pouvons façonner la réalité selon nos souhaits.”
Resocialiser les gens, parce qu’“on ne peut pas tout faire tout ça tout seul. […] Et cela signifie aller à l'encontre de toute la religion de la Silicon Valley.”
Cultiver le "awe”, l’esprit d’émerveillement et d’admiration (dont j’ai déjà eu l’occasion de parler par le passé), qui intègre une dimension collective. Il s’agit en fait “de passer du shot de dopamine produit par la technologie à un shot d'ocytocine lié à la connexion avec tout le monde”.
“Il ne s'agit pas de faire faire des choses aux humains. Il s'agit de créer les conditions permettant aux humains de commencer à faire ce qu'ils désirent vraiment”, précise-t-il.
Au passage, il bat en brèche la lecture de Darwin faite par la Silicon Valley et les libertariens, pour lesquels la compétition et la lutte pour la survie sont les seuls moteurs de l’évolution : “Lisez L'origine des espèces. Page après page, l'auteur s'émerveille devant la manière dont les espèces collaborent et coopèrent pour assurer leur survie commune. C'est la danse de la nature !”
Un dernier conseil, pour finir ? “La technologie doit être considérée comme une solution de dernier recours lorsque l'on ne peut vraiment pas faire ce que l'on veut avec ses mains. En effet, si l'on s'en remet totalement à la technologie, on en devient esclave. Nous en avons tous fait l'expérience.”
Si je ne vous ai pas perdu en route, bravo ! J’aurais préféré vous partager la vidéo - il est difficile de transcrire le style et les exemples donnés par Douglas Rushkoff ! - mais elle n’est malheureusement pas disponible en ligne. Je vous conseille quand même cette interview de 20 minutes réalisée en septembre dernier.
à bientôt !
Benoit Zante
Il me semble que L'entraide de Kropotkine ressurgit de plus en plus des fonds de bibliothèques où les cyniques l'avaient rangé, considérant que l'ouvrage était naïf et scientifiquement approximatif.
Merci Benoit, tu pourrais le faire venir à @maison de la Conversation ?