Fallait-il aussi disrupter la démocratie ? (#DLD20)

Sale ambiance ce week-end à Münich, lors de la conférence DLD sur l’innovation. En pleine crise mondiale du climat et de concentration abusive des richesses, la communauté numérique internationale, réunie comme chaque année avant Davos, est en train d’admettre ce qu’elle ne voulait pas voir : la tech, qui devait sauver le monde, a aggravé les problèmes. Et personne ne fait rien.

article par Eric Scherer, directeur de la prospective de France télévisions, publié le 20 01 2020

Non seulement, la révolution numérique sert plus à envoyer des photos de cappuccino qu’à lutter contre le réchauffement de la planète; à monopoliser le pouvoir qu’à le partager; mais elle est surtout en train de saboter la démocratie, pilier d’une Europe qui se sent de plus en plus isolée et en retard face à l’Amérique et la Chine.

“Notre présent aux Philippines sera demain votre avenir”,  a prévenu la journaliste Maria Ressa, journaliste et personnalité de l’année en 2018 du Time. Critique du président philippin Duterte, elle a été arrêtée et emprisonnée plusieurs fois. Aux Philippines, “où Internet c’est Facebook, un mensonge répété un million de fois devient un fait”. “Sans fait, pas de vérité. Et sans vérité pas de confiance”.

Trois autres grands pays ont déjà fait les frais d’un détournement des plateformes Internet, lors d’élections où le populisme l’a emporté grâce à la désinformation : les Etats-Unis, la Grande-Bretagne et le Brésil. “Pourquoi les employés de Google ou de Facebook ne disent-ils rien?”, a demandé Roger McNamee, ancien mentor de Mark Zuckerberg, devenu son principal critique.

Utilitarisme vs. droits de l’homme

Laisser les clés du camion aux ingénieurs et aux experts, qui n’écoutent personne, a donc été une erreur. Car leur système de valeur impose à la société la notion d”efficacité au dessus de tout le reste. Au dessus du libre arbitre. Au dessus des choix individuels. Et au bout, de la démocratie.

Au nom de l’utilitarisme qui vise à maximiser le bien-être collectif au détriment des individus, la fin a justifié les moyens. Nous avons laissé privilégier l’efficacité sur la démocratie et les droits de l’homme. L’humanisme, nos valeurs, la déontologie, ont été oubliés, dégradés. Il faut vite remettre de l’humain dans la tech, avant que l’intelligence artificielle, summum de l’utilitarisme, ne prenne toutes les décisions pour nous, ont estimé plusieurs universitaires.

Veut-on d’ailleurs aussi vivre dans une économie complètement dominée par quatre firmes ? Google et Facebook ont déjà plus d’utilisateurs qu’il n’y a de croyants dans l’Eglise catholique. Tout le monde sait qu’après les médias, c’est désormais au tour de la finance, de l’automobile et de la médecine d’être visées par les géants du web. Si personne ne fait rien, il leur arrivera la même chose. Ils vont coopérer au début, puis se feront avaler.

“Si on continue comme cela, l’Europe va devenir une colonie numérique des Etats-Unis et de la Chine”, a averti le député européen Axel Voss.

“Je pense que la technologie est trop importante pour être laissée aux gens qui en sont aujourd’hui à la tête (…) “Mark Zuckerberg aurait pu être le héros de quelque chose, mais il a choisi une voie différente”, a déclaré Roger McNamee.

Quelques pistes pour rendre la démocratie plus résiliente ?

  • S’appuyer bien plus sur les valeurs et l’éthique, qui comptent encore en Europe. La protection de la vie privée doit rester un droit de l’homme. Les données personnelles, monopolisées aujourd’hui par 4 firmes, doivent être protégées au même titre, estime McNamee.
  • “Interdire l’amplification algorithmique”, ajoute-t-il. Il y a 30 ans la haine et le racisme existaient, mais personne ou presque n’amplifiaient les messages. Le modèle d’affaires publicitaire de Google et Facebook entraîne les algorithmes à mettre en avant l’émotionnel, le sensationnel, le bidon, et favorise la polarisation de la société. Nous sommes hélas dans un environnement où le mal est optimisé.
  • “Ne pas les croire, mais vérifier” et donc contraindre les géants du web à nous laisser regarder sous le capot de leurs algorithmes, exhorte Marietje Schaake, de Stanford et ancienne parlementaire européenne. “Sans cela nous sommes aveugles et la démocratie est en danger”.
  • Des dirigeants politiques qui prennent la mesure de la situation. Mais leur expertise numérique reste faible. Ce qui n’est pas le cas du nouveau commissaire européen Thierry Breton venu dire à DLD : “soyez persuadez que nous ferons tout pour ne pas rater la deuxième vague des données. Celle de l’Internet des objet et de l’industrie. L’Europe n’est d’ailleurs pas en retard”.
  • Arrêter pendant qu’il est temps ce capitalisme de surveillance, financer de la tech humaniste, faire comprendre comme la tech déforme la société, assurer un design qui tienne compte des vulnérabilités de l’être humain, propose Tristan Harris, l’ex ingénieur de Google, qui estime qu’on ne pourra résoudre la crise climatique que si on prend de vraies mesures pour empêcher la techno de dégrader l’humain.
  • « On a pourtant les technologies pour résoudre tout ça, mais on les utilise mal », a estimé, plus soft, le chairman de Siemens, Jim Snabe.

Réponse de Facebook ?

Au bout du compte, « le positif l’emporte sur le négatif (…). Vous ne reconnaissez jamais les progrès que nous faisons », a déploré Nick Clegg, le patron des Affaires publiques, et ex vice-premier ministre britannique, qui assure que 99% des contenus de Daech ou d’Al Queda sont bloqués avant d’atteindre le public avec l’aide de l’IA et de 35.000 modérateurs.

“Attention, si le grand public commence à penser que vous êtes un danger pour la civilisation, vous allez finir par avoir un problème de marque”, a prédit Jimmy Wales, le fondateur de Wikipedia.

A Münich, ce week-end, deux interventions (sur plus de 200) ont provoqué des standing ovations: celles de Maria Ressa, qui a fait pleurer nombre de participants, et celle de Roger McNamee.

Deux interventions à charge contre le rôle de Facebook dans le dérèglement de nos démocraties.