Le magazine The Verge vient d'obtenir une vidéo plus qu'effrayante de Google imaginant de quelles manières utiliser nos données. Une vidéo digne d'un scénario de Black Mirror, dans laquelle le narrateur conclut que les entreprises détenant les données des populations pourrait les utiliser pour modifier durablement les gènes de ces individus, et à terme, de l'ensemble des êtres humains.
"FOR INTERNAL USE ONLY"

La vidéo n'était pas censée filtrer des locaux de l'entreprise, elle a été réalisée en 2016 par Nick Foster, le responsable du laboratoire de recherche et développement de Google à l'époque. Le but était de l'utiliser au sein de Google pour provoquer le débat, et alimenter les réflexions autour de leur métier et de leurs produits.
"The Selfish Ledger", réservée strictement à un usage interne, commence par développer la théorie de l'évolution de Jean-Baptiste de Larmarck, et s'inspire du gène égoïste de Darwin.
The Selfish Ledger
GÈNES ET DATA

La théorie de Lamarck suggère qu'un individu, en vivant des expériences au cours de sa vie, s'adapte à son environnement, transformant ainsi son corps et ses gènes pour lui et ses progénitures. Ainsi, au fil des génération, l'expérience des êtres vivants successifs modifie durablement la biologie d'une espèce. Foster utilise cette métaphore pour l'appliquer aux données des utilisateurs.
Les informations que nous communiquons en allant sur internet donne une représentation en perpétuelle évolution de ce que nous sommes : Foster l'appelle un "ledger", un registre, en français.
LAISSER GOOGLE VOUS TRANSFORMER

Il imagine que ces représentations puissent être utilisées pour modifier le comportement des internautes, voire pour transférer ces modifications à d'autres utilisateurs.
Transmettre ou ne pas transmettre : l'idée du "Selfish Ledger" de Google
En effet, le monde de l'informatique a pendant longtemps pensé la création numérique en fonction de l'utilisateur, mais que se passerait-il si "nous nous considérions non pas comme les propiétaires de ce registre, mais comme des gardiens, ou des porteurs provisoires ?"
On peut tout à fait imaginer que ces informations recueillies à notre sujet soit transmises à d'autres utilisateurs, comme un gène peut être transmis à une autre génération.
Foster propose un concept, "Resolutions by Google", par lequel les utilisateurs seraient invités par l'entreprise à se choisir un objectif général, ce qui leur permettrait ainsi d'être orientés par Google dans leurs actions du quotidien dans le but de le tenir. Google pourrait inciter les utilisateurs à faire tel ou tel choix, ne serait-ce qu'en restreignant ses propositions d'objectifs, ici dans l'exemple : manger plus sainement, protéger l'environnement, ou encore encourager les commerces locaux.
POUR LE PLUS GRAND BIEN ?

La vidéo, de 8 minutes, explore brièvement pour quels buts très louables et politiquement corrects Google pourrait utiliser ce nouveau pouvoir pour influencer les hommes : commerce local, dépression, et même, pas moins que la fin de la faim dans le monde.
Resolutions par Google. A gauche, choisissez votre objectif, à droite voici l'avertissement de Google, et en bas, vos conseils.
L'idée de Foster serait de combler les lacunes de ce registre, au fur et à mesure, et d'aller encore plus loin en améliorant l'individu, et, à terme, la population humaine. Il serait dès lors possible de transformer volontairement l'être humain en modifiant durablement ses prises de décisions et ses comportements.
POUCE, C'ÉTAIT POUR DE FAUX

Loin de nous l'idée d'imaginer le pire (nooonn), mais la proposition peut sembler légèrement effrayante. Un porte de parole de Google l'affirme au journaliste dumagazine américain :
"Nous comprenons que cela soit troublant, c'est fait pour. Il s'agit d'une expérience intellectuelle de l'équipe de design d'il y a des années, qui consiste à utiliser une technique connue sous le nom de "design spéculatif" pour explorer des idées et des concepts inconfortables afin de provoquer la discussion et le débat. Ce n'est pas lié à des produits actuels ou futurs."
Pas de produits à venir du type "Resolutions", donc, et pourtant, une telle utilisation de nos données est-elle si impensable, 2 ans après cette vidéo, dans la société qui connait le scandale de Cambridge Analytica, des présidentielles américaines influencées par la Russie, ou même au moment de la mise en place du RGPD en Europe ?
Sommes-nous vraiment à l'abri d'une application du "Selfish Ledger" de Google ?
RÉFLEXIONS ET APPLICATIONS

Plusieurs acteurs dénoncent depuis plusieurs années le fonctionnement même de Google, critiquant la manière dont le moteur sélectionne les pages web les plus susceptibles d'intéresser les utilisateurs en fonctions des données qu'il a déjà.
The Verge pointe du doigt notamment certaines fonctionnalités de l'outil Google Photos, qui vous propose des albums sur les "moments forts de votre vie", en présumant par le même coup quels sont ces moments. Quand à Google Maps et l'assistant Google, ne vous font-ils pas eux aussi des suggestions ? Gmail ne propose-t-il pas de répondre automatiquement à certains de vos mails sur la base de ce que vous avez déjà pu écrire ?
Bien sûr, cette vidéo n'illustre pas un produit particulier en cours de développement dans les laboratoires de recherche de Google, en revanche, elle donne un indice sur le type de débat qui peut être provoqué au sein de ses équipes... L'issue de leurs réflexions sur ce sujet est d'autant plus important lorsqu'on possède, comme Google, 92,9% du marché mondial, décidant ainsi de l'existence dans la plupart des recherches des internautes de telle ou telle réponse à leurs interrogations les plus sensibles.