L'intelligence artificielle et nous - Débat

L'intelligence artificielle menace-t-elle, à votre avis, nos libertés individuelles ?

Vaste sujet, n'est-ce pas ?
Et pourtant, c'est une question qui me taraude depuis un certain temps.

En effet, les toutes puissantes firmes qui régissent le web (les gaffes-A !...) stockent, analysent, utilisent et même revendent nos informations personnelles. Le ''nuage'' ricain stocke tous les documents que nous avons la faiblesse de lui confier (factures, comptabilité, bulletins de salaire, papiers d'identité, déclaration d'impôts, numéros de téléphone, mails et adresses de nos relations, courriers, photos, fichiers musicaux et vidéo...).
Il en va de même pour nos références bancaires grâce à la technologie NFC dont sont équipés nos smartphones pour le Paylib.
Soit autant de données qui nous caractérisent très précisément en tant individus.

Ses mêmes ''mobiles'' géolocalisent nos moindres déplacements, des caméras observent nos faits et gestes au nom de la sacro-sainte sécurité du territoire, les puces électroniques de nos cartes bancaires pistent nos habitudes consommatrices, en tirent un profil type qui nous classe d'ors et déjà dans une catégorie sociale particulière.
Les agences bancaires comme les distributeurs de billets disparaissent au profit du paiement par CB et bientôt nous ne pourrons plus régler notre baguette quotidienne qu'avec le sans-contact ou le paiement mobile de nos smartphones.

Nos GSM s'équipent de système de reconnaissance individuelle, empreinte digitale, reconnaissance faciale, vocale.
Certaines applications stockent et analysent nos compétences sportives, nos informations médicales, nos habitudes consommatrices.
Certains avant-gardistes convaincus vont même jusqu'à se faire implanter des puces sous-cutanées en guise de Pass.
Les technologies dotées de l'IA investissent davantage chaque année nos logements, nos voitures, nos équipements électro-ménagers, et même la santé de nos propres corps par le biais des avancées médicales, devenant ainsi de véritables assistants-outils pour toujours plus de confort et de sécurité.

Mais toutes ses données sont-elles vraiment sécurisées ?

Il devient également légitime de se poser la question de l'éventuelle exploitation de cette énorme banque de données dématérialisées à des fins stratégiques plus inavouables que le simple aspect commercial souvent évoqué.


Allons-nous bientôt suivre l'exemple de la Chine, où déjà quelques 170 millions de caméras équipées de l'IA surveillent les moindres faits et gestes de sa population, enregistrent leurs données biométriques ?
Le web y est sous contrôle étatique, les réseaux sociaux sont surveillés, le comportement des accros aux jeux de rôles en ligne analysés (tactique, taux d'agressivité).
Pire, le système du crédit social est d'ors et déjà instauré, procédé, proche de notre permis de conduire à points, par lequel, bientôt, chaque infraction, chaque propos diffamatoire, chaque amitié suspecte fera l'objet d'un retrait de points sur le ''passeport'' social des chinois.
Déjà quelque chose comme 4 millions d'individus sont répertoriés sur liste noire et ne peuvent plus ni acheter de billets d'avion et de train, ni accéder aux meilleurs emplois, services d'états, prêts bancaires, logements sociaux et même à certains sites web, jusqu'à ce qu'ils aient, par leur conduite exemplaire, graduellement regagné lesdits sésames.

Sans en arriver à de pareils extrêmes, faut-il, selon vous, craindre ou non l'intelligence artificielle qui, c'est évident, nous facilite l'existence par bien des aspects, mais qui, de part la masse de renseignements individuels collectés, risque éventuellement de nous mener un jour futur vers un genre de totalitarisme à l'échelle mondiale?

A vos claviers, chers amis!

Le syndrome Big Brother.
Un monde connecté où tout est transparent est dangeureux. Dave Eggers a écrit un roman sur le sujet Le Cercle (un film aussi est sorti), qui résume assez bien le concept.
Chaque individu doit pouvoir garder un part de mystère, avoir des fantasmes, des secrets sinon on file directement vers une dictature de l'IA qui dans les mains de certains devient une bombe à fragmentation.
Il faut utiliser les nouvelles technologies sans en devenir esclave et surtout conserver un libre arbitre, une possiblité de se débrancher, sinon les dérives arriveront très vite.

Ah oui que bien sûr nous sommes déjà prisonniers et nos libertés sont déjà sévèrement amputés. L'exemple chinois est terrifiant en effet Le fait d'être noté en permanence et de voir son profil se dégrader de plus en plus jusqu'à ne plus pouvoir faire quoi que ce soit c'est un totalitarisme terrifiant

Flovia, c'est une analyse très pertinente et je me demande si le citoyen lambda est conscient de tout cela.

Quand je suis rentré à 23 ans chez un constructeur d'ordinateurs, je n'avais que peu conscience du futur qui nous était réservé. Mais le boulot des informaticiens de l'époque était d'écrire des programmes permettant de gérer déjà des données humaines, comptables, industrielles ou marketing. Jusqu'au cours des années 80, les données étaient sur du matériel qui n'était pas forcément accessible au commun des mortels. Mais les problèmes de sécurité informatique commençaient déjà à poindre leur nez.

Au début des années 90, l'internet est apparu dans les entreprises d'une certaine taille. L'ordinateur personnel a permis dès 1994 (via RTC) de vulgariser les connexions internet au domicile. Après tout a été très vite et je pense surtout que les états se sont faits dépasser par les GAFA qui sont eux mêmes devenus une forme d'état et de dictature.

La question est de se demander comment on peut laisser le moins de traces possibles sur l'Internet. Ces dernières années, on a pu remarquer que des personnes se sont fait avoir par leur employeur au travers des réseaux sociaux. Considérés comme souffrants, ils se vantaient de leurs vacances pendant leur pseudo maladie. Au même titre des employeurs se sont penchés au travers des mêmes réseaux sociaux sur les profils des candidats à l'embauche. Certaines personnes partageaient tellement de moments de leur vie à la vue de tout le monde qu'il était très facile d'établir un profil précis de du candidat.

Bien que pour naviguer, on peut utiliser un VPN (réseau privé virtuel) qui permet d'avoir une adresse IP anonyme, il reste un dernier point obscur : la journalisation par le fournisseur de cet outil ? Même à ce niveau des données sont collectées et qu'est-ce qu'elles deviennent ? Idem pour les plugins gratuits que l'on met dans son navigateur pour ne pas être pisté.

Aujourd'hui toutes nos données personnelles sont croisées entre les différents services de l'état.

Malheureusement, je pense qu'il est un peu tard et de toute façon, nous sommes aussi fichés sous une forme ou une autre par les GAFA.

Pour revenir au sujet initial qui était l'Intelligence artificielle, j'ai eu l'occasion de suivre une formation dans les années 90 sur ce domaine déjà utilisé dans les outils décisionnels. Aujourd'hui, cela apparaît dans un tas d'applications et cela peut ouvrir des voies intéressantes en médecine par exemple. Mais à condition de ne pas détourner cette intelligence artificielle à des fins dictatoriales.

Je ne sais pas si certains d'entre vous connaissent ou ont vu la série  "Person of Interest", et bien aujourd'hui nous y sommes.
Il devient de plus en plus difficile de se prémunir de cette collecte géante d'infos, appelée Big Data. Quand on voit que l'on parvient à identifier un utilisateur en constituant une empreinte unique à partir du paramétrage et autres caractéristiques de son navigateur web, il devient difficile de contrer tout celà.

BAYOU a écrit:Le syndrome Big Brother.
Un monde connecté où tout est transparent est dangeureux. Dave Eggers a écrit un roman sur le sujet Le Cercle (un film aussi est sorti), qui résume assez bien le concept.

Intéressant! Je vais essayer de me le procurer.

BAYOU a écrit:Chaque individu doit pouvoir garder un part de mystère, avoir des fantasmes, des secrets sinon on file directement vers une dictature de l'IA qui dans les mains de certains devient une bombe à fragmentation.
Il faut utiliser les nouvelles technologies sans en devenir esclave et surtout conserver un libre arbitre, une possiblité de se débrancher, sinon les dérives arriveront très vite.

Garder son libre arbitre, tel est aussi mon avis, Michel.
Mais aurons-nous encore longtemps la possibilité du choix? Je veux dire celui de décider par soi-même de quel service décrocher à temps, et peut-être même jusqu'à comment suspendre ou arrêter telle ou telle technologie IA?

Des dérives, il y en a déjà. Elles prennent de multiples formes, aussi bien côté usagers que côté concepteurs.

Versant concepteurs, je pense en particulier à des logiciels intelligents comme Cortana (particulièrement intrusif celui-là) dont sont équipés les derniers OS windows d'une majorité de nos ordi, sofware impossible à verrouiller sauf en bidouillant le registre ou en désinstallant ledit programme- et là gare aux dysfonctionnements, en particulier avec les MàJ très régulières - ainsi qu'à la messagerie google dont on ne peut désormais plus forcer l'arrêt, sauf en résiliant son compte.
Sans oublier, les bugs, hameçonnages, malwares et trojans qui pénètrent profondément les systèmes de nos PC, par l'intermédiaire des failles de nos applications PC favorites (le player flash, par ex. l'an dernier), ainsi que les pertes de données qu'elles peuvent entraîner.

Côté usagers, il faudrait également évoquer les problèmes de piratage des données, de leur rançonnement éventuel, du hack de nos identifiants bancaires (à l'heure actuelle de plus en plus par mobiles interposés) ou encore celui des codes de verrouillage et de démarrage automobiles, avec pour conséquences le vol de nos comptes bancaires, ou de nos véhicules.

A chaque nouvelle défectuosité d'un système, le mode de sécurisation doit s'adapter, fournir des solutions par le biais d'applications toujours plus pointues, toujours plus défensives jusqu'à ne plus vraiment savoir nous-même ni comment elles fonctionnent, ni quelles en sont les faiblesses, ni quelle nouvelle faille elles nous réservent.

Un véritable cycle infernal, et qui nous mènera où?

Jipes a écrit:Ah oui que bien sûr nous sommes déjà prisonniers et nos libertés sont déjà sévèrement amputés. L'exemple chinois est terrifiant en effet Le fait d'être noté en permanence et de voir son profil se dégrader de plus en plus jusqu'à ne plus pouvoir faire quoi que ce soit c'est un totalitarisme terrifiant

Oui, JP, cette perspective a de quoi nous glacer d'effroi.

Jipem a écrit:Flovia, c'est une analyse très pertinente et je me demande si le citoyen lambda est conscient de tout cela.

Quand je suis rentré à 23 ans chez un constructeur d'ordinateurs, je n'avais que peu conscience du futur qui nous était réservé. Mais le boulot des informaticiens de l'époque était d'écrire des programmes permettant de gérer déjà des données humaines, comptables, industrielles ou marketing. Jusqu'au cours des années 80, les données étaient sur du matériel qui n'était pas forcément accessible au commun des mortels. Mais les problèmes de sécurité informatique commençaient déjà à poindre leur nez.

Au début des années 90, l'internet est apparu dans les entreprises d'une certaine taille. L'ordinateur personnel a permis dès 1994 (via RTC) de vulgariser les connexions internet au domicile. Après tout a été très vite et je pense surtout que les états se sont faits dépasser par les GAFA qui sont eux mêmes devenus une forme d'état et de dictature.

C'est tout à fait juste, et je le sais d'autant mieux que l'un de mes frères (de douze ans mon aîné), a probablement eu la même amorce de parcours professionnel que toi : il avait rejoint les rangs d'IBM au tout début de son l'implantation en France, à l'époque déjà très lointaine où la firme recrutait uniquement sur tests, sans se soucier du cursus scolaire. Plus tard, mon frangin a monté sa propre boite d'informatique, période faste jusqu'à la démocratisation de la micro-informatique à l'échelle domestique, qui lui a mis un sérieux plomb dans l'aile, et l'a obligé à totalement changer d'orientation.
Mais comme tu le précises, l'informatique était, au départ, uniquement un outil facilitant la gestions des données dans les entreprises d'une certaine importance. Avec l'arrivée de la micro-informatique et surtout l'extension du réseau internet à grande échelle, tout s'est largement compliqué.

Jipem a écrit:La question est de se demander comment on peut laisser le moins de traces possibles sur l'Internet. Ces dernières années, on a pu remarquer que des personnes se sont fait avoir par leur employeur au travers des réseaux sociaux. Considérés comme souffrants, ils se vantaient de leurs vacances pendant leur pseudo maladie. Au même titre des employeurs se sont penchés au travers des mêmes réseaux sociaux sur les profils des candidats à l'embauche. Certaines personnes partageaient tellement de moments de leur vie à la vue de tout le monde qu'il était très facile d'établir un profil précis de du candidat.

S'il n'existait que ce genre de dérive sur  'face-bouc', ce serait moindre mal, car après tout, il fallait être plus qu'insouciant, voire un rien nigaud, pour s'aventurer, par ex., à débiner son employeur sur ce type de plate-forme, non? Et également peu prévoyant de laisser traîner sur ce même support des documents, avis et commentaires, ou toutes autres traces de parcours individuel, susceptibles d'être consultés par n'importe quel quidam.

Malheureusement, tout un lot d'autres dérives se greffent.
Par extension, difficile de passer sous silence l'incroyable escalade de violences verbales qui, sous couvert d'anonymat, se déchaînent sur les messageries instantanées, comme sur l'ensemble des réseaux sociaux.  S'y ajoutent les médisances verbales, photo, ou vidéo compromettantes, parfois prises à l'insu de l’intéressé, le tout largement diffusé, compliqué à faire disparaître et par dessus tout susceptible d'entraîner de graves traumatismes chez nos plus jeunes.

Jipem a écrit:Bien que pour naviguer, on peut utiliser un VPN (réseau privé virtuel) qui permet d'avoir une adresse IP anonyme, il reste un dernier point obscur : la journalisation par le fournisseur de cet outil ? Même à ce niveau des données sont collectées et qu'est-ce qu'elles deviennent ? Idem pour les plugins gratuits que l'on met dans son navigateur pour ne pas être pisté.

Eh oui, en effet!!! Judicieuse question dont le sujet m'avait complètement échappé...

Jipem a écrit:Pour revenir au sujet initial qui était l'Intelligence artificielle, j'ai eu l'occasion de suivre une formation dans les années 90 sur ce domaine déjà utilisé dans les outils décisionnels. Aujourd'hui, cela apparaît dans un tas d'applications et cela peut ouvrir des voies intéressantes en médecine par exemple. Mais à condition de ne pas détourner cette intelligence artificielle à des fins dictatoriales.

Comme par exemple l'implantation des pace-makers cardiaques, gérés par des logiciels et qui pourraient fort bien être détournés par n'importe quel criminel ayant les capacités informatiques adéquates. Ou bien celle des puces implantées au niveau cérébral, capables de palier certains dysfonctionnements moteurs et dont on pourrait aussi imaginer qu'elles soient dévoyées à d'autres fins beaucoup moins philanthropiques.
Sinon, il est évident qu'en médecine, l'IA rend aujourd'hui des services impressionnants, ne serait-ce que par sa capacité à analyser et  comparer en un temps record toute une batterie de symptômes décrits avec une banque de données similaires pour en tirer diagnostic et traitement.
Sans oublier les progrès colossaux en chirurgie et micro-chirurgie qu'on lui doit...

"C'est tout à fait juste, et je le sais d'autant mieux que l'un de mes frères (de douze ans mon aîné), a probablement eu la même amorce de parcours professionnel que toi : il avait rejoint les rangs d'IBM au tout début de son l'implantation en France, à l'époque déjà très lointaine où la firme recrutait uniquement sur tests, sans se soucier du cursus scolaire. Plus tard, mon frangin a monté sa propre boite d'informatique, période faste jusqu'à la démocratisation de la micro-informatique à l'échelle domestique, qui lui a mis un sérieux plomb dans l'aile, et l'a obligé à totalement changer d'orientation.
Mais comme tu le précises, l'informatique était, au départ, uniquement un outil facilitant la gestions des données dans les entreprises d'une certaine importance. Avec l'arrivée de la micro-informatique et surtout l'extension du réseau internet à grande échelle, tout s'est largement compliqué."

Effectivement, l'informatique au cours des années 60 puis 70, a été un sacré tremplin pour nombre de personnes. Pour ma part, cela été un concours de circonstances puisque je sortais d'une formation supérieure en électronique. En plus, je continuais le soir au CNAM à Paris. Au début des années 70, il y avait une pénurie d'informaticiens ce qui a conduit les constructeurs dans un premier temps a recruter dans des filières techniques. Dix ans plus tard, ils récupéraient des ingénieurs grandes écoles qui ne trouvaient pas de boulot pour faire ce métier (Quand même des gars qui avaient fait urbanisme ou des métiers qui étaient très loin de l'informatique). A la fin des années 70 puis 80, il y a eu l'émergence des sociétés de services en informatique et il faut dire que c'était une époque faste pour les informaticiens. A cet époque là, j'ai aussi pris le train en marche de la création d'entreprise ce qui m'a permis d'aller sans trop d'encombres jusqu'à la retraite.

"A chaque nouvelle défectuosité d'un système, le mode de sécurisation doit s'adapter, fournir des solutions par le biais d'applications toujours plus pointues, toujours plus défensives jusqu'à ne plus vraiment savoir nous-même ni comment elles fonctionnent, ni quelles en sont les faiblesses, ni quelle nouvelle faille elles nous réservent."

Exact et je l'ai encore vécu hier. Pourtant les outils de sécurisation ne manquent pas mais deviennent vite obsolètes. Là aussi a été créé un marché sur la base de ces défaillances dans lequel se sont développés des services au particulier. Bref tout cela n'est guère réjouissant.

A vrai dire, personnellement j’ai beaucoup de mal à discuter de ces questions, tant je suis à la fois pessimiste et peu enclin à me transformer en Don Quichotte.

L’IA est un progrès comme un autre. Le progrès est indissociable de l’espèce humaine et de ses facultés à innover et à se servir de ses connaissances accumulées pour en acquérir d’autres et aller toujours plus loin. C’est donc un « paquet-cadeau » que l’on ne peut refuser, au moins collectivement, et dont on est bien obligé d’accepter les avantages et les inconvénients, même si ces derniers ne sont pas immédiats.

Alors ce sera comme pour tout, l’être humain profitera des avantages de l’IA, au point qu’ils lui deviendront vite indispensables, et quant aux inconvénients il fera comme d’habitude, il s’adaptera. Et ce, quitte à perdre peu à peu beaucoup de choses qui donnaient du sens à sa vie d’autrefois, en particulier sa liberté.

Au début certains lutteront, essaieront de mettre des garde fous, lesquels voleront en éclat au hasard des circonstances, tant il est vrai qu’une fois que la possibilité est offerte, il ne faut pas compter sur tous les êtres humains pour être raisonnables. Après au fil des générations, ça se tassera. Ceux qui seront nés avec auront intégré dès l’enfance ses avantages et ses inconvénients, qu’ils ne considèreront d’ailleurs plus comme tels, mais comme de simples caractéristiques de vie tout à fait normales.

Ben oui, je crains fort que dans quelques dizaines d’années, les humains moyens aient pris l’habitude d’être surveillés, contrôlés, de s’autocensurer en permanence, et de n’avoir comme principale ambition que de vivre la vie de tout le monde. Et beaucoup se sentiront heureux comme cela.

Mais pour nous qui sommes dans la phase de transition, c’est différent. Nous sommes, nous les peu ou prou soixantenaires, définitivement des gens du 20ème siècle, pas du 21ème,  et nous avons tout à fait logiquement du mal à assumer, voire à simplement comprendre, les changements qui s’opèrent de plus en plus rapidement. Alors évidemment nous allons protester… en pure perte bien entendu, et d’ailleurs on ne nous combattra même pas, la mort s’en chargera peu à peu. Et je suppose que nos aïeux ont vécu à peu près la même histoire...

Phil ton constat est assez réaliste. Pour ma part, je ne m'élève pas contre le progrès et bien au contraire, j'en profite chaque jour. Je te rejoins sur le fait que nous sommes du 20° siècle et je pense en disant cela que nous avons peu de différence d'âge. La durée de vie (sans incident de parcours) nous permet d'espérer une bonne vingtaine d'années devant nous ce qui est peu par rapport à notre vécu du 20° siècle.

Je voudrai revenir sur un point qui concerne ces réseaux sociaux : il ne faut pas perdre de vue que ce sont des sociétés qui sont là pour faire de l'argent (destination normale d'un entreprise commerciale) mais qui n'ont aucun complexe quand il s'agit d'exercer leur coeur de métier dans une dictature.

Effectivement, l'adaptation des nouvelles générations à ces nouvelles émergences technologiques se fait automatiquement mais voient-ils la réalité quotidienne ?

Jipem a écrit:
Je voudrai revenir sur un point qui concerne ces réseaux sociaux : il ne faut pas perdre de vue que ce sont des sociétés qui sont là pour faire de l'argent (destination normale d'un entreprise commerciale) mais qui n'ont aucun complexe quand il s'agit d'exercer leur coeur de métier dans une dictature.

Effectivement, l'adaptation des nouvelles générations à ces nouvelles émergences technologiques se fait automatiquement mais voient-ils la réalité quotidienne ?

Et c'est peut-être bien là que se situe le cœur du problème!
Comment les plus jeunes générations, l’œil en permanence vissé sur leurs écrans mobiles, peuvent-elles appréhender la marche du monde, ses enjeux, ses avancées bénéfiques mais aussi ses chausses-trappes avec suffisamment d’acuité ? Comment peuvent-elles analyser les informations et les situations auxquelles elles sont confrontés avec le recul et l'esprit critique nécessaires? En vivant quasi continuellement dans l'instantané virtuel de leur propre microcosme, non seulement nos jeunes finissent par se déconnecter de la réalité quotidienne à plus large échelle, mais encore par manquer de repères / jalons de références dans tous domaines.

@ Phil : L'intention n'est nullement de remettre en cause quelque forme de progrès technique que ce soit, Phil, mais seulement de s'interroger sur les à-côtés pervers de l'IA, réfléchir à son impact sur nos libertés individuelles, son influence sur notre libre arbitre.
Et peut-être même commencer à s'inquiéter d'une certaine forme d'abêtissement qui risque d'atteindre nos jeunes générations à force d'assimilation à tel ou tel groupe social d'échanges en ligne.  
Le chercheur californien Jaron Lanier évoque déjà ''l'esprit de ruche'' pour qualifier le phénomène de standardisation humaine que les réseaux sociaux contribuent à instaurer, et qui tendrait à estomper la singularité de chaque individu.

Il est également permis de mettre en doute les motivations profondes de certains concepteurs de programmes intelligents, malgré l'affirmation aujourd'hui véhémente d'une poignée d'entre eux (comme par exemple ceux de ''Watson'' ou de  ''Woodside'') selon laquelle l'IA reste au service de l'homme, pour son ''meilleur usage possible'', alors que d'autres chercheurs évoquent parallèlement la nette tendance de l'IA aux mutations algorithmiques, vilain petit travers qu'il convient d'absolument réguler à la base.
Et, dans la mesure où, parmi les deux premiers développeurs cités, l'un confesse ignorer si l'intelligence dite ''augmentée'' sera jamais capable d'éprouver et d'exprimer des émotions, nous ne pouvons écarter le pire.

A quel quotidien nos arrière-(arrière?)- petits-enfants devront-ils donc s'adapter, ainsi confrontés à d'aussi froides intelligences, dépourvues de tout sens affectif, voire même dénuées de la moindre valeur morale?  
En l'absence de garde-fous éthiques, entre temps, universellement érigés, et de principes humanistes clairement définis, quelle sera l'existence de nos descendants, lorsque ces machines intelligentes parviendront définitivement à penser, imaginer, créer plus vite et mieux que l'homme, lorsque leur suprématie sur l'homme sera établie?
Jouiront-ils d'une douce oisiveté, ou à l'extrême opposé, souffriront-ils d'une sinistre forme d'asservissement, sous le joug d'entités robotiques dont seuls quelques dictateurs détiendront les commandes?
Supputations invraisemblables, pure science-fiction? N'en soyons pas si sûrs...
Et restons vigilants!

Quand j'étais petit, pas de portable, et pas toujours un fixe (a cadran rotatif, voire même quand je suis arrivé en Ardèche dans les années 70 le recours au standard et aux opérateurs pour demander un numéro...), pas d'ordi, pas d'internet et 1 à 3 chaines en NB quand on avait la télé. C'est pas si vieux !
Aujourd'hui, on voit les magasins fermer (on accusait les grandes surfaces, mais on s'aperçoit qu'elles sont en voie de disparition également... Internet ?).
Et quoi pour nos nos enfants quand ils auront notre (...) âge ?

Autres question splus en rapport avec le sujet: qui profite le plus de cette intelligence artificielle, l'économique ou le politique ? Lequel des deux domine l'autre ? Que vaut un dictateur face aux multinationales ?

Petit complément de réflexion: un article de 4 pages dans Médiapart : ICI

Faut-être abonné... Voici quand même le début pour vous donner envie:

Le capitalisme de surveillance, maître des marionnettes
2 mars 2019 Par Géraldine Delacroix

Pour l’économiste Shoshana Zuboff, auteur de L’Âge du capitalisme de surveillance paru aux États-Unis, le danger que font courir les géants du Web est bien plus grand qu’on ne l’imagine. En siphonnant les données personnelles pour modifier à leur insu les comportements de leurs utilisateurs, ils menacent la démocratie elle-même.

En s’appropriant nos données personnelles, les entrepreneurs du « capitalisme de surveillance » mettent en danger rien de moins que la démocratie, par la manipulation de notre libre arbitre. Telle est la thèse défendue par Shoshana Zuboff dans un volumineux ouvrage qui vient de paraître, L’Âge du capitalisme de surveillance (éditions Public Affairs, en anglais).

Le capitalisme est entré dans une nouvelle ère, explique l’autrice et, pour le comprendre et le combattre, il nous faudra chausser de nouvelles lunettes, car les anciennes n’opèrent plus devant un changement à la fois si radical et si rapide – une révolution survenue en moins de vingt ans. Une « nouvelle planète », une situation « sans précédent » dont on aurait tort de penser qu’il s’agit d’une simple continuation du passé.

Tout à la crainte du totalitarisme étatique, « nous n’avons pas vu venir les entreprises aux noms imaginatifs dirigées par de jeunes génies qui semblaient pouvoir fournir gratuitement exactement ce que nous voulions ». C’est l’une des principales nouveautés, et par là une source de cécité, de la situation actuelle : la surveillance, et le danger, sont passés entre les mains d’entreprises privées.

En introduction aux conférences qu’elle tient depuis la parution de son livre, Shoshana Zuboff demande aux personnes de l’assistance de résumer en un mot la raison de leur présence. Si, reconnaît-elle, son public forme un panel quelque peu biaisé, la cohorte de mots qu’elle recueille, chaque fois les mêmes, justifie sa démonstration.

Ce 13 février à New York, parmi les expressions choisies, on pouvait entendre : publicité, capitalisme global, panoptique, profilage, peur, humanité, résistance, exploitation, acheteurs, solution, révolution, déterminisme, souveraineté, manipulation, démocratie, dignité, autonomie. À Londres, rappelle-t-elle : « identité, liberté, pouvoir, loi ». Comme à Bruxelles ou Cambridge…

Comment en est-on arrivé à ce stade de « l’obscurcissement du rêve numérique », trente ans seulement après la naissance d’Internet ? C’est que le capitalisme est sorti des usines et des bureaux pour inonder tous les espaces de la société. Les entrepreneurs de la surveillance nous sont tombés dessus juste « parce que nous vivons, pas pour notre travail », explique-t-elle ce jour-là à New York.

« Comment nous appellent-ils ?, questionne cette professeure d’économie à Harvard. Nous n’avons pas de nom, nous ne sommes pas des travailleurs. Le nom qu’ils nous ont donné est “utilisateur”. Et ça ne va pas. » Ce que ce mot « utilisateur » nous apprend, dit-elle, est que ce capitalisme n’est plus confiné à l’économie. Il va donc falloir pour le combattre trouver de nouveaux moyens d’action collective, comme les travailleurs ont trouvé face au capitalisme industriel leurs propres moyens de lutte. Comment « mettre hors la loi ce nouveau capitalisme voyou », qui prospère « sur nos sentiments » et dont « le but est de nous automatiser » ?

Au lieu de notre force de travail, chère au capitalisme industriel, le capitalisme de surveillance se nourrit de « chaque aspect de chaque expérience humaine » et nous conduit à signer le pacte faustien du XXIe siècle : « Il est presque impossible » d’échapper au capitalisme de surveillance, « malgré le fait que ce que nous devons donner en retour va détruire la vie telle que nous l’avons connue. Considérons qu’Internet est devenu essentiel à la vie sociale, qu’il est maintenant saturé par le commerce, et que le commerce est soumis au capitalisme de surveillance ».

Que nos sentiments servent à générer du profit est inacceptable, mais aussi radicalement nouveau, explique l’autrice à ceux qui voudraient n’y voir qu’une continuité. Qu’il s’agisse d’orienter nos relations amicales ou amoureuses, notre vote ou le contenu de notre réfrigérateur, de notre garde-robe ou de notre bibliothèque, ce qui nous arrive est la « perte de la souveraineté sur notre propre vie ». Notre dépendance est au cœur du projet de surveillance commerciale, qui se définit en deux questions : Quel est le produit ? Quel est le client ?

Pour Shoshana Zuboff, malgré l’adage selon lequel « si c’est gratuit, vous êtes le produit », les internautes ne sont pas des produits, mais « les sources d’une valeur ajoutée cruciale au capitalisme de surveillance : les objets d’une opération d’extraction de matières premières technologiquement avancée et de plus en plus inéluctable », des producteurs – malgré eux – de données. Le produit, c’est « notre comportement futur », sous forme de clic, d’achat, en ligne ou hors ligne, comportement dont les clients sont les entreprises qui l’achètent et le vendent, l’échangent sur un nouveau marché.

Ce pacte avec le diable signé en utilisant Google et Facebook (entre autres…) nous engourdit le cerveau, nous fait créer des mécanismes de défense (« je n’ai rien à cacher »), génère un « cynisme résigné ». « En ce sens, le capitalisme de surveillance impose un choix fondamentalement illégitime que les individus du XXIe siècle ne devraient pas avoir à faire », explique Shoshana Zuboff.

Nous voilà victimes d’une asymétrie inédite : « Le capitalisme de surveillance sait tout de nous, alors que ses opérations sont conçues pour que nous n’en sachions rien », il « annule les droits fondamentaux associés à l’autonomie individuelle », droits « essentiels à la possibilité même d’une société démocratique ».

Grosso modo, cet article résume plutôt bien tout ce que nous avons échangé sur le sujet, non?

Le mécanisme défensif du ''Je n'ai rien à cacher'' m'a souvent fait sourire, parce qu'il y a dans cette pseudo-transparence une volonté de s'intégrer coûte que coûte à un groupe, notre instinct grégaire nous y encourageant sans doute. En étalant les moindres détails de sa propre existence au vu et au su de tous, voilà certainement le moyen le plus efficace d'y parvenir.
Fort heureusement, quelques uns renâclent encore, gardant pour eux une part significative de mystère, et c'est plutôt bon signe, je trouve.