Les réseaux sociaux, les fichiers de surveillance, les Anonymous...des systèmes évoluant vers l'autonomie
Jean-Paul Baquiast, Alain Cardon 23/05/2012
L'ère cambrienne (de - 850 à – 480 millions d'années) a été caractérisée par une explosion de formes de vie pluricellulaires très diversifiées, dont ont découlé les grandes familles d'espèces modernes. Cette explosion a succédé, pour des raisons encore mal identifiées tenant à la géologie et au climat, à plusieurs milliards d'années de vie monocellulaires, où les évolutions avaient été beaucoup plus lentes.
Aujourd'hui, l'observation de l'évolution des systèmes d'information dans le monde paraît faire apparaitre une explosion analogue, tant dans le nombre que dans les caractéristiques de ces systèmes. Par le terme de systèmes d'information, nous entendrons ici des systèmes associant des composants matériels (hardware), des composants logiciels et des utilisateurs humains, individus et groupes, plus ou moins « enrichis » par les relations comportementales (ou culturelles) qu'ils établissent avec les composants non-biologiques de tels systèmes. Ceux-ci sont aussi divers qu'il y a de technologies et d'usages leur étant associés. Le tout se caractérise, dans l'état actuel du monde, et tant que d'éventuelles catastrophes de grande ampleur ne viendront pas couper les ailes à cette évolution, par une prolifération pouvant être comparée, toutes choses égales d'ailleurs, à l'explosion cambrienne.
On reconnaîtra dans la définition que nous donnons ici du phénomène le concept que nous avons présenté par ailleurs, celui de « systèmes anthropotechniques ». Ceux-ci associent, depuis les échelles les plus grandes jusqu'aux plus petites, des technologies spontanément multiplicatrices et des humains qui utilisent ces technologies pour accéder, en compétition-collaboration darwinienne, aux ressources et aux pouvoirs. Il en résulte que les usages imposés par ces humains aux technologies sont eux-mêmes proliférants. Ainsi en est-il, par exemple, du téléphone portable et de la localisation satellitaire (GPS) dont les formes initiales se multiplient en s'entrecroisant du fait aussi bien des complexifications technologies que des nouveaux usages qu'en font les utilisateurs.
Nous proposons d'utiliser pour décrire ce monde le terme d'écosystème, puisqu'il est très comparable aux écosystèmes biologiques. Un des points caractérisant ces derniers, comme tous les phénomènes naturels de grande ampleur, est qu'ils ne sont pas contrôlables ni même analysables dans leur globalité par des agents humains. Les humains, aussi armés qu'ils soient en ressources technologiques diverses, se révèlent incapables de prévoir et moins encore de diriger l'évolution globale des systèmes vivants. Ils peuvent exercer des actions destructrices, mais même si celles-ci font disparaître certaines formes supérieures, elles ne peuvent empêcher la prolifération de formes plus simples, algues ou bactéries par exemple. Les politiques dites volontaristes de protection du milieu naturel n'ont ainsi que des effets partiels, sans exclure des conséquences qui n'étaient pas attendues.
Les écosystèmes de l'information, tels que nous les définissons ici, sont tout autant que les écosysytèmes biologiques, difficiles à observer, plus difficiles encore à maîtriser. Les facteurs qui provoquent leurs proliférations, mentionnés ci-dessus, facteurs technologiques ou facteurs anthropologiques, sont trop divers et dispersés pour pouvoir être réglementés par quelque autorité que ce soit. En d'autres termes, le volontarisme appliqué à leur développement, visant à provoquer telles évolutions ou en prohiber telles autres, ne peut avoir que des effets limités. Ainsi les réseaux sociaux, dont certains vantent les bons effets et d'autres signalent les dangers, se développent selon des modalités et à des rythmes dont on ne peut que constater a postériori les formes et les conséquences. Ceci ne veut pas dire que les autorités civiles et morales doivent démissionner devant ces phénomènes, en tolérant par exemple leurs abus les plus manifestes. Mais elles ne doivent pas s'illusionner. La réglementation sera toujours d'un effet limité et toujours en retard d'une phase.
Il en est de même, selon nous, des usages plus toxiques, au regard des impératifs qualifiés en Europe de démocratiques, consistant à relever et mettre en mémoire, afin d'identification, de contrôle et souvent de répression, un nombre de plus en plus élevées de données intéressant les personnes, les objets et les activités. Il en résulte des atteintes potentielles et souvent effectives aux droits individuels et collectifs, même lorsqu'aucun impératif de sécurité ne l'impose. En ce domaine, on ne renoncera pas les réglementations interdisant aux services de police et de sécurité, comme aux entreprises faisant commerce de ces activités, les abus de droit les plus manifestes. Mais il serait dangereux, au regard d'une volonté de protéger ces libertés, de penser que ces réglementations suffiraient. Les technologies et les usages ayant pour effet, voulu ou involontaire, de les tourner, sont déjà à l'oeuvre, sans que généralement les citoyens soucieux de démocratie ne s'en rendent compte. C'est ainsi qu'une observation un peu avertie montre que, dans les régimes autoritaires mais aussi dans ceux se voulant les plus respectueux des impératifs de la démocratie, des systèmes d'information entrecroisés et co-activés se sont mis en place, dont l'effet se traduit par des possibilités de contrôle de plus en plus total des activités et des consciences citoyennes. Ces possibilités de contrôle sont inégalement exploitées mais elles existent.
Des systèmes évoluant vers l'autonomie
De plus, un facteur que l'on découvre seulement maintenant doit être évoqué. Au sein des écosystèmes de l'information tels qu'ils se généralisent actuellement, apparaissent des entités capables non seulement d'une vie autonome mais même d' « intentions ». Celles-ci visent dans un premier temps à pérenniser leur survie, quelles qu'en soient les conséquences au regard des impératifs citoyens ou moraux que pourront pas ailleurs se fixer les citoyens. Le phénomène est la transposition des mécanismes évolutifs se produisant dans les écosystèmes vivants, soit au plan global de l'évolution des espèces, soit dans le domaine moins visible et plus segmenté de la compétition entre les gènes. Les « intentions », dans les deux cas, ne prennent pas la forme de déclarations explicites, mais elles résultent de la conjonction ici et maintenant de facteurs causaux définissant ce que l'on pourrait appeler des développements « contraints ».
Dans le domaine de la génétique, les développements contraints résultent en général d'un environnement de protéines conditionnant l'expression des gènes et résultant des mutations et sélections s'étant produites auparavant. Ainsi apparaîtront d'une façon apparemment spontanée des organes complexes, tels que les yeux, à partir du développement de précurseurs apparus antérieurement dans l'évolution. Ceci pourra conduire à tort les partisans du finalisme à parler d'une intention résultant d'un choix conscient, interne ou extérieur.
D'une façon un peu comparable, on pourra constater que les réseaux sociaux ou les grands serveurs stockant les informations individuelles suggérent spontanément des « profils » révélant la personnalité profonde ou les activités les plus secrètes des individus. Ceci proviendra du fait que les précurseurs de telles dénonciations quasiment policières auront été très tôt inclus dans les fichiers, n'attendant qu'une occasion pour s'activer et devenir accusatoires. Or dès que de telles informations apparaîtront spontanément dans les réseaux, elles trouveront très vite des humains, assistés de logiciels adéquats, pour en faire des usages commerciaux ou politiques illicites, quand ce ne sera pas des applications criminelles.
Evoquer comme nous le faisions ici des systèmes évoluant vers l'autonomie doit être précisé. Cette autonomie se propage de la base au sommet. Les composants élémentaires des systèmes, y compris les plus petits d'entre eux, deviennent autonomes les premiers (ainsi un micro-logiciel de surveillance implanté dans un téléphone portable). Ils s'agrègent ensuite spontanément en nuages de plus en plus autonomes, où les individualités des utilisateurs perdent la cohérence que ceux-ci s'imaginent encore posséder.
Vulgariser les connaissances et les savoirs-faire
Mais alors, dira-t-on, comment les démocraties, générant ces écosystèmes de l'information, pourront-elles éviter ou tout au moins minimiser leurs dérives menaçantes. La solution reposera, pensons-nous, dans la vulgarisation la plus large possible des connaissances relatives à ces phénomènes. Ainsi les techniques ne resteront pas l'apanage de minorités qui s'en serviraient pour contrôler les majorités. Chacun au sein des populations, ayant pris conscience de la puissance et des risques potentiels associés à ces techniques, sera incité à générer les solutions permettant de s'immuniser contre ces risques tout en bénéficiant de leurs avantages.
La philosophie de la démarche proposée ici est celle qui vient récemment d'être discutée à propos des risques inhérents aux recherches sur les virus de grippes potentiellement mortelles. Ces recherches doivent-elles être confinées dans des centres de haute sécurité, avec la perspective qu'un jour ou l'autre, inévitablement, des germes s'en échappent et frappent des populations non protégées ? Doivent-elles au contraire être menées publiquement, avec l'espoir qu'une meilleure connaissance des virus hautement pathogènes génère en contre-coup des processus immunitaires et des pratiques sanitaires visant à les rendre moins dangereux.
Dans les cas que nous avons signalés, susceptibles à la fois d'usages jugés utiles et de dérives jugées dangereuses, autrement dit les réseaux sociaux et les fichiers de police ou de sécurité, auxquels nous ajouterons un phénomène encore mal compris mais aux conséquences politiques considérables, le « hacking » ou piratage des systèmes par des entités difficilement identifiables prenant le nom d' « Anonymous », la seule façon permettant aux démocraties de sauver leurs valeurs serait de favoriser une diffusion aussi large que possible des techniques et processus mis en oeuvre. Ainsi nul ne sera surpris sans défense.
Certes la complexité des sociétés qui utiliseront ces techniques et processus ne cessera d'augmenter, rendant l'information et la réglementation à leur égard toujours plus difficiles. Mais il ne s'agira qu'un des aspects de la complexité des sociétés anthropotechniques modernes, impliquées dans de nombreux autres processus tout aussi ambivalents, à la fois indispensables et dangereux : les transports, la médecine, l'exploration de l'espace et plus généralement toutes les recherches scientifiques s'intéressant aux domaines émergents.
Il va sans dire que pour faire face aux enjeux de démocratie en cause, des recherches multidisciplinaires "désintéressées" devront être conduites en toute transparence. Une telle perspective semble bien loin aujourd'hui.
En confiant à Automates-Intelligents la diffusion des travaux qu'il a mené dans le domaine des systèmes autonomes, le professeur Alain Cardon, cosignataire de la présente note, a décidé de s'inscrire dans la démarche résumée ici : commencer à faire connaître certaines des recherches intéressant l'évolution des systèmes d'information vers l'autonomie, encourager l'extension de ces recherches dans d'autres domaines, des sciences sociales à la biologie. Beaucoup des travaux existant actuellement ne sont pas communiqués, mais il faut cependant prendre conscieince qu'ils impactent désormais sans qu'ils s'en aperçoivent la totalité des humains présentes sur la planète.
Certes, les sujets sont difficiles et mériteraient une démarche pédagogique dont l'ampleur dépasserait nos moyens. Mais commencer à en parler ne peut qu'avoir des effets favorables au regard d'une telle exigence. .
Nous invitons le lecteur intéressé par ces questions à consulter deux ouvrages en ligne du professeur Cardon, qu'il a souhaité publier sur ce site. Ils sont accessibles en téléchargement gratuit et publiés sous Licence Creative Commons.
Le premier est intitulé
« Vers un système de contrôle total » Editeur Automates Intelligents, 20 octobre 2011
Pour l'obtenir, faire
http://www.admiroutes.asso.fr/larevue/2011/121/controletotal.pdf Le second est intitulé
" Modélisation constructiviste pour l'autonomie des systèmes"
Automates Intelligents. 24 mai 2012
Pour l'obtenir faire ...
(la référence sera précisée sous peu, dans les réactions à cet article sur le site AgoraVox)
