De la crise à la singularité technologique, en passant par Asimov

Dans le livre « Robots », de Isaac Asimov, la technologie a atteint un tel degré de développement que la gestion du « monde » se trouve alors effectuée par des « supercalculateurs » capables de coordonner les besoins et les ressources disponibles pour satisfaire les intérêts des hommes, dont les tâches se résument apparemment à surveiller le bon déroulement des opérations, ou à améliorer les performances de leurs machines. Des robots, mus par les Lois de la Robotique qui les destinent au service des hommes, remplissent tous les travaux pénibles qui fatiguent d’ordinaire les humains, et certains sont même capables de servir de « nourrice » aux enfants : le développement technologique semble avoir permis à l’homme de se libérer des contraintes du travail, ainsi que des difficultés pour assurer sa subsistance.

 

Cette oeuvre, qui compile 9 nouvelles et qui a été rédigée dans les années 1940, a de quoi faire réfléchir sur notre monde présent, car il semble que la vision du progrès technologique tel qu’on l’imaginait dans le milieu du vingtième siècle n’a pas abouti aux objectifs qu’on lui prêtait alors : aujourd’hui le progrès technique est en concurrence avec l’être humain, alors qu’il devait être son aide la plus précieuse. Et même si les robots qui peuplent le monde imaginé par Asimov sont peut-être réalisables d’un point de vue technique, ils sont impossibles à concevoir dans un monde capitaliste : que pourraient bien faire alors les hommes dans un tel environnement, à part se prélasser en attendant que le robot-cuisinier prépare le dîner, sans emploi et surtout sans salaire ? Alors que la simple mise en place de caisses automatiques dans les supermarchés jetterait des dizaines de milliers d’employés dans les affres du chômage et de la misère, comment imaginer l’arrivée sur le marché de robots aussi perfectionnés, aussi « utiles » que le sont ceux évoquées dans cet ouvrage ?

Quand bien même nos savants chercheurs trouveraient la possibilité technique de réaliser ces formidables outils, comment pourraient-ils s’intégrer dans le monde tel qu’il fonctionne aujourd’hui ? Imaginez le cauchemar pour l’économie, avec des robots capables de remplacer les hommes partout où ils ne s’épanouissent pas ? Imaginez la tête de nos dirigeants, de nos « génies » boursicoteurs ou économistes, face à la puissance de « prédiction » de supercalculateurs si perfectionnés ?

Mais nous pouvons être rassurés, ce cauchemar n’est pas pour tout de suite, et il est même loin le temps où tout le monde pourra se payer ce petit bijou : car le capitalisme veille, et ses agents  préfèrent régner sous son joug que de supporter librement le sort commun.

 

A l’heure où le monde traverse une crise idéologique historique et décisive, il est pourtant intéressant de se pencher sur ces « supercalculateurs » : munis d’une puissance de calcul inégalée, ils possèdent presque le pouvoir de prédire l’avenir, en ce sens que des milliers de milliards de paramètres entrés en équation peuvent permettre de savoir précisément si le climat se réchauffe, à cause de quoi et de combien, où et quand ; et aussi quelles répercussions auront sur lui le fait d’augmenter la TVA, de donner le droit de vote aux étrangers ou de supprimer la bourse.

 

Dans cet ouvrage,  les robots deviennent au fil du temps si perfectionnés qu’ils finissent par réaliser ce qu’on nomme la « singularité technologique » à savoir qu’ils deviennent tellement puissants qu’ils finissent par posséder eux seuls la capacité d’améliorer les performances des supercalculateurs, comme celle de décrypter leurs calculs.  Ces supercalculateurs devraient être l’objet de tous les rêves de nos gouvernants, car gouverner c’est prévoir, et les supercalculateurs permettent de tout prévoir… et donc de tout régler. Le développement de supercalculateurs permettrait de rendre impossible les famines, le gâchis, le dérèglement climatique ou les problèmes de logement… mais il ferait sans doute aussi s’effondrer le monde capitaliste qui fonctionne sur la rareté, l’opposition des intérêts particuliers et l’injustice. Et c’est bien contre cela que luttent les puissants de ce monde. Car dans notre monde, si complexe et si « interconnecté », la science n’est développée qu’à l’intérieur du « prisme » capitaliste, et le développement technologique est soumis aux mêmes lois que celles que subissent les autres développements : celles qui posent l’intérêt individuel et la rentabilité au dessus de toutes les autres considérations, de toutes les autres valeurs. Nos « supercalculateurs » actuels ne servent que les marchés boursiers, nos robots ne sont utilisés que dans l’objectif de réduire des coûts de production en réduisant la part salariale (quand délocaliser est devenu trop cher), et les technologies ne sont pas développées dans l’intérêt général mais dans le but d’en tirer des bénéfices financiers, individuels.

De plus, la rentabilité comme « Première Loi » implique la destruction de toute idée libératrice par la technologie, car le développement technologique à visée humaniste va à l’encontre du capitalisme… ainsi que des inégalité inhérentes à ce système et le pouvoir exercé par un petit nombre sur un autre très grand. Trouver un seul médicament pour tout et pour tous, rendre possible l’utilisation gratuite et infinie des énergies propres et inépuisables, libérer les hommes du travail est tout simplement in-envisageable : comment les puissants de ce monde conserveraient-ils alors leurs privilèges ?

 

Les puissants de ce monde n’ont absolument aucun intérêt à concourir au bien du plus grand nombre,  pas plus que celui de rendre possible l’intervention de supercalculateurs dans la vie sociale : ils préfèrent de loin les erreurs manipulables de leurs « idéologues-économistes » à un incorruptible ordinateur capable d’intégrer tous les paramètres, toutes les données, toutes les informations, de les mettre en ordre et d’en sortir une synthèse sérieuse. Et heureusement pour eux l’homme en est bien incapable, car personne ne pourra jamais « tout savoir ».

Le problème se situe donc dans « le cadre » qui englobe la pensée humaine, son idéologie : alors que la première loi qui encadre le développement technologique est celle du capitalisme (« le profit avant tout »), celle du développement technologique décrit par Azimov est l’intérêt général, à travers les trois lois de la robotique qui sont :

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Dans ce monde-ci, la technologie a pour mission première de protéger et de servir les hommes, tandis que dans le notre elle n’existe que pour satisfaire des besoins particuliers. Si les actions des puissants de ce monde étaient régies par les mêmes lois que celles de « Robots », le monde actuel ressemblerait sans doute un peu plus à celui d’Asimov qu’au notre.

Car la réflexion conduite par Asimov ne s’arrête pas là, et les parallèles qu’on en peut faire avec la situation actuelle non plus : à force de développements, il devient dans le livre impossible de distinguer un humain d’un robot, et le monde des humains commence alors à craindre ceux dont ils n’a plus ni le pouvoir ni la capacité de contrôler. Les hommes craignent la tyrannie des robots, remettent en question les calculs qu’ils ne sont plus en mesure de vérifier : on interdit alors aux robots de se présenter à des élections, pour ne pas qu’ils finissent par devenir les « maîtres » de ce monde.

Si bien qu’arrive un jour où un homme se voit porté au pouvoir par le peuple qui le croit homme, alors qu’il est robot. Le monde n’a jamais aussi bien été géré, et ses opposants qui le soupçonnent veulent le confondre, afin qu’il soit démis de ses fonctions. Mais les robots sont les plus malins, en jouant sur les trois règles dont ils disposent pour remplir le rôle qui leur incombe, et préfèrent mentir dans l’intérêt général que de laisser les hommes reproduire toujours les mêmes erreurs…

Voilà une belle leçon pour nos gouvernants, et un espoir pour les peuples  : alors que la conférence de Durban n’a rien donné de plus que les autres conférences sur le climat (faute de projections invérifiables par de « simples » humains), alors que les conséquences des OGM sont incalculables et peut-être catastrophiques pour l’humanité toute entière, alors que personne n’est en mesure de connaître les véritables dangers de l’énergie nucléaire, alors qu’on ne sait si l’austérité sauvera ou empirera la situation sociale des peuples concernés par ces mesures (enfin là on a une petite idée quand même…), la « science-fiction » nous offre d’autres perspectives que celles de perdre toute notre science et tout notre savoir dans de savants mais inutiles calculs de probabilités de risques, au nom de la rentabilité et sous couvert de morale, aussi invisible que la main sur laquelle elle s’appuie.

 

Au lieu de calculer combien de marge, quels risques, quels taux, quelle note, combien vaut l’homme ou combien vaut un litre d’air, on pourrait calculer ce qu’il nous faut, ce qu’on a, qui a besoin de quoi, sans craindre la faillite : il faut lire Fondation, la « grande » oeuvre d’Asimov, qui montre bien à quel point les possibilités de développement de l’humanité sont gigantesques, infinies presque. Quand on voit combien d’exoplanètes on découvre, quand on étudie des rats qui ne vieillissent pas, que nous sommes capables de reproduire n’importe quelle cellule et même des cellules qui n’existaient pas, il est impossible d’accepter qu’aujourd’hui nous ne soyons pas en mesure de nourrir et de loger tout le monde. Ce n’est pas un problème de capacité créatrice, ni réalisatrice, ce n’est pas un problème de ressources mais un problème de partage de celles-ci, de création délibérée de rareté, d’obsolescence, de monopoles, enfin de rentabilité qui empêche la technologie de servir véritablement les hommes. Sans la recherche de rentabilité comme première loi, alors tout est possible, sans devoir se contraindre ni à la décroissance ni au chaos.

 

Caleb Irri

http://calebirri.unblog.fr