Utopiales 2014, Conférence #1 : IA, Apocalypse et religion

11 novembre 2014 0 Par Boudicca

Le thème du festival des Utopiales de Nantes étant cette année « Intelligence », de nombreuses conférences ont été consacrées à ce vaste sujet, dont une particulièrement intéressante intitulée « IA, religion et Apocalypse » et réunissant une sacrée brochette d’auteurs : Alain Damasio (« La zone du dehors »), Thomas Day (« Sept secondes pour devenir un aigle »), Raphaël Granier de Cassagnac (« Un an dans les airs »), Walter Jon Williams (« Avaleur de monde »), Dimitri Glukhovski (« Métro 2033 »).

Affiche Utopiales 2014

 

La possibilité que des scientifiques parviennent à mettre au point des machines dotées de conscience les angoisse-t-elle ? Et quel est leur avis concernant les IA déjà existantes ?

Cela n’inquiète absolument pas Walter Jon Williams qui considère les quelques IA existantes, telles que celles utilisées par des sites commerciaux comme Amazon, bien trop stupides. Quant aux IA créées afin de mener à bien une tâche très sélective (jouer aux échecs, par exemple), elles sont pour leur part bien trop limitées pour constituer une quelconque menace. Alain Damasio ne croit quant à lui pas une seule seconde qu’une machine pourrait un jour dépasser l’homme. Ce qui l’intéresse, ce n’est pas de savoir si cela serait possible, mais plutôt pourquoi on cherche à nous faire croire que ça l’est. Pourquoi cette manipulation ? Même absence d’inquiétude chez Dimitri Glukhovski qui serait surpris si, dans l’éventualité où une IA parvenait un jour à dépasser l’homme, celle-ci en viendrait à se retourner contre son créateur. Si l’homme est un être organique poussé par un instinct de compétition presque irrépressible, il serait étonnant qu’il en aille de même pour les machines qui, elles, ne possèdent pas ce réflexe de concurrence.

Thomas Day explique quant à lui que, s’il n’est nullement inquiet concernant la création d’IA dotées de conscience, il s’interroge toutefois sur l’existence d’autres formes d’intelligences qui fonctionneraient différemment de nous et il serait dommage de se priver de ce terrain de jeux sous prétexte que cela ne risque pas d’arriver. Il faut prendre garde à ne pas confondre IA et conscience de sa propre existence, et c’est à cette dernière proposition qu’il estime utile de réfléchir par le biais de la SF. C’est d’ailleurs ce qu’il tente de faire dans l’une des nouvelles de son dernier recueil, « Lumière noire », dans laquelle on découvre un monde post-apo où les humains sont progressivement détruits par une conscience supérieure, non pas par cruauté ou désir de conquête, mais simplement parce que les hommes exploitent trop d’énergie et qu’elle en a besoin pour survivre.

 

Pourquoi s’intéressent-ils tous à la question de l’Apocalypse et quel lien peut-on faire avec la religion et les Intelligences Artificielles ?

La plupart des livres de Dimitri Glukhovski traitent de l’Apocalypse mais pour lui la plus grande menace de l’homme n’a rien à voir avec une quelconque évolution de la machine mais plutôt avec la nature même de l’homme. On en a malheureusement déjà été témoin il y a peu, comme lors de la Seconde Guerre Mondiale où le monde est passé prêt de anéantissement. Et malheureusement la menace plane aujourd’hui encore grâce à Poutine qui, involontairement, participe ainsi à la promotion des livres consacrés à l’Apocalypse écrits par l’auteur. Malgré notre sophistication intellectuelle ou émotionnelle, on reste animé par cet instinct de compétition qui nous anime, et les machines n’ont rien à voir là-dedans. Une chose à laquelle adhère tout à fait Raphaël Granier de Cassagnac pour qui le meilleur remède contre toutes les menaces qui mettent en danger l’humanité, c’est le savoir.

Damasio s’intéresse particulièrement à ce fantasme d’une race humaine dépassée puis asservie par la machine. L’homme serait alors en situation de servilité volontaire, complètement dépolitisé et prêt à se soumettre et se laisser gérer. Or, pour lui, il ne s’agit de rien d’autre que d’une nouvelle mythologie qui réinvente l’aliénation que l’humanité a subie pendant des siècles sous le joug des trois grandes religions monothéistes. Dans les deux cas, c’est un phénomène généré par l’homme qui va devenir la cause de son asservissement. On cherche donc à réinventer cette pulsion religieuse par un autre biais, alors qu’on devrait plutôt chercher à s’en débarrasser. « Combien de fois devra-t-on tuer dieu ? » s’interroge-t-il avec humour.

CIMG3864

De gauche à droite : Dimitri Glukhovski, Thomas Day, Alain Damasio, Walter Jon Williams, Raphaël Granier de Cassagnac et la modératrice

On constate aujourd’hui que des appareils tels que les I-phones, tablettes… ont pris une place de plus en plus centrale dans notre société, dans quelle mesure l’humain est-il mis en tutelle par ces machines ?

Pour Dimitri Glukhovski, si on devait craindre une certaine forme d’Apocalypse, ce serait une dégradation intellectuelle de l’homme due à tous ces appareils dont on ne peut plus se passer (merci Steve Jobs…). Télévision, portable, tablette, écran…, toutes ces machines censées nous rendre la vie plus faciles se mettent à nous aliéner de plus en plus. Pour lui nous avons déjà perdu une guerre contre les machines, mais sans le savoir. C’est ce que Walter Jon Williams appelle la « soft apocalypse », celle qui naît du confort et dont on ne réalise même pas qu’elle a lieu.

Alain Damasio explique quant à lui que ce mythe actuellement très populaire d’une IA qui nous dépasserait est étroitement lié au rapport que nous entretenons actuellement avec les machines à qui ont a de plus en plus tendance à déléguer nos capacités cognitives (s’orienter, traduire…). On sous-traite à la machine le plus de choses possibles, même les plus essentielles, et c’est de là que vient le dangers. [L’auteur a d’ailleurs consacré une nouvelle sur ce sujet, mise en ligne sur le site 01net, « Novak et son Ai-phone », dans laquelle il met en scène une société futuriste où un jeune homme va se retrouver privé de son portable et ne va plus savoir rien faire sans lui.] Un avis partagé par Thomas Day qui explique avoir par exemple beaucoup de mal à déconnecter ses enfants des écrans et à gérer ce qui relève presque de l’addiction. Le danger est donc bel et bien le confort. A force de tout confier aux machines, on courre le risque que ce soit elles qui finissent part nous dire « ce weekend vous ferez ça car cela va vous plaire », ou encore « votre livre préféré est celui-ci », « votre restaurant préféré celui-là… »…

Retour en haut