/fr/Concepts-cles/Determinisme-technologique/2022/3/16

Communication : Quels choix face à une IA gouvernante ?

Éditer l'article

le 6 avril Emmanuelle Lescouët présentera cette communication au colloque Pouvoir et responsabilité en science-fiction

Le colloque Pouvoir et responsabilité en science-fiction, organisé par le laboratoire Stella Incognita, aura lieu à l'Université de Reims du 5 au 7 avril 2022

Quels choix face à une IA gouvernante ?

Nos choix sont définis par notre finitude : c’est parce que le temps nous est limité que nous prenons des décisions. Il y a toujours en ligne de mire l’impossibilité de faire un autre choix. C’est aussi ce qui va décider des politiques publiques : gérer les écoles et les personnes âgées, penser aux retraites et aux remplacements, donc à la formation et aux revenus…

Dans une société où les vies humaines n’ont plus de fin naturelle, où l’on peut ne pas sentir le poids des années : qu’en est-il ? Quel pouvoir, et donc quel contre-pouvoir sont imaginables dans une société où le temps n’est plus un enjeu urgent ?

J’aimerais étudier la question de l’implication politique encore possible et donc des choix sociétaux envisageables dans une telle société à travers la trilogie Scythe (*Scythe, Thunderhead, The toll*) de Neal Shusterman. Dans cette série young adult, le.a lecteur.ice est plongé.e dans un futur proche où la mort naturelle a disparu, et où la politique comme les choix quotidiens ont été remis entre les « mains » d’une intelligence artificielle douée de conscience.

La seule classe de la population n’étant pas directement sous son contrôle est composée par les Scythes, des faucheuses seules habilitées à terminer la vie de quelqu’un et responsables de choisir qui ils et elles vont sélectionner. Elles demeurent l’unique organisation ne dépendant pas de l’IA omnisciente. Mais ce pouvoir d’opposition, encodé dans les principes mêmes de ce gardien de l’humanité, laisse également le champ libre à des dérives contre lesquelles plus rien n’est possible.

Dans ce cadre, la révolte, ou même la simple opposition, a presque disparu, mais parvient toujours à trouver des moyens d’expression. En voici quelques exemples : la seule religion qui existe est une forme de refus des améliorations médicales devenues communes et espérant un retour à une forme de mortalité; le Thunderhead (l’IA gouvernante) donne accès à tous.tes à ses connaissances, mais dissimule plus ou moins les informations, poussant certain.e.s à fouiller plus loin, ces choix de recherche les poussant à se dépasser; le dernier pouvoir humain, la gouvernance des scythes, tend à rencontrer des courants d’opposition en son sein même, certain.e.s citoyen.ne.s commettent des délits mineurs pour le frisson de la chose ou vont s’opposer aux forces de l’ordre, etc.

Ces oppositions, ou débordements restent cependant encadrés par l’IA, mais quand cette dernière bascule dans le silence et le deuil, l’humanité n’est plus capable de se gérer. La confrontation aux choix possibles, infinis, offerts par la non-mortalité devient un fardeau inconcevable.

Colloque à retrouver en ligne.

Connexion