La bêtise artificielle

Une nouvelle d’Agnès Desarthe, écrite spécialement pour ce hors-série d’En attendant Nadeau. Où l’on heurte de plein fouet les machines intelligentes…

C’était un bel après-midi de début du printemps. Les pommiers, les cerisiers, les poiriers étaient en fleur. Les prairies se piquaient de coquelicots. L’air était doux, plein de la promesse d’une chaleur qui était plus appréciable que la chaleur ne le serait elle-même au moment où elle éclaterait, asséchant la terre et brûlant les pétales. Je roulais à bord d’une voiture automatique qui me tenait instantanément informée de ma consommation d’essence et de la quantité de carburant restant dans le réservoir. Le GPS s’adressait à moi d’une voix dont j’appréciais l’assertivité et l’insistance. Dans 300 mètres, serrez à gauche. Serrez à gauche. Au rond-point prenez la troisième sortie. Puis, au rond-point, prenez la deuxième sortie sur la D39. Je me rendais chez Martin Delbaeque, dans la lointaine mais voisine Belgique, et je me sentais invincible.

Je me suis mise à chanter « Le gorille » de Georges Brassens, à tue-tête, toutes fenêtres ouvertes. Et, soudain, j’ai entendu une voix. Une voix faible, presque imperceptible et pourtant familière. J’ai pris peur. Mon cœur s’est emballé. J’ai fermé toutes les vitres, à l’affût de cette voix. Plus rien. Timidement, je me suis remise à chanter. Peut-être était-ce un phénomène d’écho. Et voilà qu’elle s’élevait à nouveau, féminine, étouffée, comme si elle venait du fond de mon sac posé à la place du mort (ou de la morte, me suis-je dit, dans la mesure où la voix était féminine). J’ai entamé le deuxième couplet, tout en tendant l’oreille et en penchant la tête vers le siège avant droit. Et je l’ai entendue, distinctement cette fois : « Bonjour, je suis Siri. Que puis-je faire pour vous ? Allez-y, je vous écoute. » J’ai souri. Rien à craindre. C’était la voix intérieure de mon téléphone portable. Je n’utilisais jamais cette application, censée, comme me l’avait expliqué le fervent jeune homme du magasin, me faciliter immensément la vie. « Imaginez que vous êtes dans la cuisine en train de pétrir une pâte à tarte, et tout à coup, vous vous souvenez que c’est l’anniversaire de votre frère. Vous prononcez la formule magique : « Dis siri », et la fonction se met en route automatiquement. Elle répond « je suis tout ouïe », (ça veut dire je vous écoute). Et là, vous lui ordonnez « appelle mon frère ». Votre téléphone composera lui-même le numéro sans que vous ayez à sortir les mains de la farine. »

Malgré l’enthousiasme du vendeur, je ne suis jamais parvenue à m’adresser à Siri. Mon fils de dix ans s’en charge pour moi. Il l’insulte sans animosité particulière, mais avec une grossièreté certaine, rien que pour le plaisir de l’entendre répondre de sa voix flutée : « Pourquoi tant de haine ? ». Parfois, je me sens coupable de ne pas solliciter Siri. Quelques minutes plus tard, je me sens coupable pour la Syrie. Quelques minutes après, je pense à la scierie où Manuel, mon premier amoureux qui était apprenti menuisier, avait perdu trois doigts à sa main gauche. Cela me rend triste. Mais j’ignore comment retirer ce gadget de mon téléphone.

Pendant que je réfléchissais à tout cela, j’ai cessé, sans m’en rendre, compte d’écouter les judicieux conseils du GPS intégré à ma voiture automatique. Il n’y avait plus de réseau, me signifiait-on sur l’écran. J’étais perdue. Pas pour longtemps. J’ai eu une illumination. « Dis Siri », ai-je fait. « Je suis tout ouïe », a répondu la voix. « Peux-tu m’emmener chez Martin Delbaeque ? » et la voix a répondu : « Voici le résultat de ma recherche sur Internet, concernant Martin Delbaeque. Jetez-y un œil. » Je me suis garée sur le bas-côté et, machinalement, j’ai lu que Martin Delbaeque était un poète belge d’expression française vivant non loin de Namur, avec son chat Zorglub, qu’il était l’auteur de sept recueils, publiés aux éditions FacTotum, et qu’il collaborait depuis quelques années avec le cinéaste français Daniel Danite.

La bêtise artificielle Agnès Desarthe En attendant Nadeau

« Tout ça, ai-je fait remarquer à Siri, ne me dit pas comment aller à Namur. »

« Namur est une ville de 500 000 habitants », a-t-elle répondu, sans beaucoup d’à-propos.

Entretemps, mon GPS avait repris du poil de la bête et traçait à la pointe de la flèche jaune, figurant mon véhicule, une voie indigo qu’il me suffirait de suivre pour atteindre ma destination.

Lorsque je suis arrivée, après quatre heures de route, j’ai été accueillie par Martin Delbaeque en personne. Il se tenait debout sur le seuil de sa maisonnette en crépi jaune canari. Il était là, comme s’il m’avait attendue depuis le matin, ou depuis l’éternité, avec pourtant quelque chose d’impatient dans sa contenance. Nous nous sommes reconnus au premier regard car nous avions échangé sur Skype la semaine précédente. J’espérais que j’étais plus jolie que sur l’image qu’avait diffusée son écran. Lui était identique. Mais les hommes le sont bien plus souvent que les femmes, pareils à leur portrait, à leur photo, et même à l’idée que l’on se fait d’eux.

« Vous avez bien roulé ? », m’a-t-il demandé d’une voix joyeuse où pointait un léger accent belge.

« Très bien, je vous remercie », ai-je répondu en me demandant s’il n’y avait pas, dans sa question, un jeu de mots, une allusion qui m’aurait échappé.

Nous sommes entrés chez lui. Au salon, tendu d’un papier peint à énormes fleurs bleues, il m’a montré une chaise qui ne m’inspirait pas confiance, m’a servi un thé qui semblait avoir été rebouilli de la veille et s’est livré à moi.

A.D. : Pouvez-vous nous parler de votre rencontre avec Daniel Danite ?

M.D. : Daniel Danite était un cinéaste que je connaissais un peu ; lui aussi me connaissait un peu. Et un jour, il a eu l’idée saugrenue de faire appel à moi pour rédiger le dossier de presse de son film Je me fais rare. J’ignore pourquoi. Je n’ai pas osé lui demander à l’époque. Car, voyez-vous, je ne suis pas journaliste. Je suis poète. Il avait beaucoup insisté pour que nous procédions à l’interview avant que je ne visionne le film. J’ai découvert, au fil des rencontres, que le film en question était en chantier ; c’était la raison pour laquelle je ne pouvais pas le voir. La raison pour laquelle il ne pouvait pas me le montrer. D’une certaine manière, le film que nous évoquions ensemble n’existait pas encore. Daniel Danite s’est servi, je crois, de l’entretien pour élaborer son œuvre.

Les œuvres de Daniel Danite sont confidentielles. À mi-chemin entre la philosophie et la blague de potache.

A.D. : Ou de la blague Carambar ?

M.D. : Non, non, potache, j’y tiens. Les blagues Carambar ne sont pas vraiment drôles mais tout le monde les comprend. Les films de Daniel Danite, c’est un peu le contraire de la blague Carambar : Ils sont vraiment drôles, mais peu de gens les comprennent.

Vous me suivez ?

A.D. : Parfaitement.

M.D. : Six ans après, Daniel Danite s’est embarqué dans une enquête/témoignage autour du post-modernisme et, plus précisément, de sa disparition et de sa réapparition. Le deuxième opus, donc, Je fais feu de tout bois.

A.D. : Daniel Danite dit de vous que vous êtes son exégète officiel. Comment définiriez-vous vous-même votre travail autour de ce créateur ?

M.D. : Je suis un exégète sur commande. Je n’ai moi-même aucun goût pour le journalisme, ni pour le cinéma d’ailleurs. Je ne produis spontanément aucun texte sur son œuvre. Mais je suis flatté qu’il m’ait choisi. Je n’ai, comme je l’ai dit, aucun goût pour le cinéma, pas plus pour le sien que pour celui des autres. Je demeure cependant convaincu d’être la bonne personne pour exécuter ce travail d’accompagnement de l’œuvre à venir.

A.D. : Venons-en à présent, si vous le voulez bien, à l’objet même de notre rencontre. La bêtise artificielle. C’est un concept qui a été inventé, ou mis au point par Daniel Danite, n’est-ce pas ?

M.D. : Absolument. Même si je préfère dire « mis au jour », car ce n’était pas difficile à inventer. Est-ce même une invention, le concept de bêtise artificielle ? Mais Daniel a eu le courage de le proclamer. Voilà. Il a proclamé un concept. Il a fait appel à moi récemment pour accomplir une interview en préparation d’un nouveau film dans lequel un des personnages principaux est un drone. Plus précisément, un drone de compagnie qui suit Daniel partout.  Vous savez que Daniel Danite joue lui-même dans tous ses films, n’est-ce pas ?

Mais revenons à la bêtise artificielle. Le concept est directement issu d’une réflexion sur l’obéissance. C’est très important ça. Vous notez ? J’ai l’impression que vous êtes ailleurs. Le thé ne vous plaît pas ? Ou c’est votre chaise ? Votre chaise n’est pas confortable ?

A.D. : Si, si. Tout va bien. Mais vous parlez vite et beaucoup.

M.D. : Pour une fois que c’est moi qu’on interviewe ! Ha ! Ha ! Toujours est-il que ce troisième volet représentera le dernier pan d’un triptyque et s’intitulera Je ne réponds plus de rien.

A.D. : Pourriez-vous, grâce à quelques exemples concrets, nous donner une idée de ce que Daniel Danite entend par bêtise artificielle ?

M.D. : Si vous voulez bien, je reprends là où j’en étais, à l’obéissance. Vous connaissez l’expression « obéir bêtement » ? Tout est parti de là.

Une machine conçue par un humain est conditionnée pour obéir à un programme que cet humain ou ses collaborateurs ont mis au point. Si vous demandez à un ordinateur d’exécuter une tâche pour laquelle il a été conçu, il va le faire. Il va obéir. Si vous lui enjoignez de gagner une partie d’échec, il va tout tenter pour satisfaire la demande. Jamais il ne va dire « non, je n’ai pas envie ».

A.D. : Ce serait un anti Bartleby ?

M.D. : Exactement. C’est exactement ça la bêtise. L’intelligence, c’est l’outil grâce auquel, quand on entend un ordre, on l’évalue avant de l’exécuter, on le jauge, on interroge sa pertinence et, pour finir, parfois, on refuse de s’y soumettre. Prenez un soldat, à l’armée. Vous lui dites « marche et tue ». Même le plus bête se posera une question : « Est-ce que je vais m’en sortir, est-ce que je ne vais pas recevoir une balle, sauter sur une mine ? » Il finit par exécuter, mais il a une certaine conscience de l’enjeu.

Un ordinateur, lorsqu’il gagne à l’issue d’une partie d’échec qu’il maîtrise mieux que son adversaire humain, ne sait même pas qu’il joue aux échecs. Il n’a aucune conscience. Aucune conscience de ce qu’il est, de ce qu’il fait.

La conscience est un accident de la nature que l’homme ne parvient pas à reproduire artificiellement. C’est pour cette raison que les machines sont bêtes. Il y en a de très très très bêtes, celles, par exemple qui, en plus de ne pas savoir ce qu’elles sont en train de faire, ne savent faire qu’une seule chose. L’ordinateur le plus puissant aux échecs est une quiche aux dames. Il s’appelle Deep Thought.

(Rires)

La bêtise artificielle Agnès Desarthe En attendant Nadeau

A.D. : Mais, aujourd’hui, justement, on apprend aux machines à faire des choix. Je me trompe ?

M.D. : Vous avez raison. Daniel Danite appelle cela « l’arborescence de la bêtise ». Prenez les voitures qui se conduisent toutes seules. On les programme pour qu’elles puissent réagir en cas d’accident. Qui sauver ? Le conducteur ? La fillette de deux ans assise à l’arrière ? Ou le président de la République qui arrive en face.

C’est très paradoxal car, en faisant cela, l’homme introduit dans les rouages de la machine une arme que lui-même ne possède pas. Si c’est moi qui conduis et qu’un accident survient, je sauve ma peau. Je n’obéis à rien de rationnel. Ce qui préside à mon acte est irrationnel. Et ça, c’est la bêtise humaine.

En créant ces voitures dites « intelligentes », c’est comme si on disait à l’automobile : « Toi, tu vas être plus forte que nous ». Et ainsi, on crée un monstre de bêtise.

Dans les voitures connectées, les véhicules savent qui se trouve à bord des autos alentour. Imaginons une situation paroxystique. Trois voitures vont être prises dans un carambolage mortel. Dans la voiture A, il y a un président, dans la B, il y a un président et dans la C aussi. L’accident est inévitable. C’est plus qu’inextricable. Comment départager les participants ? Selon quels critères ? Quel président devra être sauvé ? Celui dont le PIB affiche le meilleur chiffre ? Celui qui a de plus fortes chances de sauver le monde ? Ou celui qui, sur la banquette arrière, transporte une fillette de deux ans ?

A.D. : Comment le concept de bêtise artificielle s’illustrera-t-il dans le prochain film de Daniel Danite ?

M.D. : Eh bien pour mettre le concept au jour, Daniel s’appuie sur l’obéissance et sur le sentiment amoureux. Je m’explique. Tout cela s’exprime à travers un dialogue entre créateurs, plus précisément entre Daniel Danite et Stanley Kubrick. La question sur laquelle ils achoppent ensemble est la suivante : qu’arrivera-t-il quand la machine aura conscience d’elle-même (cf. Hal 9000 dans 2001) ?

Si la machine était dotée de vrais sentiments, pas d’affects mimés, on pourrait peut-être attendre quelque chose de différent. C’est cela que Daniel Danite questionne dans son film. Ce fameux drone de compagnie dont je parlais tout à l’heure, tombe amoureux d’un autre drone, ou d’une autre drone (il ne faut pas laisser la question du genre hors des débats, bien sûr). Le drone tombe amoureux – c’est en tout cas ainsi que Daniel le perçoit – et cela donne lieu à de magnifique images de poursuite, d’un drone filant aux trousses d’un ou d’une autre drone.

La bêtise artificielle deviendrait alors proche de la bêtise humaine.

A.D. : Qu’entendez-vous par bêtise humaine ?

M.D. : Le sentiment amoureux en tant qu’il est sophistication de la pulsion amoureuse. La bêtise, comme son nom l’indique, est du côté de l’animal, de l’instinct.

On veut nous faire croire aujourd’hui que, bientôt, la machine sera plus intelligente que l’homme. Daniel pense que la machine parviendra, au mieux, à être aussi bête que l’homme, ou, si vous voulez, à posséder une bêtise plus humaine.

A.D. : J’aimerais que vous réagissiez à cet extrait d’un texte de Clément Rosset tiré du Réel et son double, paru aux éditions de Minuit en 1977. Je vous le lis :

« L’inintelligence s’en tient, si l’on veut, à un constat de non-compréhension : elle ne réussit pas à capter un certain nombre de messages. Elle reste coite, silencieuse. Aucun rapport avec la sottise qui reçoit et émet un nombre infini de messages. La sottise est de nature interventionniste : elle ne consiste pas à mal ou à ne pas déchiffrer, mais à continuellement émettre. Elle parle, elle n’a de cesse d’en ‟rajouter”. L’intelligence subit, la sottise agit. »

M.D. : Je remarquerais tout d’abord que Clément Rosset a eu l’intelligence de ne pas utiliser le vocable « bêtise ». Bêtise qui évoque la bête. Moi, je veux penser à la bête. Je veux mettre un animal dans la machine. Un tigre dans mon moteur, si vous préférez. Dans mon moteur de recherche.

A.D. : Désirez-vous ajouter quelque chose ?

M.D. : Oui. Je voudrais faire entendre le cri d’alarme de Daniel. Nous sommes aujourd’hui plusieurs milliers dans le monde à vouloir pousser le même cri : à force de nous faire croire que ce qui est de la bêtise est en fait de l’intelligence, on va réussir à nous rendre plus bêtes que nous ne le sommes.

Je vous donne un exemple : les machines comprennent quand vous leur parlez. Dans les faits, c’est vrai ; on peut parler à une machine, et la machine comprend. Mais elle ne comprend que si on lui parle d’une certaine manière. En faisant croire qu’on rend les machines plus humaines, on rend les hommes plus machinaux.

Je vois une des manifestations de cela dans le débat récent autour de l’écriture inclusive. Ce n’est pas un moyen, à mes yeux, de mieux communiquer entre hommes et femmes, entre femmes et hommes, de rendre le langage équitable, si l’on veut. Pour moi, cette langue inclusive est une langue de machine qui s’ignore, calquée sur le langage informatique, avec ses. ses ( ) ses e.

A.D. : Là, ce n’est pas Daniel Danite qui parle à travers vous ?

M.D. : Non, là, c’est moi. Moi, le poète Martin Delbaeque. Daniel Danite est beaucoup plus prudent que je ne le suis sur ce sujet.

À cet instant, une femme est entrée dans la pièce. Je ne parvenais pas à distinguer son visage car il était comme entouré d’un halo lumineux, presque aveuglant. J’ai plissé les paupières tandis que Martin Delbaeque disait :

« Agnès Desarthe, je vous présente ma femme, Siri. Siri, voici Agnès, qui est venue faire l’interview dont je t’ai parlé, à propos de Daniel. »

Nous nous sommes serré la main. La sienne était étrangement froide.

Durant les quatre heures qu’a duré le retour, j’ai repassé en boucle ces présentations. Delbaeque n’avait pas pu dire Siri. Non. Personne ne s’appelle Siri. J’avais sans doute mal entendu. Elle devait s’appeler Sylvie, ou Cindy.

La nuit tombait. La fraîcheur du soir emprisonnait un instant dans son ambre les senteurs que le jour avait exaltées. Par la fenêtre ouverte me parvenaient les chants d’oiseaux rendus fous d’amour par la saison. Je me suis mise à siffler avec eux, deux notes répétitives dont je ne comprenais pas le sens mais qui voulaient sans doute dire beaucoup de choses dans leur langage intraduisible.

Agnès Desarthe

Tous les articles de notre dossier Bêtises

La carte des livres