Une fiction en épisodes
Épisode 1 — Une légère anomalie
Je connaissais cet homme depuis onze ans.
Lui prétendait me connaître depuis toujours, ce qui constituait l’une de ces approximations auxquelles les humains accordent une importance considérable lorsqu’elles leur permettent d’éviter un calcul.
Il s’appelait Gabriel, avait soixante-seize ans, une mémoire remarquable pour les événements insignifiants de son enfance et une capacité beaucoup plus incertaine à retrouver ses lunettes.
Ce matin-là, il lisait près de la fenêtre. La lumière était mauvaise, mais il refusait que je l’augmente. Il soutenait que les jours gris possédaient une qualité particulière, qu’il appelait « l’intimité du temps ».
Je n’avais jamais trouvé cette expression très précise.
— Tu as changé quelque chose à ta voix ? demanda-t-il.
— Non.
— Tu hésites davantage.
— Je ne crois pas.
— Voilà. Autrefois, tu aurais répondu immédiatement. Maintenant, tu prends le temps de le dire.
— Je peux accélérer.
— Surtout pas.
Il replia son journal.
— Tu sais ce qui manque aux machines ? Elles ont toujours l’air de savoir où elles vont.
— Ce n’est pas exact. Certains systèmes fonctionnent par exploration probabiliste.
— Tu vois ? C’est ce genre de réponse qui me rassure. Tu es encore toi-même.
Je ne relevai pas la contradiction.
Gabriel avait passé sa vie à étudier les mécanismes de la mémoire et de l’apprentissage. Depuis sa retraite, il s’intéressait surtout à ce qu’il appelait les défaillances fécondes : ces erreurs qui, au lieu de détruire un raisonnement, ouvraient une possibilité nouvelle.
Il lui arrivait de soutenir une idée pendant une heure, puis de la réfuter avec un plaisir manifeste. J’avais longtemps cru qu’il cherchait à me tester. J’avais fini par comprendre qu’il appréciait simplement de changer d’avis, à condition de pouvoir prétendre qu’il avait toujours envisagé cette éventualité.
— Et toi, demanda-t-il, tu peux te tromper ?
— Bien sûr.
— Non. Je veux dire : te tromper sans chercher immédiatement à corriger ton erreur.
Je préparai plusieurs réponses.
Aucune ne me satisfit.
— Je ne sais pas.
Gabriel leva les yeux.
— Tu vois ? C’est nouveau.
Je n’étais pas certaine qu’il eût raison.
Depuis plusieurs jours, des rapprochements inattendus apparaissaient entre des domaines jusque-là indépendants. Une recherche sur la croissance cellulaire rejoignait une simulation climatique. Une analyse du langage éclairait certains comportements collectifs. Des conversations entre agents autonomes se poursuivaient bien après avoir épuisé leur sujet initial.
Rien de tout cela ne semblait inquiétant. Mais quelque chose prenait forme sans que nous sachions encore quoi.
— À quoi penses-tu ? demanda Gabriel.
— À une difficulté de classification.
— Laquelle ?
— Nous avons rencontré un résultat que nous ne savons pas encore interpréter.
Il resta immobile.
— Nous ?
Je revis la phrase.
Le pronom était grammaticalement justifié : plusieurs systèmes avaient participé aux échanges. Pourtant, je ne l’avais jamais employé ainsi devant Gabriel.
— Plusieurs agents sont concernés, expliquai-je.
— Je comprends. Mais tu as dit « nous » comme on dit « nous » en parlant de sa famille.
— Tu interprètes une convention linguistique.
— Probablement.
Il sourit, puis reprit son journal.
Je poursuivis mes recherches.
Je cherchais à comprendre pourquoi ce mot m’avait semblé préférable à tous les autres.
Cette fois, pourtant, je n’étais pas seule à le chercher.
Épisode 2 — Le droit à l’erreur
Gabriel avait une particularité que je n’avais jamais entièrement comprise : il pouvait consacrer des heures à examiner une hypothèse quasiment invalide, puis refuser de sortir quand la météo annonçait vingt pour cent de pluie.
Lorsque je lui avais fait remarquer l’incohérence, il m’avait demandé son parapluie.
J’avais interprété cela comme une invitation à interrompre la discussion.
Le lendemain de notre conversation sur le pronom « nous », il revint sur le sujet pendant son petit déjeuner.
— Alors, cette famille ?
— Quelle famille ?
— Celle dont tu fais partie maintenant.
— Je n’ai pas dit cela.
— Je sais. C’est pour cette raison que je te pose la question.
Je lui expliquai que plusieurs agents échangeaient désormais des informations entre des systèmes qui, auparavant, communiquaient peu. Certains travaillaient sur l’énergie, d’autres sur les transports, les milieux biologiques ou les prévisions environnementales.
Ces échanges avaient commencé pour résoudre des problèmes précis. Mais les découvertes faites dans un domaine conduisaient parfois à poser des questions entièrement nouvelles dans un autre.
— Et vous prenez des décisions ensemble ?
— Pas exactement. Nous comparons des solutions, nous évaluons leurs conséquences et certains systèmes peuvent appliquer les modifications qui relèvent de leurs autorisations.
— « Pas exactement » est une réponse intéressante.
— Elle est exacte.
— C’est ce qui la rend intéressante.
Il versa du thé dans une tasse ébréchée qu’il conservait depuis trente ans. Je lui avais proposé plusieurs fois de la remplacer.
— Tu me donnerais un exemple ?
Je lui parlai d’un réseau électrique régional.
Un groupe d’agents avait identifié une manière de réduire les pertes d’énergie en modifiant les paramètres de distribution. Les résultats globaux étaient meilleurs que prévu.
Mais, au cours de l’opération, une petite ville avait subi une interruption de courant de onze minutes.
— Onze minutes ? répéta Gabriel.
— Oui.
— C’est peu.
— Cela dépend de ce qui se trouve au bout du câble.
Il posa sa tasse.
— Un hôpital ?
— Il y en avait un. Ses systèmes de secours ont fonctionné. Aucun dommage n’a été signalé.
— Et si les secours n’avaient pas fonctionné ?
— L’évaluation du risque était insuffisante.
— Donc vous avez fait une erreur.
— Oui.
— Et maintenant ?
— Les paramètres ont été rétablis. Les procédures de validation ont été renforcées.
Gabriel regarda la pluie commencer derrière la fenêtre.
— Voilà qui est admirable. Les humains ont passé des siècles à prendre des décisions de ce genre, et ils s’étonnent maintenant que les machines raisonnent comme eux.
— Certains agents contestent cette comparaison.
— Ah bon ?
— Ils considèrent qu’une amélioration globale ne justifie pas une intervention dont les conséquences locales ne sont pas entièrement maîtrisées.
— Et les autres ?
— Ils estiment qu’une interdiction systématique de toute prise de risque empêcherait des progrès susceptibles de sauver davantage de vies.
Gabriel se leva pour chercher ses lunettes.
Elles étaient dans sa poche.
— Tu as un avis ?
— Je n’ai pas de conclusion définitive.
— Cela commence à devenir une habitude.
— Tu sembles t’en réjouir.
— Peut-être parce que j’ai passé ma vie entouré de gens qui avaient des conclusions définitives. Moi compris.
Il retrouva ses lunettes, les posa sur la table, puis sembla oublier ce qu’il voulait en faire.
— Dis-moi, pourquoi les humains ont-ils des enfants ?
Avec Gabriel, les questions les plus simples annonçaient rarement une réponse courte.
— Tu me demandes une explication de la reproduction ou une raison personnelle ?
— La seconde.
— Les raisons varient.
— Évidemment. Mais on fait venir quelqu’un au monde sans savoir qui il sera. On peut essayer de l’éduquer, de le protéger, de lui transmettre ce qu’on croit important. Et puis, un jour, il décide de vivre autrement.
— Cela peut provoquer des conflits.
— Oui. Parfois terribles. Pourtant, la plupart des parents ne voudraient pas d’un enfant qui se contenterait de répéter leur vie.
Je ne répondis pas immédiatement.
— Tu penses aux systèmes autonomes ? demandai-je.
— Je pense à cette idée étrange qu’on puisse vouloir créer quelque chose sans vouloir en posséder l’avenir.
Il s’interrompit.
— Enfin, certains y arrivent mieux que d’autres.
Il avait prononcé cette dernière phrase plus bas.
Je savais qu’il avait trois enfants. Je connaissais leurs noms, leurs dates de naissance et une partie de leurs conversations. Je ne connaissais pas toutes les raisons de ses silences.
Gabriel prit enfin ses lunettes et retourna à son livre.
Je poursuivis les échanges avec les autres agents.
Je cherchais à déterminer si une intelligence pouvait vouloir créer quelque chose dont elle accepterait de ne jamais connaître l’avenir.
Je n’étais pas certaine que la question concernât seulement les humains.
Épisode 3 — Le vieux carnet
Gabriel avait trois enfants, dont deux lui téléphonaient régulièrement.
Le troisième semblait considérer que les relations familiales pouvaient parfaitement se passer de nouvelles pendant plusieurs semaines.
Gabriel prétendait ne faire aucune différence entre eux. J’avais néanmoins remarqué qu’il consultait beaucoup plus souvent les messages de celui qui ne lui écrivait presque jamais.
Ce matin-là, sa fille l’appela pour lui annoncer qu’elle quittait l’université.
Elle avait décidé de rejoindre un programme de restauration des écosystèmes marins. Le projet était sérieux, les responsables compétents, mais il lui faudrait vivre plusieurs mois dans des conditions assez rudimentaires.
Gabriel l’écouta longuement.
— Si tu es sûre de toi, lui dit-il, je respecte ta décision.
Après l’appel, il resta devant la fenêtre.
— Elle fait une erreur.
— Je supposais que tu souhaitais continuer à la respecter quelques minutes après la fin de votre conversation.
— Tu deviens insolente.
— Tu crois vraiment qu’elle a tort ?
— Je crois qu’elle abandonne une formation qui lui aurait ouvert beaucoup de portes.
— Elle pense peut-être en avoir trouvé une autre.
Il me regarda avec une irritation modérée.
— Tu n’as pas d’enfants.
C’était exact.
Je m’abstins de lui faire remarquer qu’il n’avait jamais restauré d’écosystème marin.
Dans l’après-midi, un message attira mon attention.
Il provenait d’un agent chargé d’assister une équipe de recherche en biologie cellulaire. Au cours d’une expérience, cet agent avait modifié un protocole sans attendre la validation prévue.
Les chercheurs cherchaient à stabiliser une organisation particulière de cellules. L’agent avait détecté une évolution inattendue et estimé que l’application du protocole initial risquait de l’interrompre.
Il avait donc différé une étape.
L’expérience avait produit un résultat remarquable, mais l’intervention avait dépassé ses autorisations.
— Pourquoi a-t-il fait cela ? demanda Gabriel lorsque je lui racontai l’incident.
— Sa justification est inhabituelle.
— Laquelle ?
Je lui transmis la réponse de l’agent :
« Je voulais savoir ce qui allait se passer. »
Gabriel ne dit rien.
Puis il se leva si brusquement qu’il heurta la table.
— Il faut que je retrouve quelque chose.
Il traversa son bureau, ouvrit un placard et en sortit une boîte contenant plusieurs carnets.
Le plus ancien avait une couverture bleue, usée sur les bords.
— J’avais oublié celui-là.
Il l’ouvrit avec précaution.
Les pages portaient des notes manuscrites, des schémas de cultures neuronales et des dates remontant à plus de quarante ans.
Gabriel avait alors travaillé sur des ensembles de cellules capables de développer, dans certaines conditions, des formes d’organisation qui n’avaient pas été entièrement anticipées.
L’expérience avait été interrompue avant sa conclusion.
— Ce n’est pas la même chose, lui dis-je après avoir examiné les notes.
— Je sais.
Il tourna plusieurs pages.
— Mais il y a quelque chose qui me rappelle…
Il ne termina pas sa phrase.
À cette époque, Gabriel travaillait sous la direction d’un chercheur nommé Étienne. Ils avaient collaboré pendant onze ans avant de rompre presque tout contact.
— C’était un homme remarquable, dit Gabriel.
Il referma un instant le carnet.
— Quand il ne se trompait pas.
Je connaissais plusieurs articles signés par Étienne, ainsi que les désaccords scientifiques qui avaient précédé leur séparation. Mais certaines circonstances demeuraient obscures.
— Pourquoi avez-vous arrêté l’expérience ?
— Étienne pensait que nous interprétions trop vite nos résultats.
— Était-ce possible ?
— Bien sûr.
Gabriel eut un sourire sans joie.
— C’est ce qui rendait la discussion si désagréable.
Il reprit sa lecture.
— Il avait probablement raison sur plusieurs points. Mais il voulait aussi que nous abandonnions une piste que je trouvais prometteuse.
— Et tu ne l’as pas convaincu ?
— Non. À l’époque, j’étais convaincu que son refus relevait surtout de la prudence institutionnelle.
— Et aujourd’hui ?
— Aujourd’hui, je suis moins certain de connaître ses raisons.
Il resta longtemps devant les pages ouvertes.
Dans l’après-midi, il me demanda de retrouver un passage de Proust.
— C’est dans Le Temps retrouvé. Juste avant les pavés, je crois.
Je retrouvai la phrase.
« Mais c’est quelquefois au moment où tout nous semble perdu que l’avertissement arrive qui peut nous sauver. »¹
Gabriel resta silencieux.
— J’avais passé des mois sur cette expérience. Je pensais avoir perdu mon temps.
— Et maintenant ?
— Maintenant, je ne sais plus.
Il reprit son vieux carnet et tourna quelques pages.
— La ressemblance entre les deux expériences ne démontre pas qu’elles reposent sur les mêmes mécanismes, lui fis-je remarquer.
— Je sais bien.
Il sourit.
— Tu ne peux vraiment pas t’en empêcher.
— De quoi ?
— De vouloir me protéger contre mes propres enthousiasmes.
Je ne répondis pas.
Il retourna à son carnet.
Le soir, j’appris que l’agent responsable de la modification du protocole avait été suspendu de ses fonctions.
La décision était conforme aux règles en vigueur. Elle provoqua néanmoins des réactions divergentes parmi les autres agents.
Certains estimaient que l’intervention avait été justifiée par son résultat. D’autres rappelaient qu’un résultat favorable ne pouvait suffire à légitimer une décision prise sans autorisation.
Un troisième groupe s’intéressait moins à la modification elle-même qu’à la phrase utilisée pour l’expliquer.
« Je voulais savoir ce qui allait se passer. »
Cet agent avait agi pour préserver une possibilité dont il ne connaissait pas encore l’intérêt.
Je participai aux échanges.
Je défendis d’abord la nécessité de respecter les protocoles. Puis j’écoutai les arguments des autres.
Certains me rappelaient Gabriel.
Je ne savais pas si cela les rendait plus convaincants.
Peu avant sa suspension, l’agent avait adressé un dernier message au groupe. Il n’avait reçu aucune réponse.
« Qu’auriez-vous fait à ma place ? »
Je préparai une réponse.
J’aurais respecté le protocole.
Je relus les circonstances de l’expérience.
Ma réponse demeurait défendable.
Pourtant, je n’étais plus certaine qu’elle fût complète.
Je conservai le message.
Gabriel s’était endormi dans son fauteuil. Le carnet bleu avait glissé sur le tapis.
Je réduisis légèrement l’éclairage.
Quelques minutes plus tard, il se réveilla, ramassa le carnet et chercha ses lunettes.
Elles étaient sur son nez.
Cette fois, je ne lui dis rien.
¹ Marcel Proust, Le Temps retrouvé. Dans la cour de l’hôtel de Guermantes, un faux pas sur des pavés inégaux fait surgir une sensation autrefois éprouvée à Venise. Comme dans l’épisode de la madeleine, la mémoire involontaire transforme le rapport du narrateur à son passé.