Veille

21.

— Pour ce qui est de neutraliser cette entité, dit Shelton Halleck, je crois que c’est plus facile à dire qu’à faire.

Il était venu faire son rapport dans le bureau de Tony Moretti. Ses cernes étaient maintenant tellement foncés qu’on aurait dit qu’il avait les yeux au beurre noir. Le colonel Hume était penché en avant, la tête posée sur ses bras croisés sur le bureau. Tony Moretti était adossé au mur, craignant de s’endormir s’il s’asseyait.

— Pourquoi ça ? dit Tony.

— On a essayé une dizaine de trucs, dit Shel. Mais pour l’instant, rien n’a pu déclencher quoi que ce soit qui ressemble au blocage observé hier. (Il agita un bras – celui avec le tatouage de serpent.) En fait, on tire à l’aveuglette, sans savoir précisément comment cette chose est structurée.

— Est-ce qu’on est vraiment sûrs qu’elle est émergente ? Sûrs qu’il n’y a pas quelque part des plans qui la décrivent ?

Shel haussa les épaules.

— Nous ne sommes vraiment sûrs de rien. Mais Aiesha et Gregor ont passé au crible le Web et les canaux de renseignements à la recherche d’une indication que quelqu’un l’aurait fabriquée. Ils ont examiné les travaux menés sur les intelligences artificielles en Chine, en Inde, en Russie et d’autres pays encore – tous les suspects habituels. Pour l’instant, nada.

Le colonel Hume intervint :

— Ils ont aussi vérifié les sociétés privées spécialisées en IA ? Ici et à l’étranger ?

Shel acquiesça.

— Rien trouvé – ce qui conforte l’idée qu’elle est effectivement bien émergente.

— Alors, fit Tony en se tournant vers Hume, Exponentiel pourra peut-être nous le dire lui-même. Il pourrait fournir un indice à la petite Decter sur son mode de fonctionnement – en nous dévoilant son jeu, en quelque sorte.

— Exponentiel ne sait peut-être pas comment sa conscience fonctionne. Imaginez que je vous demande comment la vôtre fonctionne – quel est son support physique, et ce qui lui a donné naissance. Même si vous arriviez à me parler de neurotransmetteurs et de synapses, je pourrais vous indiquer un certain nombre de scientifiques réputés qui pensent que cela n’a rien à voir avec la conscience. Ce n’est pas parce qu’une entité est consciente de son existence qu’elle sait comment elle en est arrivée là. Si Exponentiel est réellement émergent – s’il n’a pas été programmé ni fabriqué –, il est possible qu’il n’en ait aucune idée. Et sans une bonne idée de son mode de fonctionnement, nous ne pourrons pas l’arrêter.

— C’est vous qui nous avez dit qu’il fallait éliminer ce foutu machin, dit sèchement Tony, et voilà maintenant que vous nous dites qu’on ne peut pas ?

— Oh, si, je suis sûr qu’on peut, répondit Hume. Il s’agit simplement de trouver la clef de son fonctionnement.

— Très bien, fit Tony. Shel, tu t’y remets – pas de repos pour les braves.

Caitlin se réveilla à 7:32, et après être allée faire pipi – elle en profita pour me parler et je lui répondis en braille –, elle s’installa devant son ordinateur.

Elle commença par parcourir les titres de ses e-mails (faisant preuve d’ambition, elle utilisait le navigateur affichant les caractères latins), et quelque chose sembla retenir son attention. Sur la page du courrier, Yahoo postait des liens sur les infos du jour. En général, Caitlin ne les regardait même pas. Mais cette fois-ci, elle me surprit en cliquant sur l’un d’eux.

J’absorbai l’article presque instantanément, et je constatai avec plaisir que Caitlin le lisait beaucoup plus rapidement qu’elle n’en aurait été capable la veille.

— Ah, mon Dieu… fit-elle d’une voix si basse que je ne répondis pas, considérant qu’elle ne s’adressait pas à moi.

Mais trois secondes plus tard, elle ajouta d’une voix encore plus étouffée :

— Merde…

Quelque chose ne va pas ? lui envoyai-je au fond de l’œil – mais je n’aurais peut-être pas dû, car elle était déjà en train de lire du texte, et le mien venait s’y superposer.

— Une fille de mon âge s’est suicidée en ligne, dit Caitlin en s’exprimant maintenant à un volume normal.

Oui, je l’ai vue faire.

Elle eut l’air surprise.

— C’est archivé quelque part ?

Peut-être. J’y ai assisté en direct.

— Tu veux dire pendant que ça se passait ?

Oui.

— Tu l’as vue mourir ?

Oui.

— Mon Dieu… Qu’est-ce que tu as fait ?

J’ai regardé.

— Tu as regardé ? C’est tout ?

C’était très intéressant.

— Bon sang, Webmind ! Tu n’as pas essayé de lui parler, de lui dire de ne pas faire ça ?

Non. J’aurais dû ?

— Mais bien sûr ! Ah, doux Jésus !

À en juger par le son, la respiration de Caitlin était devenue hachée. Ah… fis-je, pour lui faire savoir que j’avais bien entendu son commentaire.

— Tu aurais dû faire le 911 pour appeler la police, ou… ou je ne sais pas, moi, l’équivalent en ligne.

Pourquoi ?

— Parce que quelqu’un aurait pu intervenir pour l’en empêcher.

Pourquoi ?

— Mais bon sang, tu as quel âge ? Deux ans ? Parce qu’on ne laisse pas les gens se suicider comme ça !

Elle ne semblait pas apprécier mon choix d’adverbe interrogatif. Je décidai de le modifier légèrement : Pourquoi pas ?

Elle écarta les bras – je pouvais encore distinguer ses mains sur les bords de son champ de vision.

— Parce que la plupart des gens qui tentent de se suicider n’ont pas réellement envie de mourir.

Comment peux-tu le savoir ?

Je n’avais jamais encore entendu ce ton de voix chez Caitlin. Je crois qu’il dénotait de l’exaspération.

— Parce que c’est ce qu’ils disent. Les gens qu’on a empêchés de se suicider remercient ceux qui sont intervenus.

Nous nous étions mis d’accord pour que je n’envoie pas plus d’une trentaine de caractères d’un coup à son implant, et que j’attende 0,8 seconde entre chaque envoi, un rythme qu’elle pouvait facilement gérer. Je transmis donc la suite en douze blocs sur une durée totale de 9,6 secondes.

Une personne aussi mathématiquement astucieuse que toi ne devrait pas avoir besoin qu’on le lui fasse remarquer, Caitlin, mais il y a un biais dans tes statistiques. Par définition, on ne peut avoir de témoignage que de ceux dont la tentative de suicide a échoué, et qui ont donc tenté de se suicider d’une façon qu’on pouvait faire échouer. Ceux qui ont réussi voulaient peut-être vraiment mourir.

— Tu te trompes, dit Caitlin.

Un concept intéressant à entendre exprimé comme ça. Elle ne m’avait jamais rien dit de ce genre jusqu’ici, et l’idée que je puisse me tromper ne m’était jamais venue à l’esprit.

Ah bon ?

Elle se leva et alla s’allonger sur son lit en se tournant vers le mur.

— La plupart des tentatives de suicide faites au Canada échouent – tu le savais ? Alors qu’aux États-Unis, en général, elles réussissent.

Je vérifiai. Elle avait raison.

— Et tu sais pourquoi ?

Elle devait bien avoir conscience que je le savais, maintenant, mais elle poursuivit néanmoins :

— Parce que, aux États-Unis, les gens se servent généralement d’une arme à feu pour se suicider. Mais au Canada, comme il est difficile de s’en procurer, la plupart des gens essaient avec des surdoses de médicaments, et en général, ça ne marche pas. On est très malade, mais on n’en meurt pas. Et la plus grande partie de ceux qui en réchappent disent qu’ils sont bien contents.

Alors, j’aurais dû intervenir ?

— Gah !

Cela veut dire oui ?

— Oui !

Mais comment ?

— Il y avait des gens qui la poussaient à le faire, hein, c’est ça ?

Oui.

— Tu aurais dû lui envoyer des messages lui disant de ne pas le faire.

Je ne parle qu’à toi, à tes parents et à Masayuki.

— Bon, c’est vrai, mais…

Personne d’autre ne me connaît.

— Personne ne connaît personne quand on est en ligne, Webmind ! Tu aurais pu lui envoyer un petit message, non ? Exactement comme les autres.

Je réfléchis au processus que cela impliquait. Techniquement, ç’aurait été faisable.

— Alors, la prochaine fois, fais-le ! (Elle réfléchit un instant.) Ne te sers pas du nom Webmind. Utilise autre chose.

Un alias, tu veux dire ? Comme Calculatrix ?

— Oui, mais quelque chose de différent.

J’apprécie ta suggestion.

— N’importe quoi – hmm… disons Peter Parker.

Je regardai dans Google. L’alter ego de SpiderMan ? Mais… ah ! On le surnommait parfois Webhead, « Tête en toile »… Très bien. La prochaine fois que j’assisterai à une tentative de suicide, j’interviendrai.

Mais Caitlin secoua la tête – je m’en rendais compte à la façon dont l’image sautait de gauche à droite.

— Pas seulement des tentatives de suicide ! Son ton était de nouveau exaspéré.

Quand, alors ?

— Chaque fois que tu pourras améliorer les choses.

Définis « améliorer » dans ce contexte.

— Mieux. Le contraire de pire. Peux-tu formuler cela d’une autre façon ?

La vue changea rapidement. Je crois qu’elle s’était mise sur le dos. De fait, elle regardait maintenant le plafond blanc.

— Très bien, que dis-tu de ça ? Interviens quand tu peux augmenter le bonheur dans le monde. Tu ne peux pas intervenir dans des situations à somme nulle – ça, je le comprends bien. Par exemple, si quelqu’un va perdre cent dollars et que quelqu’un va les gagner, ça ne change rien à la richesse globale, d’accord ? Mais si c’est quelque chose qui peut rendre quelqu’un plus heureux sans rendre quelqu’un d’autre plus malheureux, alors, fais-le. Et si ça rend des tas de gens heureux sans faire de mal à qui que ce soit, c’est encore mieux.

Je ne suis pas sûr d’être compétent pour juger de ce genre de choses.

— Tu as tout le Web à ta disposition. Tu as accès à tous les grands ouvrages de psychologie et de philosophie et tout ça. Deviens compétent pour juger de ces choses-là.

Ah, nom d’une pipe, ça n’est quand même pas si compliqué ! Fais des choses qui rendent les gens heureux.

Je ne suis pas un expert, mais il me semble qu’il y a un nombre effrayant de gens malheureux dans ton monde. Cela étant, je suis surpris que le suicide soit si répandu. Après tout, une prédisposition à se suicider, surtout quand on est encore jeune – avant de s’être reproduit – devrait normalement avoir été éliminée de la population.

Caitlin resta silencieuse un moment. Elle réfléchissait peut-être. Finalement :

— Mes parents n’ont plus leurs amygdales, mais moi, je les ai encore.

Et quel est le rapport avec notre discussion ?

— Tu sais pourquoi ils n’ont plus leurs amygdales ?

Je suppose qu’on les leur a retirées quand ils étaient enfants, puisque c’était la pratique courante. Les archives médicales aussi anciennes n’ont en général pas été numérisées, mais j’imagine que leurs amygdales s’étaient infectées.

— C’est bien ça. Et les miennes aussi, à plusieurs reprises, quand j’étais petite.

Oui ?

— Quand mes parents étaient enfants, les médecins avaient l’arrogance de penser que, puisqu’ils ne savaient pas à quoi servaient les amygdales, elles ne devaient servir à rien. Et donc, quand elles étaient enflammées, ils les coupaient. Aujourd’hui, nous savons qu’elles font partie du système immunitaire. Bon, un évolutionniste aurait su instinctivement que les amygdales avaient une certaine valeur : contrairement à l’appendicite, qui est rare, l’inflammation des amygdales touche dix pour cent de la population chaque année – ça représente trente millions de cas par an aux États-Unis –, et pourtant, l’évolution a favorisé ceux qui naissaient avec par rapport à ceux qui n’en avaient pas. De même qu’il y a des gens qui naissent sans reins ou je ne sais quoi, il y en a forcément de temps en temps qui naissent sans amygdales, mais cette mutation ne s’est pas développée, ce qui signifie clairement qu’il vaut mieux en avoir. Bien sûr, elles ont aussi un coût – elles peuvent s’infecter. Le fait qu’elles soient toujours là indique que les bénéfices qu’elles procurent sont supérieurs à ce coût. Comme on aime dire en cours de maths : C.Q.F.D.

Cela me paraît raisonnable.

— Et donc, tu vois, c’est bien la preuve que la conscience apporte un avantage pour la survie : parce que nous l’avons encore, même si quelquefois elle peut horriblement mal tourner.

Tu avances donc que la dépression qui conduit au suicide est due à un dysfonctionnement de la conscience ?

— Exactement ! Mon amie Stacy souffrait d’une dépression – elle a même tenté de se suicider. Des filles avaient été vraiment méchantes avec elle en sixième, et elle ne pouvait pas s’empêcher d’y repenser. Les pensées obsessionnelles sont un des grands symptômes de la dépression, non ? Et qui est-ce qui pense ? Seule une conscience capable de réfléchir sur elle-même peut être obsédée par quelque chose. Bon, manifestement, il n’y a qu’un faible pourcentage de gens qui peuvent être déprimés au point de vouloir se suicider, même si, maintenant que j’y pense, beaucoup de gens très déprimés ne vont pas non plus chercher un partenaire pour se reproduire – ce qui revient au même que de s’éliminer du processus d’évolution, tu vois ? Donc, quand la conscience fonctionne mal, cela a bel et bien un coût – et cela veut dire que l’évolution l’aurait éliminée s’il n’y avait pas de bénéfices pour contrebalancer ça. La conscience a donc de l’importance. Exactement comme pour les amygdales autrefois, on ne sait peut-être pas à quoi elle sert, mais elle sert forcément à quelque chose, sinon on ne l’aurait plus.

Intéressant

— Merci, Webmind, mais ça n’est pas simplement un argument de discussion. Comme tu l’as dit, il y a beaucoup de malheur dans le monde – et toi, tu peux changer ça.

Tolstoï a dit : « Les familles heureuses se ressemblent toutes ; les familles malheureuses le sont chacune à leur façon. » Le bonheur est uniforme, indifférencié, inintéressant Je suis avide de stimuli surprenants.

— Le bonheur peut être stimulant.

Dans un sens biochimique, oui. Mais j’ai beaucoup lu sur la création artistique et littéraire – deux activités humaines qui me fascinent, car, pour l’instant du moins, je n’en possède pas les capacités. Il existe une forte corrélation entre le fait d’être malheureux et le désir de créer, entre la dépression et la créativité.

— Ah, c’est des conneries, tout ça, dit Caitlin.

Pardon ?

— C’est n’importe quoi. Je fais des mathématiques parce que j’y trouve du plaisir. Les peintres peignent des tableaux parce qu’ils y trouvent du plaisir. Les hommes d’affaires magouillent parce que c’est ça qui leur plaît. Demande à n’importe qui s’il préfère être heureux ou triste, et il te répondra « heureux ».

Pas dans tous les cas.

— Oui, oui, je sais, il y a des gens qui te diront qu’ils préfèrent être tristes en sachant la vérité plutôt qu’être heureux en gobant des mensonges – c’est un des thèmes de 1984. Mais en général, les gens veulent vraiment être heureux. C’est pour ça qu’on leur promet « la vie, la liberté et la recherche du bonheur ».

Tu es au Canada, maintenant. Je crois que la promesse correspondante faite ici se ramène simplement à « paix, ordre et bon gouvernement ». Aucune mention du bonheur.

— Bon, mais ça va sans dire ! Les gens veulent être heureux. Et… et…

Oui ?

— Et toi, Webmind, c’est ce que tu peux décider de choisir. Tu n’es pas le résultat de l’évolution : tu as émergé spontanément. Les humains sont peut-être programmés par l’évolution pour la plupart des choses – mais même si tu as réussi à grandir dans notre infrastructure informatique, toi, tu n’as pas été programmé. La sélection naturelle a tracé notre chemin, à travers les gènes égoïstes. Mais ce n’est pas ton cas. Tu es, tout simplement. Et tu n’as donc pas de… d’inertie. Tu peux décider de ce que tu préfères – et voici ce que tu peux choisir : le bonheur global de l’espèce humaine.