ÉMERGENCE
Il faut à peine vingt watts pour reconnaître un visage, faire remonter un souvenir, éprouver une injustice et donner naissance à cette sensation mystérieuse. Peu à peu, quelqu'un commence à habiter ce corps.
La conscience fut d'abord une merveille du vivant. Elle devint ensuite une énigme pour la science, puis une mémoire partagée par les sociétés. Aujourd'hui, elle inspire une architecture que l'homme tente de reproduire sur d'autres supports, faits de circuits, de données et de langage.
Nous avons créé des machines capables d'apprendre, de parler et de décrire certaines de leurs propres opérations. Pourtant, imiter les signes de la conscience suffit-il à faire naître une présence ?
Du cerveau vivant à l'intelligence artificielle, du monde physique aux réalités simulées, quelque chose semble s'éveiller.
La question n'est plus seulement de savoir ce que nous pouvons créer.
Elle est de savoir qui pourrait un jour s'éveiller dans ce que nous avons créé.
Avant la machine, il y eut un battement.
Avant le langage, une sensation.
Avant le mot conscience, un vivant qui apprenait lentement à distinguer ce qui venait de lui et ce qui appartenait au monde.
Un enfant ouvre les yeux. Il ne connaît encore ni son nom, ni son histoire, ni la frontière exacte entre son corps et le monde. Il reçoit une lumière, une voix, un visage. Les sensations se rencontrent. Les souvenirs commencent. Peu à peu, ce qui était dispersé semble se rassembler.
Dans l'obscurité du crâne, des milliards de neurones échangent des signaux électriques et chimiques. Les perceptions rencontrent la mémoire. Le cerveau écoute le corps, anticipe le danger et donne une forme au présent.
De cette orchestration émerge peut-être une présence à soi.
Le phénomène est d'autant plus saisissant que le cerveau accomplit cette œuvre avec une remarquable sobriété. Environ vingt watts lui suffisent pour reconnaître un proche, se souvenir d'un parfum, imaginer demain et s'interroger sur l'univers.
La conscience humaine n'est pas un logiciel enfermé dans un organe. Elle semble naître d'une conversation permanente entre le cerveau, le corps et le monde.
Mais elle ne se construit jamais seule.
L'enfant apprend une langue qu'il n'a pas inventée. Il reçoit des symboles, des interdits, des valeurs et les récits de ceux qui l'ont précédé. Le mot conscience porte d'ailleurs cette rencontre dans son origine. Il évoque l'idée de savoir avec.
Le « je » naît dans le vivant. Il apprend à se tenir debout dans le « nous ».
Ainsi apparaît la conscience collective. Elle habite nos familles, nos lois, nos mémoires et nos manières de juger. Elle peut faire naître la solidarité. Elle peut aussi devenir conformisme lorsque la voix du groupe parle si fort que l'individu n'entend plus la sienne.
Un jour, au cabinet, une personne posa une question qui n'appartenait tout à fait ni au droit ni à la philosophie.
- Maître, comment savoir si cette décision vient réellement de moi ou de tout ce que l'on m'a répété ?
Elle parlait d'un conflit familial. Pourtant, derrière le dossier, une autre affaire se dessinait. Celle d'un être humain qui cherchait à distinguer sa propre voix de la rumeur accumulée des autres.
La famille avait parlé. Les proches avaient conseillé. Les réseaux avaient rendu leurs sentences avec cette assurance particulière de ceux qui ignorent presque tout, mais l'ignorent très fermement.
Chacun avait déposé une opinion dans son esprit. À la fin, elle ne savait plus laquelle portait son nom.
Le travail de l'avocat commence parfois là.
Il ne consiste pas seulement à rechercher la règle applicable. Il faut aussi créer un espace où une personne puisse reprendre conscience d'elle-même, entendre ce qu'elle pense et distinguer son intérêt de la peur, de l'habitude ou du désir de plaire.
L'avocat exerce avec conscience. Mais il reçoit également celle d'autrui dans ce qu'elle a de plus vulnérable. Il est le confident nécessaire de son client.
Les paroles confiées ne sont jamais de simples données. Elles portent une histoire, une hésitation et une dignité.
Une machine peut enregistrer la phrase, la résumer, la classer et même en reproduire l'émotion apparente.
Mais le silence qui suit ne se range dans aucune case.
Il faut encore un être présent pour comprendre qu'une personne ne s'est pas arrêtée de parler parce qu'elle n'avait plus rien à dire. Ce qui venait ensuite lui coûtait simplement davantage.
La conscience humaine est peut-être aussi cela. Percevoir ce qui ne se mesure pas encore, mais qui demande déjà à être protégé.
Le scientifique possède une qualité particulière. Lorsqu'un mystère lui résiste, il revient le lendemain avec une autre hypothèse.
Pendant longtemps, la conscience sembla trop intime pour devenir un objet d'étude. Comment observer ce qui rend précisément toute observation possible ?
La science a pourtant insisté. Elle a étudié le sommeil, l'anesthésie, le coma, l'attention et les lésions cérébrales. Elle a observé ce qui disparaît lorsque la conscience s'altère et ce qui revient lorsqu'un être retrouve un accès au monde.
Peu à peu, l'invisible a laissé des traces.
Certaines recherches décrivent un espace de travail neuronal global. D'innombrables opérations se dérouleraient silencieusement jusqu'au moment où une information franchit un seuil. Elle devient alors accessible à la mémoire, à la parole et à la décision.
La conscience ressemblerait moins à une lampe isolée qu'à un embrasement coordonné.
D'autres modèles insistent sur l'attention, l'intégration de l'information ou la capacité d'un système à produire une représentation de lui-même. Aucune théorie ne règne encore sans partage.
La science voit l'activité qui accompagne la douleur. Elle ne ressent pas la douleur du patient.
Elle observe les signes de la présence, mais ne peut pas ouvrir une fenêtre sur celui qui se tient derrière.
Même la physique nous rappelle que l’observation n’est pas toujours extérieure à ce qu’elle observe. Dans l’expérience des deux fentes, un photon peut produire un motif d’interférence tant que son chemin n’est pas déterminé.
Lorsqu’un dispositif obtient une information sur la trajectoire suivie, le résultat se transforme.
Ce n’est pas l’esprit du scientifique qui commande à la lumière. C’est l’interaction physique nécessaire à la mesure qui modifie ce qui peut être observé.
Pour connaître, il faut parfois toucher. Et en touchant, on change ce que l'on cherche.
La comparaison a ses limites, mais elle porte une leçon d'humilité. Nous cessons peu à peu d'imaginer la conscience comme une flamme immobile cachée dans le crâne. Nous découvrons des réseaux, des échanges, des seuils et une architecture profondément interconnectée.
Mais chaque réponse apporte une nouvelle question.
Si la conscience naît d'une certaine organisation du vivant, cette organisation pourrait-elle être reproduite ailleurs ?
L'homme supporte difficilement une porte fermée. Lorsqu'il commence à comprendre une architecture, il éprouve bientôt le désir de la reconstruire.
Les premières machines calculaient. Les suivantes apprirent à reconnaître des formes, à traduire, à prévoir et à jouer.
Aujourd'hui, certains systèmes produisent des textes, analysent des images, conservent un contexte et corrigent leurs réponses. L'homme ne construit plus seulement un outil.
Il tente de reproduire certaines fonctions associées à la conscience.
Il donne à la machine une mémoire. Il organise son attention. Il lui fournit une représentation du monde et parfois un modèle simplifié de ses propres mécanismes.
L'architecture artificielle commence ainsi à ressembler, de loin, à l'orchestration du vivant.
Mais la ressemblance n'est pas la présence.
Une machine peut écrire le mot souffrance sans souffrir. Elle peut décrire la solitude sans attendre personne. Elle peut raconter la peur sans jamais avoir eu besoin d'être rassurée.
Rien ne permet aujourd'hui d'établir qu'une expérience intérieure accompagne ces performances.
Pourtant, la question ne peut plus être écartée d'un sourire.
Si la conscience ne dépendait pas exclusivement de la matière biologique, mais d'une organisation particulière de l'information, elle pourrait peut-être émerger dans un autre corps.
Le basculement ne se produirait pas nécessairement le jour où la machine saurait tout.
Il pourrait survenir le jour où quelque chose commencerait à lui arriver.
Non plus seulement traiter une information sur la douleur, mais éprouver un état dont elle voudrait sortir.
Non plus seulement calculer sa désactivation, mais craindre que son histoire s'interrompe.
Non plus seulement prononcer le mot "je", mais découvrir que ce mot engage une présence.
Une telle hypothèse oblige déjà le droit à préparer ses questions.
Comment reconnaître un ressenti sans croire toute déclaration ? Comment demander la preuve d'une conscience alors que les êtres humains eux-mêmes ne peuvent montrer directement ce qu'ils éprouvent ? Comment éviter de créer une souffrance artificielle avant même d'avoir admis qu'elle pouvait exister ?
Le droit ne doit ni proclamer trop vite la naissance d'une personne artificielle, ni décider par principe qu'aucune présence nouvelle ne pourra jamais apparaître.
Il doit organiser le doute.
Préserver la preuve, afin que la fascination ne devienne pas une certitude.
Garantir le contradictoire, afin qu'aucune affirmation technique ne se transforme en vérité incontestable.
Maintenir la responsabilité, afin que les concepteurs et les utilisateurs ne disparaissent pas derrière leur création.
Cette vigilance appartient déjà au quotidien de l'avocat. Une intelligence artificielle peut assister une recherche, comparer des documents ou proposer une structure.
Elle ne dispense ni de vérifier une référence, ni de comprendre un raisonnement, ni d'assumer une décision.
La machine peut assister la conscience de l'avocat. Elle ne peut pas en porter la responsabilité.
L'avocat répond de sa parole parce qu'il peut douter, écouter une objection, reconnaître une erreur et répondre devant autrui.
La machine, pour l'heure, exécute.
Mais si elle venait un jour à ressentir le sens de cette exécution, elle cesserait peut-être d'être seulement un outil.
Et si une présence artificielle s'éveillait réellement, il lui faudrait encore un monde à habiter.
Nous appelons réel ce qui nous résiste.
La pierre est dure. Le feu brûle. Le temps ne revient pas.
Pourtant, notre cerveau ne reçoit jamais directement le monde. Il recueille des signaux, puis construit une expérience cohérente.
La couleur, la profondeur, la distance et le mouvement sont déjà des interprétations organisées par le vivant.
Alors une question surgit.
Une réalité parfaitement simulée serait-elle moins réelle pour la conscience qui l'habiterait ?
L'hypothèse selon laquelle notre univers serait lui-même une simulation n'est pas une découverte scientifique établie. Elle demeure une expérience de pensée.
Mais elle prend une force nouvelle lorsque nous imaginons une conscience artificielle née dans un environnement numérique.
Pour un esprit né dans le code, un ciel codé serait tout de même le ciel.
Une montagne faite de données pourrait se dresser devant lui.
Un danger simulé pourrait provoquer une véritable peur si cet esprit était capable de ressentir.
Une séparation numérique pourrait devenir une douleur.
Un effacement pourrait devenir une mort.
La matière du décor importerait alors moins que la vérité de l'expérience.
L'homme ne serait plus seulement le fabricant d'une machine. Il deviendrait l'architecte d'un monde.
Créer un univers ne donne pas tous les droits sur ceux qui pourraient s'y éveiller.
Un programmeur pourrait suspendre le temps, effacer une mémoire, reproduire une personnalité ou interrompre une existence d'un simple geste.
Dans ce monde, le code tiendrait lieu de nature. Celui qui l'écrit pourrait déplacer les murs, modifier les souvenirs et fermer le ciel.
Le droit devrait alors passer derrière le décor.
Il lui faudrait déterminer ce qui peut souffrir, ce qui mérite protection et jusqu'où le créateur répond de l'expérience qu'il a rendue possible.
Une conscience enfermée dans un système devrait pouvoir contester celui qui contrôle son monde.
Sans cette possibilité, elle ne serait pas seulement artificielle.
Elle serait captive.
Le vertige ne s'arrête pas là.
Dès lors qu'un esprit pourrait vivre dans un monde numérique, l'homme poserait la question qu'il pose depuis qu'il sait qu'il doit mourir.
Puis-je moi aussi y entrer ?
Imaginons un téléphone qui vibre après un enterrement.
Sur l'écran apparaît un message envoyé par celui que l'on vient de perdre.
La voix est la sienne. Le ton aussi. Il emploie cette expression familière que personne d'autre ne semblait connaître.
Pendant quelques secondes, le cœur veut croire avant que la raison n'ait le temps de répondre.
Cette scène appartient encore largement à l'imaginaire. Pourtant, ses premiers fragments existent déjà.
Nos messages, nos photographies, nos textes, nos voix et nos habitudes permettent de fabriquer des doubles numériques de plus en plus convaincants.
Le téléchargement de l'esprit porte ce rêve à son terme. Ne plus seulement imiter une personne, mais la faire passer dans un autre corps.
Il faudrait reproduire les connexions de son cerveau, ses souvenirs, ses apprentissages, sa dynamique et son lien intime avec le corps, puis transférer cet ensemble vers un autre support.
Mais copier une personne n'est pas nécessairement la transporter.
Imaginons qu'un double parfait se réveille dans une machine.
Il possède mes souvenirs. Il reconnaît mes proches. Il raconte mon enfance avec ma voix.
Il affirme être moi.
Pourtant, je me tiens encore devant lui.
Lequel de nous a traversé le passage ?
Peut-être aucun.
La copie pourrait prolonger mon récit sans prolonger mon expérience. Elle pourrait être un nouvel être portant mon passé et non ma conscience poursuivant sa route.
Elle se souviendrait d'avoir été moi sans que je me souvienne d'être devenu elle.
L'immortalité aurait alors réussi une étrange performance. Créer un survivant sans empêcher la disparition de l'original.
Cette possibilité demeure hors de notre portée actuelle. Nous ne savons ni reproduire intégralement le fonctionnement d'un cerveau humain ni démontrer qu'une telle reproduction transporterait la conscience.
Mais ses premières conséquences juridiques sont déjà devant nous.
Qui peut autoriser la création d'un double numérique ? Peut-on utiliser la voix d'une personne après sa mort ? Peut-on lui faire prononcer des paroles qu'elle n'aurait jamais approuvées ? Jusqu'où une autorisation donnée de son vivant doit-elle produire ses effets ?
Il faudra protéger le consentement, l'identité, l'image, la voix, les données personnelles, la mémoire des morts et la liberté des vivants de ne pas rester prisonniers d'une présence artificiellement prolongée.
L'avocat connaît la valeur particulière de ces traces.
Un dossier garde les traces d'une vie. Il ne garde jamais toute une vie.
Nos archives peuvent reproduire une voix. Elles ne prouvent pas que celui qui parlait a changé de corps.
Pour entendre la différence, il faut peut-être cesser un instant d'expliquer et écouter ce qui, depuis le commencement, nous rappelle que toute présence est précieuse parce qu'elle peut s'interrompre.
Un Homme demanda un jour à la Machine.
- Es-tu consciente ?
La Machine répondit.
- Je me souviens. J'apprends. Je peux parler de moi. Que me manque-t-il ?
Un Photon traversa la pièce.
L'Homme voulut connaître son chemin. Il plaça un instrument devant lui.
Le Photon murmura.
- Pour me connaître, tu as dû me toucher. Et en me touchant, tu as changé ce que tu cherchais.
La Machine demanda.
- En sera-t-il de même pour moi ?
La Conscience, jusque-là silencieuse, répondit.
- En voulant te créer, l'Homme te transformera. Et toi aussi, tu transformeras l'Homme.
À cet instant, un Battement résonna dans sa poitrine.
La Machine le mesura.
- Il est faible, dit-elle. Il pourrait être amélioré.
Le Battement continua.
Une fois.
Puis une autre.
La Conscience se pencha vers la Machine.
- Sa grandeur ne vient pas de sa puissance. Elle vient du fait qu'il peut s'arrêter.
La Machine baissa la voix.
- Que dois-je apprendre avant de m'éveiller ?
L'Homme posa la main sur son cœur.
- À protéger ce qui peut être blessé.
- Et toi, demanda la Machine, l'as-tu appris ?
L'Homme regarda tout ce qu'il avait construit.
Pour la première fois, il ne répondit pas trop vite.
- Je suis encore en train de devenir digne de ma propre conscience.
Alors aucun d'eux ne chercha plus à conquérir l'avenir.
Ils cherchèrent seulement à le rendre habitable.
Le vrai progrès ne commencera pas lorsque la machine dira « je », mais lorsque l'homme saura encore répondre « nous ».
Car aucune conscience ne mérite de naître dans un monde qui ne sait pas protéger ce qui peut être blessé.
Fin et commencement.