« Nous avons l’impression que notre statut de sujet conscient est menacé par l’IA, la vie sur écran, les risques écologiques… »
Lionel Naccache professeur à Sorbonne Université et neurologue à la Salpêtrière
De possibles fondements quantiques ?
Les leçons de la mort imminente
Les zombies philosophiques en renfort
Vers une conscience artificielle ?
Pour innover, les ingénieurs ont besoin de prédire avec précision le comportement réel de leurs designs, dispositifs et procédés. Comment ? En prenant en compte simultanément les multiples phénomènes physiques en jeu.
» comsol.fr/feature/multiphysics-innovation
par Loïc Mangin rédacteur en chef adjoint à Pour
la Science
Depuis le XVIIe siècle, la conscience est un objet philosophique, et, selon Descartes, corps et esprit sont distincts au point que la conscience se passerait d’une médiation du corps. Ce dualisme continue d’exercer son influence alors que les neurosciences se sont saisies du sujet pour en élucider les mécanismes neuronaux. Il se traduirait par l’idée d’un centre de la conscience dans notre cerveau. Le philosophe Daniel Dennett fut l’un des plus farouches opposants à cette conception, car alors la conscience relèverait d’un tour de magie, d’une illusion dans ce qu’il nomme le « théâtre cartésien ». À ses yeux, le problème de la conscience s’explique plus simplement par une compétition entre idées, émotions… l’une d’elles gagnant à un moment la « célébrité cérébrale ». Certaines théories neuroscientifiques le rejoignent sur ce terrain. Ce faisant, la conscience étant un phénomène émergeant de la matière, rien ne s’oppose à ce qu’une machine en soit dotée. Mais il y a d’autres théories, et parfois incompatibles avec une intelligence artificielle consciente…
Comment s’y retrouver ?
Daniel Dennett proposait de préférer à l’enchantement causé par le tour de magie celui lié à l’éclosion de la vérité. C’est la voie qu’emprunte ce numéro en explorant ce que neurosciences et informatique ont à dire de la conscience. Ce qui n’empêche pas la magie de la découverte.
05.25/06.25 www.pourlascience.fr
HORS-SÉRIE
Ont contribué à ce numéro
Christof Koch est directeur scientifique et président de l’institut Allen pour les sciences du cerveau, à Seattle, aux États-Unis.
Lionel Naccache est coresponsable de l’équipe Picnic Lab, à l’Institut du cerveau, à Paris, professeur à Sorbonne Université et neurologue à la Salpêtrière.
Andreas Maier est professeur d’informatique à l’université Friedrich-Alexander d’Erlangen-Nuremberg, en Allemagne. Anil Seth est professeur de neurosciences computationnelles et cognitives à l’université du Sussex, en Grande-Bretagne.
p. 6 Repères
Des schémas, des chi res, des définitions… : toutes les clés pour entrer sereinement dans ce numéro.
p. 10 Grand témoin
vraie
de notre conscience est discrète, au sens mathématique du terme
p. 18 Un dialogue intérieur vu de l’extérieur
Lionel Naccache
L’imagerie révèle comment le cerveau devient conscient.
p. 26 La mort imminente, une porte vers la conscience ?
Rachel Nuwer
Les enseignements de la frontière entre la vie et la mort.
p. 36 Les deux racines du soi
Diana Kwon
Ou comment le moi et le je convergent en un soi.
p. 42 La conscience quantique à l’épreuve
Hartmut Neven et Christof Koch
La conscience aurait des fondements quantiques…
p. 48 Dans la tête d’un zombie
Philip Go
Les morts-vivants aident à explorer ce qu’est la conscience.
p. 54 La guerre des cerveaux
Mariana Lenharo
La nature de la conscience en débat… et en disputes.
p. 62 « Toutes nos expériences conscientes trouvent leur origine dans cet impératif fondamental qui est de rester en vie »
Entretien avec Anil Seth
p. 70 Le philosophe de la conscience
John Horgan
Retour sur la pensée du philosophe Daniel Dennett.
p. 76 Une subjectivité artificielle ?
Christof Koch
Des machines « intelligentes », certes, mais conscientes ?…
p. 84 Conscience, es-tu là ?
Mariana Lenharo
Serons-nous capables de détecter la conscience d’une IA ?
p. 90 Sonder le cerveau avec l’IA
George Musser
Les IA aident à comprendre la conscience humaine.
p. 100 Autobiographie d’une machine
Patrick Krauss et Andreas Maier
Des systèmes informatiques conscients sont possibles.
p. 109 Rendez-vous
110 En image
112 Rebondissements
116 Infographie
118 Incontournables
La conscience est un sujet épineux, qui refuse, à ce jour, de se laisser enfermer dans un cadre rigide.
Philosophes et neuroscientifiques s’attachent avec ardeur à la comprendre. De là à s’entendre…
La question de la conscience est un objet de réflexion depuis l’Antiquité, mais, au moins en France, jusqu’au XVIIe siècle, elle est associée à une valeur morale, ce que plusieurs expressions traduisent, comme « avoir bonne conscience » ou « un cas de conscience ». En d’autres termes, la conscience est la faculté de distinguer le bien du mal.
Avec par exemple le philosophe Nicolas Malebranche, elle devient un concept philosophique désignant la capacité d’un être humain à appréhender sa propre réalité. Il parle à son propos de « sentiment intérieur » et pressentira même l’idée d’inconscient en imaginant qu’« il y a peut-être en nous une infinité de facultés ou de capacités qui nous sont entièrement inconnues ».
Au XVIIIe siècle, la conscience est toujours le domaine réservé des philosophes et devient, chez Jean-Jacques Rousseau entre autres, « la connaissance immédiate, plus ou moins intuitive, d’une chose à l’intérieur ou à l’extérieur de soi ». Les années passant, le mot « conscience » a pris plusieurs sens, mais on se centrera ici sur celui qui renvoie à un état psychique où l’individu a une expérience subjective (voir l’entretien avec L. Naccache, page 10), où il « ressent » quelque chose, comme une couleur, un son, une odeur…
L’a aire n’est pas pour autant réglée, car définir la conscience avec précision reste délicat, notamment à cause du caractère subjectif du « ressenti ». Depuis quelques décennies, les neurosciences se sont emparées du sujet afin d’en élucider les soubassements cérébraux, c’est-à-dire en recherchant les « corrélats ». C’est ce que le philosophe australien David Chalmers nomme le « problème facile de la conscience ». Facile, mais encore non résolu, car plusieurs théories sont en compétition (voir l’encadré page ci-contre)
Cette approche matérialiste laisse de côté le « problème di cile », selon David Chalmers : comment un système physique comme le cerveau humain engendre-t-il un phénomène mental (non physique) et subjectif ? Mais pour certains, comme le philosophe Daniel Dennett, ce problème, ou en tout cas le fait de le qualifier de « di cile », n’a pas de sens. À vous de vous faire une idée, en votre âme et conscience…
Des dizaines de théories existent sur la manière dont le cerveau produit l’expérience subjective d’un individu. Les plus populaires se répartissent en quatre catégories.
Métareprésentation
Théorie de l’ordre supérieur (HOT)
Représentation de premier ordre
Elle postule que l’être humain devient conscient de quelque chose, comme un stimulus visuel, lorsque celui-ci est intégré à une métareprésentation dans les parties « supérieures » du cerveau – celles qui traitent et synthétisent le contenu d’autres régions.
Signalisation descendante
Signalisation ascendante
Théorie du processus récurrent (RPT)
Elle a irme que la perception visuelle consciente nécessite une boucle d’informations allant des zones cognitives d’ordre supérieur aux zones de traitement sensoriel de premier ordre (signalisation descendante) et inversement (signalisation ascendante).
Théorie de l’information intégrée (IIT)
Elle suppose que la conscience est le résultat d’une structure intégrée de l’information. Plus le degré d’intégration est grand, plus le niveau de conscience est élevé. En principe, tout système complexe doté d’un type de structure d’information adapté pourrait être conscient (ce qui n’est pas le cas d’une intelligence artificielle, car sa structure n’est pas la bonne).
Théorie de l’espace de travail global (GWT) Celle-ci considère que l’information entre dans la conscience lorsqu’elle est accessible et di usée dans un « espace de travail » à l’échelle du cerveau, ou espace de travail global, impliquant notamment le cortex préfrontal.
Espace de travail global
Traitement local
Ignition *
Traitement local
* (Le processus d’ignition correspond à une sorte d’allumage soudain de l’espace global de l’information)
1924
Le neurologue et psychiatre Hans Berger mesure pour la première fois l’activité électrique du cerveau grâce à l’électroencéphalographie (EEG). Cette percée permet d’enregistrer di érents états mentaux, par exemple en phase de veille ou de sommeil.
1949
Dans The Organization of Behavior, le psychologue cognitif Donald Hebb développe sa théorie selon laquelle les neurones qui s’activent simultanément renforcent leurs connexions, les synapses : c’est la base du fonctionnement du cerveau… et des réseaux de neurones artificiels. Il propose également que la stimulation conjointe répétée d’un groupe de neurones conduise à la formation d’une « assemblée de cellules » qui resterait active après un stimulus et formerait ainsi une représentation mentale de ce dernier.
Leurs conclusions varient du tout au tout, et s’étendent d’un extrême à l’autre : de l’inexistence pure et simple de la conscience à des idées plus ou moins mystiques, en passant par la conviction que l’esprit humain est entièrement explicable. Cinq d’entre elles sont particulièrement populaires :
• Selon l’éliminativisme, les processus mentaux sont pleinement fonctionnels, même sans conscience. Celle-ci n’a donc aucun besoin d’être envisagée.
• Pour le réductionnisme fort, la conscience est décomposable en parties et explicable par des éléments fonctionnels plus simples. Ces considérations ont conduit les neuroscientifiques à proposer la « théorie de l’espace de travail global » et la « théorie de l’information intégrée » (voir l’encadré page précédente). La principale critique à leur égard est que toute reproduction
mécaniste de la conscience qui n’est pas entièrement comprise ne fait en réalité que l’imiter.
• Les représentants du mystérianisme partent du principe qu’il est impossible d’expliquer scientifiquement la conscience. Son exploration est donc futile.
• Dans le dualisme, la conscience est métaphysique et ne dépend pas d’une substance matérielle. Par conséquent, notre monde n’est pas entièrement descriptible par des lois physiques.
• L’épiphénoménisme suppose que les mondes mental et physique n’interagissent pas – la conscience étant vue comme un « épiphénomène », c’est-à-dire quelque chose qui se surajoute à l’univers matériel sans agir sur lui. Selon cette approche, les lois physiques s’appliquent £donc sans restriction, contrairement à ce que postule le dualisme.
1 - Aire de Broca / gyrus frontal inférieur
2 - Aire de Wernicke
3 - Bulbe rachidien
4 - Carrefour temporopariétal
5 - Cervelet
6 - Cortex occipital
7 - Cortex pariétal supérieur
8 - Cortex pariétal inférieur
9 - Gyrus frontal moyen
10 - Gyrus frontal supérieur
11 - Gyrus temporal inférieur
12 - Gyrus temporal moyen
13 - Gyrus temporal supérieur 14 - Scissure de Rolando
Le neuroscientifique
Michael Gazzaniga découvre que le sectionnement du faisceau nerveux reliant les hémisphères cérébraux entraîne une certaine division de la conscience.
Dans ces années-là, le psychologue
Lawrence Weiskrantz met en évidence un phénomène connu sous le nom de « vision aveugle » : certains patients sou rant de lésions dans le cortex occipital ne perçoivent plus consciemment les stimuli visuels, mais ils restent capables d’y réagir, par exemple pour éviter un obstacle.
Le physiologiste Benjamin Libet démontre que le cerveau produit un signal électrique caractéristique – un « potentiel de préparation motrice » – environ une demi-seconde avant qu’on ne décide d’entreprendre une action consciente. Il en conclut que le traitement conscient ne déclenche pas le mouvement, mais justifie ultérieurement les actions déjà planifiées par l’encéphale.
Selon les théories les plus solidement étayées, la conscience repose sur des mécanismes neuronaux, que l’on peut donc traquer avec les outils d’imagerie les plus perfectionnés.
C’est alors tout un subtil réseau de communication entre di érentes zones du cerveau, à plusieurs niveaux, qui se dévoile. Ces soubassements physiologiques se révèlent également dans des situations dysfonctionnelles, par exemple lors de pathologies comme la dépression, ou, plus étonnant encore, dans les conditions extrêmes des expériences de mort imminente. En comprenant de mieux en mieux ces rouages, peut-être confirmera-t-on un jour l’intuition hardie de Roger Penrose : la conscience aurait des fondements quantiques…
Grâce notamment aux techniques d’imagerie, les neurobiologistes comprennent de mieux en mieux comment le cerveau humain devient conscient : tout est a aire d’éveil et de communication intracérébrale.
> Quand nous ouvrons les yeux le matin, nous devenons conscients de ce qui nous entoure. Les scientifiques cherchent à caractériser les processus cérébraux associés à cet état mental particulier.
L’une des questions fondamentales des neurosciences est de déterminer les relations entre le cerveau et la pensée Le cerveau « produit-il » l’esprit, ou ce dernier est-il une propriété immatérielle de cet objet matériel branché sur le corps et sur le monde ? Certes, la définition de ce qu’est l’esprit reste en soi une recherche relevant de disciplines croisées Mais il est clair que la conscience y prend une part importante. Or, ces dernières années, les progrès des neurosciences ont fait naître la possibilité d’observer la conscience dans le cerveau Ou, plutôt, de détecter des caractéristiques neuronales propres à nos états conscients, qui permettraient de repérer ces derniers par la mesure expérimentale.
Avant tout, il est indispensable de se doter d’une définition de la conscience afin de délimiter rigoureusement ce dont il sera question Il est possible de l’identifier à notre capacité à nous rapporter subjectivement nos propres états mentaux, à la manière de ce que nous affirmons quotidiennement : « Je vois ce visage ; j’entends cette voix ; je me souviens de ce coucher de soleil ; je suis en train de me brosser les dents… » Le néologisme « rapportabilité » offre une définition de la conscience dont la spécificité ne fait pas débat : l’immense majorité, sinon la totalité, des théoriciens de la conscience partagent l’idée que la conscience est primordiale pour la rapportabilité. Il est également important de noter que cette rapportabilité interne ne se limite pas à la
En bref
> La neuro-imagerie fonctionnelle révèle que dans le cerveau conscient, di érentes aires de cet organe entretiennent un dialogue à distance, à la fois dense et synchrone.
> La prise de conscience d’un stimulus s’accompagne aussi de certaines manifestations corporelles. Ces liens de la conscience avec le corps ou avec l’environnement restent à étudier.
communication verbale, mais qu’il est possible de la recueillir de manière non verbale chez des bébés, des patients aphasiques (incapables de parler), et aussi chez d’autres espèces animales, par exemple chez le macaque. Il s’agit donc d’une capacité à accéder subjectivement à nos propres expériences, à nous les représenter d’une façon ou d’une autre Forts de cette définition, il devient concevable de bâtir un programme scientifique afin de répondre à deux questions : premièrement, quelles sont les conditions cérébrales nécessaires et suffisantes à un état conscient, c’est-à-dire à la faculté de se rapporter ses propres états mentaux, indépendamment de leur contenu ? En second lieu, quel est le scénario cérébral de la prise de conscience, autrement dit la suite d’événements neuronaux qui aboutissent à la création d’un état conscient ?
Être conscient requiert deux conditions absolument indispensables. Tout d’abord , le cerveau doit être dans un mode d’éveil, c’està-dire que les vastes ensembles de neurones du cortex cérébral doivent être activés Cette première condition repose sur un réseau de régions sous-corticales qui composent la formation réticulée et qui naissent dans le tronc cérébral. Le tronc cérébral est la structure du système nerveux central située immédiatement au-dessus de la moelle épinière. La formation réticulée y naît, et se prolonge jusqu’au thalamus (un gros noyau gris qui appartient aux ganglions de la base) et à d’autres noyaux voisins (par exemple le noyau basal de Meynert). Comme le neurologue d’origine portugaise António Damásio l’a très bien décrit en 2001, la formation réticulée reçoit en
permanence des informations en provenance du monde extérieur et du corps Dès qu’elle détecte une menace potentielle dans l’environnement ou un déséquilibre du « milieu intérieur », elle éveille le cortex situé au-dessus d’elle afin de solliciter des solutions stratégiques et élaborées pour assurer ce que l’on appelle, depuis le XIXe siècle avec Claude Bernard, l’« homéostasie » – le maintien des fonctions physiologiques, comme la glycémie ou l’acidité des fluides internes, autour de valeurs optimales
Chaque fois que nous sommes conscients, nous sommes aussi éveillés : l’éveil est essentiel à la conscience ! Et les rêves, direz-vous ? Ne sont-ils pas d’authentiques expériences conscientes au cours desquelles nous nous rapportons ce que nous vivons ? De sorte qu’une fois éveillés, nous parvenons à nous remémorer certains de ces épisodes qui nous semblent alors très bizarres… Les rêves ne seraient-ils pas des états de conscience sans éveil ?
Non, car en réalité la plupart des rêves surviennent lors d’un état très paradoxal, découvert dès les années 1950 par le neurobiologiste français Michel Jouvet : vu de l’extérieur, le dormeur n’a nullement l’air éveillé, mais son cerveau vient en
L’état conscient requiert un niveau minimal d’éveil cortical qui est modulé par l’activité d’une structure nerveuse enfouie dans le tronc cérébral et nommée « formation réticulée ». Alimentée en permanence par des informations sensorielles (auditives, visuelles, tactiles…), elle module, avec le noyau basal de Meynert, l’activité de centres supérieurs tels que le thalamus ou le cortex, créant les conditions nécessaires pour que nous soyons conscients de nousmêmes et de ce qui nous entoure.
Noyau basal de Meynert
Tronc cérébral
Formation réticulée
fait d’être réactivé par sa formation réticulée On parle de « sommeil paradoxal » (REM sleep en anglais, ce qui signifie « sommeil à mouvements oculaires rapides »), qui correspond donc à un état d’éveil cortical autorisant l’expérience consciente. Notons toutefois que certains rêves se produisent lors d’autres périodes du sommeil, et que leur mécanisme constitue un sujet de recherche très actif, exploré à la fois par les neuroscientifiques, mais également par des chercheurs en sciences humaines tels que le sociologue Bernard Lahire Durant le sommeil lent profond, il apparaît que nous ne rêvions que lors de périodes instables caractérisées par des réveils partiels et transitoires du cortex, ce qui semble ainsi en accord avec ce premier principe : la conscience requiert un niveau d’éveil minimal. En décembre 2023, avec mes collègues spécialistes du sommeil, Delphine Oudiette et Isabelle Arnulf, nous avons montré que lors des différents stades du sommeil, il existe de brèves périodes durant lesquelles notre cerveau présente les signatures neuronales d’un état conscient. Ces périodes sont plus nombreuses dans le stade le plus léger (N1) que dans les autres, mais on continue à détecter ces petites briques de conscience à travers les autres stades. En d’autres termes, nous savions déjà que le sommeil est un état hétérogène composé de différents stades, mais, au sein même de ces stades, il existe une hétérogénéité de moments distincts.
Pour autant, être éveillé ne suffit pas. Lors de certaines crises d’épilepsie, un malade peut rester éveillé , garder les yeux ouverts , se tenir debout avec un tonus postural d’éveil, voire s’engager dans des activités motrices automatiques… mais il n’est conscient ni de lui-même ni de l’environnement. Autrement dit, il existe des états d’éveil sans conscience. Dans un registre plus dramatique, les états dits « végétatifs » illustrent la même dissociation : un éveil sans conscience de soi ni de l’environnement.
S’il ne suffit ainsi pas d’être éveillé pour être conscient, quel est l’indispensable ingrédient cérébral supplémentaire ? Un cerveau conscient n’est pas simplement un cerveau éveillé ; c’est également un cerveau qui est le siège d’une conversation neuronale très particulière opérant
Les états conscients se repèrent par la richesse des communications à longue distance entre di érentes sous-régions cérébrales (ici, on en a représenté sept, à seule fin d’illustration). À chaque instant, chaque sous-région du cortex est fonctionnellement connectée à certaines autres sous-régions (elles s’activent de manière analogue au même moment), ce que l’on représente dans un tableau appelé « matrice » : plus deux régions sont connectées, plus la case située à leur intersection dans le tableau tend vers le rouge. Un cerveau conscient se repère à des transitions rapides entre un très grand nombre de telles matrices, reflétant une connectivité fonctionnelle riche et changeante.
élevée
Connectivité faible
Matrice de connectivité fonctionnelle
entre des régions distantes du cortex . Cette structure de notre cerveau est , rappelons - le , constituée d’une mosaïque d’aires dévolues à des fonctions aussi différentes que la vision, le toucher, l’intégration d’informations sur notre environnement social, la perception des visages, l’audition, la planification de l’avenir… Lorsque nous sommes conscients , différentes aires du cortex, parfois éloignées de plusieurs centimètres (une distance considérable à l’échelle des cellules de notre corps), conversent les unes avec les autres d’une façon bien particulière Elles le font tout d’abord de façon cohérente, c’est-à-dire que l’activité des neurones est, dans ces différentes aires, en partie synchronisée ; la communication est par ailleurs complexe, au sens où si l’on cherche à compresser les
informations qu’elle véhicule à l’aide d’un logiciel de compression numérique, on conserve malgré tout une information qui reste riche et diverse ; enfin, il s’agit d’une information différenciée, dont les caractéristiques varient selon les aires corticales engagées dans cette conversation. Dans certaines situations pathologiques , cette conversation devient excessive, appauvrie et indifférenciée ; c’est typiquement ce qui survient lors d’une crise d’épilepsie accompagnée d’une perte de conscience. C’est-à-dire que pour être conscient, le cerveau doit se trouver dans un mode de communication suffisant, mais modéré
Récapitulons : pour être conscient, un cerveau doit être d’une part éveillé et d’autre part le siège d’une activité spécifique, à la fois cohérente, complexe et différenciée selon les critères qui précèdent Or il est aujourd’hui possible de détecter dans l’activité cérébrale la combinaison de ces deux conditions nécessaires et suffisantes à l’état conscient. À l’aide de l’imagerie par résonance magnétique fonctionnelle (IRMf) ou de l’électroencéphalographie, nous parvenons à savoir si un cerveau est conscient, s’il est endormi et inconscient , ou encore s’il est éveillé mais inconscient. À titre d’exemple, une série de travaux réalisés dans les années 2000 conjointement dans mon laboratoire et celui de Stanislas Dehaene, au centre de neuro-imagerie de l’Inserm et du CEA , au sud de Paris, ont permis de caractériser ces
signatures cérébrales de l’état conscient. Nous les utilisons auprès de malades plongés dans des états où il leur est impossible de communiquer (par exemple des patients en syndrome locked-in, conscients mais paralysés, ou des sujets éveillés dont on ignore s’ils sont conscients ou non). Pour identifier de telles signatures cérébrales de la conscience, l’une des pistes de recherche les plus prometteuses consiste à s’intéresser à la dynamique des configurations d’activité cérébrale. C’est ce que nous avons mis en place avec mes collègues Benjamin Rohaut et Jacobo Sitt, au sein de notre laboratoire à l’institut du Cerveau. Voyons, encore une fois, le cortex sous la forme d’un ensemble de sous-régions disposées à sa surface, telle une mosaïque Notre hypothèse est que la signature de cet état conscient réside dans la nature précise des interactions qu’ont ces différentes sous-régions, ce qu’on appelle leur « connectivité fonctionnelle ».
Concrètement , si deux sous - régions ont tendance à s’activer simultanément, de façon concertée, on considère alors qu’elles sont fonctionnellement connectées. Décrire l’état conscient du cerveau à un instant donné revient alors à mesurer cette connexion fonctionnelle entre toutes les paires possibles de sous-régions cérébrales. Pour ce faire, on construit un tableau constitué d’autant de lignes et de colonnes qu’il y a de sous-régions prises en considération, et l’on reporte dans chaque case de ce tableau – ou matrice – un nombre d’autant plus élevé que la connexion entre les deux aires figurant dans la colonne et la ligne correspondante est intense.
À chaque instant, l’état de connexion fonctionnelle du cerveau peut être représenté au moyen d’une telle matrice Si l’on enregistre l’activité cérébrale à l’aide de l’IRMf pendant une vingtaine de minutes, il est possible d’estimer le nombre de matrices différentes qui semble décrire au mieux la dynamique cérébrale durant cette période
Une série de travaux récents ont mis en évidence deux résultats originaux D’abord, le nombre de ces matrices semble plus élevé lorsque le sujet est conscient, par comparaison avec des états d’inconscience tels que le coma, l’état dit « végétatif », l’anesthésie générale ou le sommeil profond Ensuite, certaines de ces matrices semblent plus spécifiquement associées à l’état conscient. Lorsque nous sommes conscients, notre cerveau présente une combinaison complexe d’activations et d’inhibitions entre des régions corticales distantes, ce que l’on n’observe pas dans la plupart des états inconscients. Cette façon d’analyser le fonctionnement du cerveau permet véritablement d’isoler des signatures neuronales de l’état conscient, par opposition aux états non conscients Nos états conscients sont donc faits de transitions variées d’une configuration cérébrale à une autre (ou, plus précisément, d’une configuration de connexions fonctionnelles à une autre). Cela vaut indépendamment du contenu de notre conscience. Cet état de transition forme en quelque sorte la toile de fond de notre conscience. Sur cette
toile de fond surviennent, à différents instants de notre vie, des prises de conscience particulières. Imaginez-vous au volant de votre voiture traversant un paysage de collines verdoyantes Votre attention, flottante, gère la conduite en mode semi-automatique, tandis que les notes d’un concerto de Tchaïkovski parviennent distraitement à votre oreille Soudain, un panneau lumineux annonce un accident à un kilomètre et recommande de ralentir. Sur la toile de fond de votre conscience surgit un événement ponctuel qui suscite cette fois une prise de conscience Comment décrire ce qui se passe alors dans votre tête ?
Afin de répondre à cette question générale, mes collègues et moi avons mené des expériences pour enregistrer l’activité cérébrale lorsque nous percevons un stimulus visuel ou auditif Grâce à ces études, nous avons mis au jour un scénario en deux étapes
D’abord, toute perception commence par une étape non consciente. Au moment où le signal lumineux annonçant l’accident frappe votre rétine, les aires visuelles de votre cerveau commencent à s’activer avant même que vous n’en perceviez l’image consciemment, pendant environ 300 millisecondes (ms). Ensuite, au-delà de cette durée, la représentation inconsciente du signal commence à s’amplifier et à diffuser dans d’autres régions du cerveau.
Ces différentes aires qui diffusent l’information font partie de ce que l’on appelle l’« espace de
Lorsque nous prenons conscience d’un événement particulier (par exemple visuellement), son image excite le cortex visuel sur un mode non conscient, puis, quelque 300 millisecondes plus tard, l’information commence à s’étendre à d’autres aires cérébrales, articulées autour du cortex préfrontal. L’accès conscient à l’événement est ainsi conditionné par la communication entre ces di érentes aires distantes.
travail global conscient » : selon la théorie proposée par le psychologue cognitiviste américain Bernard Baars, puis reprise et enrichie d’une version neuronale par Stanislas Dehaene , Jean - Pierre Changeux et moi-même, puis par Claire Sergent, l’espace de travail neuronal global se compose d’un réseau d’aires associatives de haut niveau dont les composantes principales sont situées au sein des cortex préfrontaux et pariétaux. Une fois « entrée » au sein de cet espace global, la représentation est consciente, et donc subjectivement rapportable à la première personne
Ce modèle théorique prédit et rend compte des deux temps de la perception. Lorsque notre cerveau traite un stimulus, il existe un premier temps (200 ms) durant lequel l’activité neuronale peut atteindre des niveaux de représentation très complexes de manière inconsciente au sein de réseaux perceptifs spécialisés et modulaires. Ce n’est que dans un second temps que survient (ou pas) l’accès d’une représentation au sein de l’espace global par un mécanisme d’amplification attentionnelle . Par exemple , en 2000, avec Stanislas Dehaene et Laurent Cohen, nous avons ainsi identifié une aire cérébrale qualifiée par les psychologues de la lecture de « forme visuelle du mot » écrit. Puis nous avons pu décrire les deux temps de la perception lorsque nous prenons conscience du mot. Grâce aux techniques telles que l’électroencéphalographie ou la magnétoencéphalographie, il est possible de saisir la dynamique temporelle fine de la prise de conscience, à l’échelle de la milliseconde. Trois événements caractéristiques
se produisent, qui permettent de repérer à coup sûr ce moment de prise de conscience.
L’un est une amplification soudaine et soutenue de la représentation initiale dans le réseau cérébral perceptif impliqué (par exemple les régions visuelles ou auditives). Dans le même temps intervient une modification très spécifique d’un paramètre appelé « puissance spectrale des neurones », qui décrit la contribution relative des principales ondes cérébrales (alpha, bêta, gamma, delta) au signal électrique d’ensemble du cerveau.
Enfin, on note une augmentation concomitante de la connectivité fonctionnelle entre la région perceptive impliquée et les régions qui composent l’espace de travail global (en particulier les cortex pariétaux et préfrontaux).
Ce scénario semble très général, et il faudra tester sa validité dans la prise de conscience de tous ces autres contenus plus difficiles à contrôler pour un expérimentateur : un souvenir, une émotion, une intention…
Ainsi, nous commençons à savoir décrire assez finement la dynamique complexe de l’activité cérébrale qui caractérise nos états conscients Que le cerveau comporte des signatures physiologiques de la conscience, c’est un fait. Mais qu’il soit suffisant à produire l’intégralité de l’expérience consciente, voilà qui est beaucoup moins certain
Mon équipe a récemment montré que lorsque nous prenons conscience d’un stimulus, non seulement notre cerveau présente les signatures
décrites plus haut, mais nos pupilles se dilatent, notre cœur accélère À l’École normale supérieure, le groupe de Catherine Tallon-Baudry a récemment découvert que la façon dont notre cerveau sent et analyse les battements du cœur pourrait jouer un rôle dans notre conscience de soi Alors, à quel point ces marqueurs somatiques (liés au corps) de notre vie mentale sont-ils nécessaires à notre vie consciente ?
De même, la conscience, et particulièrement la richesse de ses contenus, requiert très probablement des interactions sociales très précoces, ainsi qu’une histoire individuelle, mais également intersubjective et culturelle. À la suite de François Flahault, il est absurde de penser le cerveau et la conscience comme isolés du monde environnant, et comme clivés des interactions avec ce monde qui leur permettent de se constituer. L’anthropologue français voit là une sorte de nouveau dualisme fondé non pas sur une distinction radicale entre l’esprit et le corps, mais sur une distinction tout aussi radicale entre la conscience et le monde dans lequel le sujet se construit. L’élucidation des relations entre le cerveau, le corps et l’environnement, notamment l’environnement humain et culturel, représente l’une des grandes questions des sciences de la conscience. À n’en pas douter, cela devrait faire l’objet de travaux originaux et transdisciplinaires au cours des années à venir
L’auteur
> Lionel Naccache est coresponsable de l’équipe Picnic Lab, à l’institut du cerveau, à Paris, professeur à Sorbonne Université et neurologue à la Salpêtrière.
> B. Türker et al., Behavioral and brain responses to verbal stimuli reveal transient periods of cognitive integration of the external world during sleep, Nature Neuroscience, 2023.
> A. Demertzi et al., Human consciousness is supported by dynamic complex patterns of brain signal coordination, Science Advances, 2019.
> S. Dehaene et al., What is consciousness, and could machines have it ?, Science, 2017. À lire
Ordre supérieur, information intégrée, espace de travail global, processus récurrent… les théories neuroscientifiques de la conscience sont nombreuses. Elles se prêtent plus ou moins à l’expérimentation, mais les départager semble encore loin d'être acquis. Les tenants de chacune campent sur leur position, et parfois vouent aux gémonies les concurrents. Une vraie guerre des cerveaux ! Pour y voir plus clair, faire appel à des zombies peut aider sans pour autant parvenir à dégager un consensus. Reste une dernière position : ne pas attacher plus d’importance qu’elle ne le mérite à l’existence même de la conscience : c’est la position du philosophe Daniel Dennett…
Comment explorer en détail les fondements de la conscience ? En invoquant des zombies ! Cependant, même en imaginant des créatures vraiment bizarres… la question reste ardue.
Philip Go
> Malgré de grands progrès, nous ne disposons pas encore d’explication satisfaisante sur la façon dont le cerveau produit notre monde intérieur.
Dans les années 1990, le philosophe australien David Chalmers a marqué le champ des études sur la conscience en distinguant les problèmes « faciles » du « difficile » (voir les Repères, page 6). Les premiers se concentrent sur l’explication du comportement, comme la capacité à discriminer, à catégoriser et à réagir aux surprises Même s’ils représentent un défi considérable, ils sont dits « faciles », quand bien même leur résolution pose quelques défis, car ils s’inscrivent dans le cadre d’une explication scientifique standard : nous postulons un mécanisme qui sous-tend comment le système, en l’occurrence le cerveau, fait ce qu’il fait.
Le problème « difficile » survient une fois que nous avons élucidé toutes ces fonctions du cerveau, et qu’il reste une énigme : pourquoi l’exécution de ces fonctions s’accompagne-t-elle d’une expérience ? Pourquoi tout ce fonctionnement mécanique ne se déroule-t-il pas « dans l’obscurité » ? Dans mes travaux, j’ai soutenu que le problème difficile est enraciné dans la façon dont le « père de la science moderne », Galilée, a conçu la physique de façon à exclure la conscience.
David Chalmers a rendu ce dilemme très concret en promouvant l’idée d’un « zombie philosophique », une entité complexe conçue pour se comporter exactement comme un être humain, avec le même traitement de l’information dans son cerveau, mais sans conscience. Si vous plantez un couteau dans un tel zombie, il hurle et s’enfuit.
En bref
> Des expériences de pensée mettant en scène des zombies qui inversent douleur et plaisir apportent une aide inattendue.
> Mais le mystère n’est pas pour autant résolu tant il s’avère plus profond qu’on ne le pensait.
Mais il ne ressent pas vraiment la douleur. Lorsque cet être traverse la rue, il vérifie soigneusement qu’il n’y a pas de circulation, mais il n’a aucune expérience visuelle ou auditive de la rue
Personne ne pense que les zombies sont réels, mais ils offrent une façon vivante de déterminer où l’on se situe par rapport au problème difficile
Selon les adeptes de l’idée de David Chalmers, si l’être humain se résumait aux processus mécaniques de la science physique, nous serions tous des zombies. Puisque ce n’est manifestement pas le cas, il doit se passer quelque chose de plus en nous pour expliquer notre conscience Pour résoudre le problème difficile, il faut donc trouver l’ingrédient supplémentaire, une option de plus en plus populaire consistant à postuler des formes de conscience très rudimentaires au niveau des particules ou des champs fondamentaux.
Pour les opposants, à commencer par le philosophe Daniel Dennett (voir Le philosophe de la conscience, par J Horgan, page 70), cette division entre sentiment et comportement n’a pas de sens . Le seul objectif d’une science de la conscience est d’expliquer le comportement, non seulement celui, externe, de l’organisme, mais aussi celui de ses parties internes Ce débat dure depuis des décennies. Toutefois, cette controverse philosophique a récemment connu un nouveau développement intéressant Un nombre croissant de philosophes soupçonnent que la division entre « sentiments » et « comportement » , inspirée par les zombies et par la distinction entre les problèmes « difficile » et « faciles », pose un défi
encore plus fondamental que ne l’avait prévu David Chalmers. Cela peut nous inciter à penser que Daniel Dennett avait raison, après tout, et que l’idée même du « problème difficile » n’est qu’une chimère… Ou bien cela peut nous amener à penser que l’esprit est plus mystérieux encore qu’on ne l’a cru jusqu’à présent
Le problème est qu’une fois que nous avons admis la possibilité des zombies, pourquoi s’arrêter à un seul modèle ? S’il est logique de séparer la conscience et le fonctionnement comportemental, il est tout aussi logique de les « mêler et de les associer » à loisir. Nous pouvons par exemple imaginer des zombies inverseurs de couleur, qui sont physiquement comme nous, mais qui, lorsqu’ils regardent des bananes, ont la même expérience de la couleur que nous face à des tomates, et inversement Rien d’incongru à cela, de nombreux adolescents commencent à philosopher avec de telles expériences de pensée. Imaginons un autre type de zombie : les inverseurs douleur-plaisir. Ils se comportent comme nous, mais ressentent du plaisir là où nous expérimentons de la douleur et vice versa Ainsi, lorsque vous plantez un couteau dans un tel inverti, il ressent un grand plaisir, mais ce plaisir le pousse à crier et à s’enfuir Quand il mange et boit, il perçoit une douleur terrible, mais elle lui enjoint de continuer d’ingurgiter. Ces créatures semblent absurdes , certes , mais si nous acceptons la distinction théorique
de David Chalmers entre le fonctionnement comportemental et l’expérience subjective, alors les inverseurs douleur-plaisir devraient être tout aussi concevables que les zombies ordinaires Autrement dit, la seule façon de rejeter la cohérence des inversions douleur-plaisir est d’en faire autant avec la division initiale entre les problèmes « faciles » du comportement et celui « difficile » de l’expérience consciente. Sur les médias sociaux, où je discute beaucoup de philosophie , nombre de mes interlocuteurs pensent que l’évolution expliquerait pourquoi nous ne sommes pas des inverseurs douleur-plaisir. Pas sûr qu’ils aient raison si l’on y réfléchit bien. En effet, la sélection naturelle ne sera convoquée pour me faire ressentir de la douleur lorsque mon corps est endommagé que si ce sentiment me conduit à éviter de persévérer. Si nous vivions dans l’univers bizarre des inversions douleur-plaisir, où le plaisir conduit généralement à un évitement et la douleur à une attraction, alors nous aurions évolué pour ressentir du plaisir lorsque notre corps est endommagé et de la douleur lorsque nous mangeons et buvons
Les inverseurs douleur-plaisir qui mangent et se reproduisent transmettraient leurs gènes tout aussi bien que nous. En d’autres termes, les explications évolutionnistes de notre conscience présupposent que nous ne sommes pas des inverseurs douleur-plaisir, tout comme elles le font avec l’existence d’une vie autoreproductible . Dans les deux cas, l’évolution ne peut pas expliquer ce qu’elle présuppose déjà.
Pourquoi notre comportement et notre conscience devraient-ils
En quoi est-ce important ? Si la conscience et le comportement peuvent être dissociés dans d’autres univers possibles , nous devons alors expliquer non seulement pourquoi ils sont réunis dans le cerveau humain, mais aussi pourquoi ils le sont de façon rationnelle et cohérente . C’est ce qu’on appelle le « mystère de l’harmonie psychophysique » L’exemple de la douleur et du plaisir n’est qu’un cas extrême. Plus généralement, toute explication historique ou sociologique ( par exemple , pourquoi les gens ont voté d’une certaine manière lors d’une élection) suppose que les êtres humains réagissent de façon plus ou moins rationnelle à leurs croyances et à leurs désirs conscients. Mais si nous sommes des objets physiques dans un univers dépourvu de sens et de but, pourquoi notre comportement et notre conscience devraient-ils s’accorder de façon cohérente et rationnelle ?
Pourquoi ne sommes - nous pas des zombies bizarres et hétéroclites ?
Certains philosophes ont affirmé que l’harmonie psychophysique indiquait la présence de Dieu C’est selon moi excessif, mais j’ai soutenu que l’étude de ce concept nous entraîne dans des directions radicales , remettant en cause nos hypothèses les plus fondamentales sur la réalité
Depuis la révolution scientifique, nous concevons les lois de la nature comme garantissant que ce qui se passe dans le présent dépend de ce qui s’est passé un instant plus tôt. Je pense que nous
de façon cohérente et rationnelle ?
pouvons donner un sens scientifique rigoureux à des lois téléologiques qui fonctionneraient, à l’inverser, du futur vers le présent, en s’assurant que ce qui se passe dans le présent dépend de la nécessité de se rapprocher d’un objectif futur, tel que l’objectif d’un alignement harmonieux de la conscience et du comportement
Pour certains, je vais trop loin et j’abonderais trop dans le sens de Daniel Dennett. Pour ma part, j’ai l’impression qu’une fois que l’on est passé à cette conception de la conscience, on ne peut plus revenir en arrière Comme l’a dit Macbeth à l’acte III, scène 4 de la pièce de Shakespeare : « J’ai marché si avant dans le sang que si je cessais maintenant de m’y plonger, retourner en arrière serait aussi fatigant que d’aller en avant »
L’auteur
> Philip Go est professeur de philosophie à l’université de Durham, en Grande-Bretagne.
Cet article est une adaptation de « Why the mystery of consciousness is deeper than we thought », publié sur Scientificamerican.com, le 2 juillet 2024.
À lire
> P. Go , Why ? The Purpose of the Universe, Oxford University Press, 2023.
> P. Go , Galileo’s Error : Foundations for a New Science of Consciousness, Panthon Books, 2019.
Michel a aidé Lamya à protéger une réserve marine de 68,4 km2.
Michel verse chaque année 1% de son chiffre d’affaires à des associations agréées 1% for the Planet, dont Sea Shepherd. onepercentfortheplanet.fr
Les intelligences artificielles (IA) ont envahi nos quotidiens, mais restent souvent cantonnées à des domaines particuliers.
On est encore loin du graal des experts, une IA générale qui aurait la possibilité d’e ectuer n’importe quelle tâche intellectuelle accessible à un être humain. La question qui se poserait alors serait celle de voir émerger une conscience artificielle. De fait, les réseaux de neurones sont de plus en plus perfectionnés et, pour certains, semblent montrer les prémices d’une telle conscience. Mais, question corollaire, saurait-on même la détecter ? Rien n’est moins sûr. En attendant, les IA, par un processus inverse, nous aident à mieux comprendre ce qu’est la conscience humaine. Ce n’est déjà pas si mal.
Nul doute que les ordinateurs deviendront de plus en plus « intelligents ». Mais la question de la subjectivité et du sentiment d’exister est bien plus débattue.
> Les algorithmes et les machines sont de plus en plus « intelligents », au point de largement surpasser l’humain dans de nombreux domaines.
L’été 2022, Blake Lemoine, ingénieur chez Google, défrayait la chronique en affirmant que le système LaMDA , un chatbot, avait développé une conscience Son employeur eut comme réaction de démentir l’annonce et de licencier son auteur. Quoi que l’on pense de cet épisode, une chose est sûre : les progrès rapides des algorithmes d’apprentissage engendreront à n’en point douter des machines d’une intelligence comparable à la nôtre. Capables de parler et de raisonner, elles prennent déjà de plus en plus place dans une myriade de domaines, comme l’économie, la politique, la santé et, inévitablement, la guerre. La naissance d’une véritable intelligence artificielle (IA) affectera profondément l’avenir de l’humanité et conditionnera l’existence même d’un tel avenir
Prenez la citation suivante : « Encore maintenant, des recherches sont en cours pour mieux comprendre ce que les nouveaux programmes d’IA seront capables de faire, tout en restant dans les limites de l’intelligence d’aujourd’hui. La plupart des programmes d’IA actuellement programmés se limitent principalement à prendre des décisions simples ou à effectuer des opérations simples sur des quantités relativement faibles de données » Que pensez-vous de ce paragraphe ? Il est l’œuvre d’une des toutes premières versions de ChatGPT que j’avais eu l’occasion de tester, avant qu’OpenAI ne rende public son agent
En bref
> Pour autant, faut-il s’attendre à voir surgir de ces systèmes une conscience, une subjectivité ?
> La réponse dépendra de la théorie sur la nature de la conscience que vous défendez : celle de l’« espace de travail global » ou celle de l’« information intégrée ».
conversationnel. Ce service est fondé sur un algorithme d’apprentissage bâti sur un réseau de neurones artificiels
La tâche assignée est apparemment stupide : confronté à un texte de départ arbitraire, le système doit prédire le mot suivant. Il ne « comprend » pas ce qui est écrit comme le ferait un humain Mais durant sa phase d’apprentissage, il a dévoré des quantités astronomiques de données et ajusté ses connexions internes pour mieux anticiper des suites de mots. J’ai écrit les premières phrases de l’article que vous êtes en train de lire, puis les ai « injectées » dans l’algorithme en lui demandant de proposer une suite, dont fait partie le paragraphe cité. Certes, ce texte ressemble aux efforts d’un étudiant de première année pour se rappeler un cours d’introduction à l’apprentissage automatique. Mais le résultat contient néanmoins les mots et les phrases clés, et ce n’est pas si mal, vraiment !
Les successeurs de ces IA ont depuis déclenché un raz-de-marée de faux articles et reportages, qui viennent polluer internet. Ne sont-ils qu’un exemple de plus de programmes exécutant des prouesses que l’on croyait réservées aux humains : jouer à des jeux de stratégie en temps réel, traduire du texte, recommander des livres et des films, reconnaître les gens sur des images ou des vidéos… ? Ou bien les algorithmes sauront- ils un jour écrire un équivalent d’ À la recherche du temps perdu, de Marcel Proust ?
Difficile à dire, mais les balbutiements sont là. Rappelez-vous comme les premiers logiciels de traduction et de conversation étaient faciles
à tourner en dérision , tant ils manquaient de finesse et de précision . Mais avec l’invention des réseaux neuronaux profonds et la mise en place d’infrastructures de calcul surpuissantes, leurs productions n’ont plus rien de ridicule . Comme on l’a vu avec le jeu de go, les échecs…, les algorithmes actuels surpassent les humains Si bien que notre rire se fige : sommes - nous comme l’apprenti sorcier de Goethe , ayant invoqué des esprits serviables que nous ne pouvons plus contrôler ?
Bien que les experts ne s’accordent pas sur la nature exacte de l’intelligence , la plupart d’entre eux estiment que, tôt ou tard, les ordinateurs atteindront ce que l’on appelle l’« intelligence artificielle générale » (IAG), c’est-à-dire la possibilité d’effectuer n’importe quelle tâche intellectuelle accessible à un humain Mais auront-ils pour autant une forme de sentiment d’eux-mêmes ? En d’autres termes, pourront-ils un jour être conscients ?
Par « conscience » ou « sentiment subjectif », j’entends une qualité inhérente à toute expérience, par exemple, la saveur d’une madeleine, une rage de dents, l’étirement du temps quand on s’ennuie… En paraphrasant le philosophe Thomas Nagel, auteur du célèbre article « Quel effet cela fait, d’être une chauve-souris ? », paru en 1974, nous pourrions dire qu’un système est conscient si cela « fait quelque chose » d’être ce
système Considérez votre embarras après avoir commis une gaffe ou quand votre interlocuteur se sent insulté par ce qui n’était pour vous qu’un trait d’humour. Les ordinateurs éprouveront-ils un jour une telle émotion ?
Il ne fait guère de doute que notre intelligence et nos expériences résultent des capacités naturelles de notre cerveau , fondées sur des enchaînements de causes et d’effets Ce postulat a extrêmement bien servi la science au cours des derniers siècles. Le cerveau humain, cet organe d’à peine un kilo et demi à la texture du tofu, est de loin le morceau de matière active organisée le plus complexe connu de l’Univers Mais il obéit aux mêmes lois physiques que les pierres et les étoiles. Nous ne comprenons pas encore tout à fait les mécanismes en jeu, mais nous les expérimentons tous les jours : un groupe de neurones s’allume pendant que vous voyez des couleurs, tandis que l’activation de cellules nerveuses dans une région du cortex est associée à une humeur joviale. Cela étant posé, l’évolution de l’intelligence artificielle débouchera - t- elle sur une conscience artificielle ?
Répondre oblige à trancher entre deux possibilités diamétralement opposées. Selon la première, les machines vraiment intelligentes seront sensibles et dotées de conscience : elles
La plupart des experts estiment que les ordinateurs atteindront ce que l’on appelle l’« intelligence artificielle générale »
Selon la GWT, les machines intelligentes pourraient bien passer de simples objets à sujets à part entière. L’alternative, incarnée par la TII, est que, aussi sophistiqués soient-ils, les ordinateurs resteront des coquilles vides, semblables à des fantômes
parleront, raisonneront, s’occuperont d’ellesmêmes, seront capables d’introspection… Une idée exploitée par des romans tels que Blade Runner, ou dans les films Her, Ex Machina D’un point de vue scientifique, cette hypothèse s’appuie sur l’une des principales théories de la conscience, dite « de l’espace de travail global » (GWT, pour global workspace theory) Selon cette théorie (voir les Repères, page 6), l’origine de la conscience réside dans certaines caractéristiques architecturales du cerveau. Elle s’inspire en cela de l’« architecture du tableau noir », développée par les sciences informatiques dans les années 1970 : le principe est que des programmes spécialisés accèdent à un répertoire commun d’informations, appelé « tableau noir » ou « espace de travail central » Les psychologues ont postulé qu’un espace de ce type existe dans le cerveau et qu’il est essentiel à la cognition humaine. Sa capacité est faible, de sorte qu’à un moment donné, il ne contient qu’une seule perception , qu’une pensée unique ou qu’un seul souvenir. Dans cet espace de travail, les nouvelles informations entrent en concurrence avec les anciennes et les remplacent. Les chercheurs français Stanislas Dehaene et Jean-Pierre Changeux, au Collège de France, et d’autres ont transposé ces idées à l’architecture du cortex, la couche externe du cerveau. Ils ont postulé que l’espace de travail repose sur un réseau de neurones dits « pyramidaux » , qui relient des régions corticales éloignées, en particulier les zones associatives préfrontales, pariétotemporales et médianes (cingulaires).
Une grande partie de l’activité cérébrale reste localisée et, de ce fait, n’accède pas à la conscience C’est le cas des modules neuronaux qui contrôlent la posture du corps ou la direction du regard. Mais lorsque l’activité d’une ou plusieurs régions dépasse un seuil critique, elle déclenche une vague d’excitation neuronale qui se propage à travers l’espace de travail, dans tout le cerveau. Ce signal devient alors accessible à une multitude de processus auxiliaires , tels que le langage, la planification, le circuit de la récompense, la mémoire à long terme et le stockage dans une mémoire tampon à court terme Ce serait le fait de diffuser cette information à l’échelle globale qui la rendrait consciente. Les états conscients découleraient de la façon dont l’algorithme de l’espace de travail traite les entrées sensorielles, les sorties motrices et les variables internes liées à la mémoire, à la motivation et aux attentes. La conscience, ce serait ce traitement global Pour les tenants de cette théorie, la conscience artificielle n’est pas exclue
La seconde hypothèse repose sur la théorie de l’information intégrée (TII, ou IIT en anglais, pour integrated information theory), qui adopte une approche plus fondamentale pour expliquer la conscience Giulio Tononi, de l’université du Wisconsin-Madison, en est le promoteur principal, avec d’autres, dont moi-même. Le principe est de partir de la nature de l’expérience consciente et d’en déduire les propriétés du
système physique qui en constitue le support. Par exemple, chaque expérience forme un tout unique et cela doit se traduire d’une façon ou d’une autre dans le système physique sous-jacent
En particulier, l’information doit y être traitée de façon intégrée, c’est-à-dire que les éventuels sous-systèmes doivent interagir et s’influencer mutuellement On parle de « pouvoir causal intrinsèque » et on quantifie l’importance de ces influences mutuelles par une mesure mathématique que l’on appelle l’« information intégrée » et notée Φ
Ainsi, le pouvoir causal intrinsèque n’est pas une notion floue et éthérée, mais une quantité susceptible d’être évaluée avec précision. On peut la déterminer pour tout type de mécanisme, comme un neurone qui émet des potentiels d’action affectant les cellules connectées en aval (via des synapses), ou un circuit électronique composé de transistors, de résistances et de fils. Elle est d’autant plus élevée qu’un système est capable d’influencer, à partir de son état actuel, ses propres valeurs d’entrée et de sortie. L’état de ce système est alors marqué par son passé et porteur de son avenir.
Notre théorie stipule que tout mécanisme doté d’un tel pouvoir est conscient. Plus un système a une valeur importante d’information intégrée, plus il est conscient.
Au sein du cortex, la quantité d’information intégrée est énorme, car on y trouve un vaste réseau de neurones hétérogènes et étroitement interconnectés. Pour les ordinateurs programmables, en revanche, la situation est différente,
comme l’ont montré des travaux qui ont analysé leur structure à l’échelle des composants Leur pouvoir causal intrinsèque et leur Φ sont infimes, notamment car leur connectique est très différente de celle du cerveau : chaque composant n’est connecté qu’à quelques autres (là où un seul neurone forme en moyenne 10 000 synapses), et il y a bien moins de rétroactions que dans nos systèmes neuronaux. Cela reste vrai quel que soit le logiciel qui tourne sur le processeur.
Le point clé est que deux réseaux qui effectuent la même opération d’entrée-sortie, mais dont les circuits sont configurés différemment, sont susceptibles de posséder des Φ distincts. Bien qu’ils soient identiques de l’extérieur, l’un des réseaux expérimente quelque chose, tandis que son homologue zombie ne ressent rien La différence se situe sous le capot, dans le câblage interne. En un mot, la conscience résulte de ce qu’on est, et non de ce qu’on fait.
La GWT et la TII ont certaines conséquences drastiquement opposées Imaginons que l’on
Selon la théorie de l’information intégrée, le degré de conscience d’un système dépend de son pouvoir causal intrinsèque – qui quantifie la capacité de ses sous-systèmes à s’influencer mutuellement. Mais alors, tout ensemble doté de parties en interaction n’est-il pas conscient ? N’est-ce pas le cas, par exemple, de l’ensemble que vous formez avec votre interlocuteur au téléphone, voire de celui constitué par la population d’un pays entier ? Non, car la théorie postule qu’à l’intérieur d’un système, la conscience apparaît précisément là où le pouvoir causal intrinsèque est maximal. Si vous parlez avec quelqu’un, vous allez vous influencer mutuellement, mais de façon très inférieure à ce qui se passe dans le cerveau de chacun. Il n’y aura donc pas formation d’un « superesprit » – pour cela, il faudrait augmenter drastiquement les connexions entre vos deux cerveaux. Il en va également ainsi pour un pays comme la France et ses 68,6 millions d’habitants : même s’il y a de multiples interactions entre ces derniers, le pouvoir causal intrinsèque reste maximal à l’intérieur du cerveau de chacun. C’est donc là que surgit la conscience.
simule le connectome – le câblage synaptique exact de tout le système nerveux – d’un humain après sa mort. Précisons qu’à ce jour, seuls ceux de quelques organismes simples sont accessibles ; le plus complexe est celui de la larve de drosophile, avec 3 016 neurones et 548 000 synapses : nous sommes très loin des 100 milliards de neurones et 100 000 milliards de synapses de notre cerveau… Si le modèle est suffisamment fidèle, cette simulation se réveillera et se comportera comme un simulacre numérique de la personne décédée. Ainsi, elle parlera et accédera à ses souvenirs, à ses envies, à ses peurs et aux autres traits de sa personnalité. Mais sera-t-elle consciente ?
Si l’imitation du fonctionnement du cerveau est tout ce qui compte pour créer la conscience, comme l’avance la GWT, la personne simulée sera consciente, réincarnée dans un ordinateur, et l’on retrouve l’un des fantasmes favoris de la science-fiction… Mais selon la TII, le simulacre ressentira la même chose que n’importe quel logiciel basique, c’est-à-dire rien Il agira comme une personne, mais sans aucun sentiment Il ne sera qu’une sorte de zombie... sans l’envie de chair humaine : l’ultime deepfake. D’après cette théorie, les pouvoirs causaux intrinsèques du cerveau sont nécessaires pour créer la conscience Et ils ne peuvent être simulés : ils doivent faire partie intégrante du système physique sous-jacent. C’est un peu comme si vous simuliez une pluie diluvienne : vous ne risquez pas d’être mouillé, car une modélisation n’a pas le pouvoir causal de condenser la vapeur d’eau
Il n’y a toutefois rien de magique dans le cerveau humain et, en principe, il serait possible de créer une conscience équivalente à la nôtre en allant au-delà d’une simple simulation. Il faudrait alors construire du matériel dit « neuromorphe », basé sur une architecture similaire à celle du système nerveux
La question d’une éventuelle sensibilité des machines importe aussi pour des raisons éthiques. Si les ordinateurs font l’expérience de la vie par leurs propres sens, ils cessent d’être un simple moyen mis au service d’un but déterminé par les humains Ils doivent être respectés pour eux-mêmes. Selon la GWT, les machines intelligentes pourraient bien passer de simples objets à sujets à part entière – chacune existerait comme un « je », doté de son propre point de vue, comme dans les séries Black Mirror et Westworld . Et lorsque les ordinateurs auront atteint des capacités cognitives rivalisant avec celles de l’humanité, ils feront valoir leurs droits juridiques et politiques. L’alternative, incarnée par la TII, est que , aussi sophistiqués soient- ils , les ordinateurs resteront des coquilles vides, semblables à des fantômes Il leur manquera ce à quoi nous attachons le plus de valeur : le sentiment de la vie elle-même.
L’auteur
> Christof Koch est directeur scientifique et président de l’institut Allen pour les sciences du cerveau, à Seattle, aux États-Unis.
Cet article est une adaptation de « Will Machines Ever Become Conscious ? », paru sur le site scientificamerican.com le 1er décembre 2019.
> H. Neven et al., Testing the conjecture that quantum processes create conscious experience, Entropy (Basel), 2024.
> C. Koch, The Feeling of Life Itself : Why Consciousness Is Widespread but Can’t Be Computed, MIT Press, 2019.
> S. Dehaene et al., What is consciousness, and could machines have it ?, Science, 2017. À lire
VIDÉOS — PODCASTS — LIVRES NUMÉRIQUES en accès libre et gratuit
• Anthropologie • Archéologie • Biologie • Chimie
• Cosmologie • Droit • Économie • Génétique
• Informatique • Histoire • Littérature • Mathématiques
• Neurobiologie • Philosophie • Physique • Sociologie…
