lundi 9 décembre 2013

NOTES DE LECTURE : "le libre arbitre et la science du cerveau" (Michael S. GAZZANICA)

Le propos de l'auteur: Dans cet ouvrage, à partir des connaissances que nous pouvons avoir aujourd'hui sur le fonctionnement de notre cerveau et en particulier sur la façon dont sont prises nos décisions, et dont nous en avons conscience, GAZZANIGA se propose de déterminer si les notions de libre-arbitre, et de responsabilité ont encore une valeur. Mais avant cela il importe d'expliquer certaines de ces connaissances que le développement des neurosciences nous a permis d'acquérir. Ce sont elles qui sont exprimées dans les premières notes qui suivent.
QAZZANIGA nous décrit la façon dont actuellement nous considérons que le cerveau est organisé, connecté et comment il fonctionne: tel un système complexe auquel Gazzaniga l"identifie, il fonctionne de façon à la fois globale et décentralisée, à partir d'un pléthore de modules autonomes mais interconnectés, répartis de façon inégale dans chacun des hémisphères du cerveau: l'émergence, dans un tel système, de propriétés nouvelles par rapport à celles des éléments qui lui ont donné naissance, permet de comprendre la spécificité des phénomènes mentaux, et en particulier les processus conscients.
Gazzaniga peut alors s'attaquer aux concepts de libre-arbitre, et surtout de responsabilité, découvrant que la dimension sociale de l'homme est indispensable pour les prendre en compte, et semble être elle-même programmée génétiquement dans les acquis de l'espèce. Il détaillera ensuite comment cette responsabilité est prise en compte dans le fonctionnement de la justice. 
Pour foinir Gazzaniga remet en question ses hypothèses de départ : libre-arbitre et responsabilité se disjoignent: "quant à cette question obscure du libre-arbitre..." Les dernières lignes affirment la nécessité de trouver les mots adéquats pour rendre compte de ces phénomènes émergents qui é"manent de notre cerveau.
N.B. (Ce qui relève de ma contribution est écrit en italique rouge.)
Bernard.

 "Il est important de voir quel type de créature nous pensons être au XXIème siècle. Au cours de ces cent dernières années, les connaissances sur ce qui nous fait agir se sont énormément accumulées. C'est vraiment impressionnant au point de nous faire demander si cela peut remettre en cause notre conception de l'existence humaine...Cette compréhension fantastique  des mécanismes de la pensée acquise par les neuroscientifiques ne remet pas en cause, selon moi, l'une des valeurs centrales de la vie humaine qu'est la responsabilité. Pour justifier ma position, je vais expliquer le cheminement et les détours qui ont été pris pour arriver à nos connaissances modernes sur le cerveau et présenter comment nous comprenons actuellement son fonctionnement. Pour mieux appréhender certains arguments avancés en faveur d'un monde déterministe, nous aborderons différents niveaux de la science, des particules subatomiques où vous n'auriez jamais imaginé vous retrouver avec les neurosciences, jusqu'au monde social dont vous faites partie avec vos amis, lorsque vous vous réjouissez de la dernière victoire à un match de foot. Ces incursions vont nous montrer que le monde physique a des lois différentes suivant le niveau d'organisation considéré, et nous découvrirons en quoi cela peut avoir un rapport avec le comportement humain. Et avec tout cela, nous finirons au tribunal."pp 13-14

"Nous nous sentons tous des acteurs conscients et cohérents, avec nos objectifs propres et libres de faire des choix sur presque tout, et dans le même temps nous réalisons que nous sommes des machines, biologiques peut-être, mais quand même des machines, soumises comme les autres aux mêmes lois physiques de l'Univers ...alors..., Pourquoi punissons-nous les personnes qui se mettent à agresser les autres? Pourquoi ne les considérons-nous pas comme des gens qui ont besoin d'être réparés? ...Notre cerveau est un système largement parallèle et distribué avec ses propres centres de décision et d'intégration. Jour après jour, il ne s'arrête jamais de gérer nos pensées, nos désirs et notre corps. Ses millions de réseaux sont somme un océan de forces où aucun soldat de reste seul à attendre les ordres. C'est aussi un système déterminé, affranchi des forces chimiques et physiques qui remplissent notre Univers. Et pourtant ces connaissances bien modernes ne nous dissuadent pas de penser qu'il existe un "toi", un "soi" central qui décide en chacun de nous. Et nous retrouvons le doute..." pp 15-16 

Dans les pages qui suivent, Gazzaniga explique la façon dont les conceptions sur le fonctionnement du cerveau (en particulier la façon dont s'organise la connectivité des neurones) ont abouti, depuis les théories behavioristes du début du xxième  siècle (l'équipotentialité) aux conceptions qui aujourd'hui prévalent (une complexité préexistante) pp. 17- 33.

Puis il aborde le problème de la spécificité du cerveau humain par rapport à celui des autres espèces: sa taille, l'existence en lui de neurones particuliers, mais principalement  des changements de connectivité pp. 33-50

"Nous en sommes donc là, nés avec un cerveau au développement galopant sous le houlette d'un énorme contrôle génétique, avec des raffinements apportés par des facteurs génétiques et un apprentissage lié à notre activité. Il s'agit d'un cerveau doué d'une complexité structurée, non aléatoire, avec des traitements automatiques, un ensemble d'aptitudes sou certaines contraintes et une capacité générale qui a évolué au cours de la sélection naturelle. Nous verrons dans les prochains chapitres que nous avons une foule de capacités cognitives qui sont séparées et représentées dans l'espace par différentes parties du cerveau, chacune avec des réseaux et des systèmes nerveux distincts. Nous avons aussi des systèmes qui fonctionnent simultanément, en parallèle, distribués à tout le cerveau; cela signifie que notre cerveau a plusieurs systèmes de contrôle et pas uniquement un seul..." pp.50


« Une grande partie de nous arrive à la naissance déjà câblée et prête à agir…Nous avons des milliers si ce n’est des millions de prédilections déjà câblées pour des actions et des choix divers…Il n’existe aucun centre de contrôle, aucun général cinq étoiles, pour faire obéir à la baguette nos systèmes cérébraux…Le cerveau possède en fait des millions de processeurs locaux qui prennent des décisions importantes. Il s’agit d’un système hautement spécialisé doté de circuits critiques distribués à travers 1.3 kilo de tissu. Il n’y a pas un chef unique dans le cerveau." pp.53-54
Comment s’organise le fonctionnement cérébral sera l’objet des prochaines lignes, des pages 55 à 84…
D’abord les localisations… pp.54-57…
« Flourens fut le premier à montrer qu’effectivement certaines parties du cerveau étaient responsables de certaines fonctions…p.55 »
Puis l’importance de l’inconscient…pp.57-59
« Au début du xxième siècle émergeaient ainsi les idées de fonctions localisées dans le cerveau et de processus non conscients…p.58 »00

Importance des lésions cérébrales pour l’étude du fonctionnement cérébral…pp.59-62
« Grâce à la médecine clinique nous pouvons déjà voir que des parties spécifiques du cerveau contribuent à des activités précises de notre cognition…p.60 »

Comment fonctionnent ensemble ou séparément les deux hémisphères ; cf. les expériences du « cerveau divisé »…pp.62-70
« Une nouvelle possibilité d’étudier le cerveau est apparue en 1961 chez des patients dont les deux hémisphères cérébraux avaient été séparés ou divisés…p.62 »
« …j’avais découvert que l’hémisphère gauche d’un patient au cerveau divisé n’avait pas accès à l’information fournie à l’hémisphère droit. Le gauche ne savait pas ce que le droit traitait et réciproquement. Nouq disposions de la possibilité entièrement nouvelle d’étudier non plus un déficit dû à une lésion, mais la capacité de tout un hémisphère séparé de l’autre…pp.67-68
Gazzaniga développe alors certaines des particularités de chaque hémisphère pp.68_69
« …Tous nos résultats donnaient l’image de spécialisations réparties dans tout le cerveau. On pouvait cependant arriver à une autre conclusion après nos études. L’observation que chaque hémisphère pouvait posséder une information en dehors du champ de conscience de l’autre suggérait que la chirurgie avait induit un état de double conscience…p.70 »)
Qu’en est-il alors de la conscience ? et de notre sentiment d’unité ?pp 70-84
« …Cela posait le problème de savoir si chaque conscience avait son propre sujet : y avait-il deux « soi » ? et aussi deux volontés. Pourquoi les deux moitiés du cerveau n’entraient-elles pas en conflit sur celle qui devait décider ? Une seule moitié était-elle aux commandes ?...Pourquoi, pourquoi, pourquoi y avait-il cet apparent sentiment d’unité ? Conscience et sens de soi étaient-ils situés dans la même moitié du cerveau ? p.70 »
« …La science avance et nous avons laissé tomber l’idée d’un système mental dichotomique…Nous avons maintenant acquis l’idée qu’il existe une pléthore de systèmes, certains au sein d’un seul hémisphère et d’autres répartis sur les deux. Nous ne pensons plus du tout que le cerveau est organisé en deux systèmes conscients, mais plutôt qu’il est formé de multiples systèmes mentaux dynamiques…pp.72-73 
« …Nous commençâmes à douter qu’un seul mécanisme puisse rendre compte de l’expérience consciente et nous nous sommes alors orientés vers l’idée que l’expérience consciente est le sentiment engendré par de nombreux modules, chacun avec ses capacités propres. Comme nous trouvions des capacités spécialisées dans toutes les régions du cerveau, et comme nous avions vu que l’expérience consciente était étroitement associée avec la partie du cortex impliquée dans chacune de ces capacités, nous en sommes venus à la notion que la conscience était répartie dans tout le cerveau…p.75 » 
« …Nous avons alors pensé que la conscience était en réalité un phénomène local, due à des processus locaux associés à un moment sensoriel particulier dans l’espace droit ou gauche…Cette idée nous a permis d’interpréter des comportements inexplicables présentés par certains patients neurologiques…p76 »
« Je suggère que le cerveau possède toutes sortes de systèmes de consciences locaux, et même une constellation qui rendent les la conscience possible. Bien que le sentiment de la conscience nous apparaisse unifié, il prend sa source dans ces systèmes largement séparés. Tout ce dont nous avons conscience à un moment donné est ce qui vient à la surface, ce qui devient prédominant. C’est un monde de systèmes concurrents qui agit dans notre cerveau, chacun cherchant à émerger pour remporter le prix de la reconnaissance consciente. p.77
« …Comment sommes-nous devenus aussi décentralisés et avons-nous abouti à ces multiples systèmes ?... Notre décentralisation a résulté du fait d’avoir un gros cerveau et de la neuroéconomie qui lui a permis de fonctionner. Des connexions moins denses ont ainsi forcé le cerveau à développer des circuits locaux spécialisés ou automatisés. Il en est résulté des milliers de modules, chacun doté d’une fonction spécifique.
     Notre conscience est la pointe émergée de l’iceberg des traitements non conscients. Sous le niveau de notre conscience se démène le cerveau non conscient…pp.79-80 »
« … Des années de recherche sur le cerveau divisé nous ont montré que le cerveau n’est pas un système de calcul multitâche, mais fait d’un nombre énorme de circuits spécialisés connectés en série, fonctionnant en parallèle, et répartis dans tous le cerveau  pour prendre les meilleures décisions. Ce réseau permet à toutes sortes de traitements non conscients simultanés d’opérer pour nous permettre d »effectuer des choses comme de conduire une voiture…En rapport avec cela est le fait que si un traitement hiérarchique a lieu au sein de ces modules, il semble n’y avoir aucune hiérarchie entre eux. Aucun de ce modules de réfère à un instance supérieure, il s’agit d’un système s’auto-organisant où chacun fait ce qu’il veut…p.81 » 
« …Et pourtant, nous nous posons toujours la même question de savoir pourquoi nous nous sentons si unifiés et maîtres de nous…Comment un système peut-il fonctionner sans tête et pourquoi a-t-on l’impression qu’il y en a une ? La réponse à la première question est peut-être que notre cerveau fonctionne comme un système complexe.

Un système complexe se compose de nombreux systèmes différents qui interagissent et produisent des propriétés nouvelles. Celles-ci dépassent la somme de leurs parties et ne peuvent se réduire aux propriétés des parties. Un exemple classique qui permet de la comprendre est celui du trafic routier…La caractéristique commune à tous les systèmes complexes est qu’ils présentent une organisation sans qu’un principe organisateur véritablement externe leur soit appliqué. Cela signifie qu’il n’y a aucune instance supérieure, aucun homonculus…
Pourquoi nous sentons-nous si unifiés ? Nous avons découvert quelque chose dans le cerveau gauche, un autre module qui récupère toutes les productions du cerveau et en fait un discours. Nous l’appellerons « module interprète » et ce sera l’objet de notre prochain chapitre.pp82-84 « 

                                                 _____________________________________


- "Nous allons apprendre quelque chose d'étrange sur nous dans ce chapitre. Quand nous nous mettons à expliquer nos actions, ce ne sont que des explications a posteriori, fondées sur des observations faites après coup sans aucun accès au traitement non conscient. Sans compter que notre cerveau gauche arrange un peu les choses pour que l'histoire ait un sens. Ce n'est que lorsque cela dévie trop des faits que le cerveau droit intervient. Ces explications reposent toujours sur ce qui arrive à notre conscience, mais en réalité les actions et les sentiments se produisent avant que nous n'en ayons conscience, la plupart résultant de processus non conscients qui ne parviendront jamais à la conscience. Ecouter les explications que donne autrui de ses actions est intéressant, et dans le cas des politiciens divertissant, mais c'est souvent une perte de temps..." pp 87-88.
- "... Maintenant que nous avons pris conscience  du fait que la plupart de nos traitements ont lieu de façon inconsciente et automatique, revenons à la question posée à la fin du chapitre précédent; Avec tant de systèmes complexes qui s'activent dans le subconscient d'une manière diversifiée et distribuée, pourquoi nous sentons-nous unifiés?..." p 92.
- "...Ce résultat illustre la tendance humaine à générer des explications pour les événements. Lorsque nous sommes mis en alerte, nous sommes poussés à expliquer pourquoi. S'il y a une raison évidente, nous l'acceptons...Quand ce n'est pas le cas, nous en produisons une....Ainsi, ce processus d'interprétation du cerveau gauche récupère toutes les informations, en fait une histoire sensée puis l'exprime tout de go. Comme nous l'avons vu, les explications produites par l'hémisphère gauche ne valent cependant que par les informations qu'il reçoit. Et dans nombre d'exemples vus ci dessus, il est clair que ces informations peuvent aussi être fausses..." p.100
-   "...l'hémisphère gauche fait des associations en se basant sur des fréquences et identifie à tort des stimulus nouveaux, mais similaires à d'autres déjà rencontrés. Il saisit le sens d'une situation à partir de toutes les informations, tente de trouver une grille d'interprétation, puis de donner une histoire cohérente. Ramachadran a suggéré que le lobe pariétal droit avait un système qu'il nomme détecteur d'anomalies, qui réagit lorsque les différences sont trop grandes. Le cerveau droit qui prend les choses à la lettre rue alors dans les brancards. Cela expliquerait que des patients ayant des lésions à ce lobe puissent produire avec leur hémisphère gauche des histoires aussi outrancières et sans limites, alors que cela n'arrive pas quand les lésions se trouvent dans l'hémisphère gauche et que le droit, système précis et exigeant, est pleinement opérationnel. Les patients avec des lésions au lobe frontal gauche ont tendance à ne pas entrer dans le déni, la rationalisation, ou dans des affabulations justificatrices, et deviennent souvent déprimés..."p.110
- "...Voilà qui nous ramène à la question première de ce chapitre : comment en venons-nous à ressentir de manière presque évidente que nous sommes un alors que nous comportons une foule de modules? Nous n'entendons pas un millier de voix, mais vivons une seule expérience. La conscience évolue d'un instant à l'autre en un discours unique, unifié et cohérent. L'unité psychologique que nous vivons émerge du système spécialisé appelé "interprète" qui  engendre des explications pour nos perceptions, nos souvenirs, et nos actions et pour les liens qui les unissent. Cela conduit à une histoire personnelle tenant les aspects disparates de notre expérience consciente en un tout cohérent : de l'ordre à partir du chaos. Le module interprète semble être unique à l'être humain et une spécialité de l'hémisphère gauche. Son penchant à faire des hypothèses est ce qui suscite les croyances et les pensées humaines, qui à leur tour, imposent leur marque à notre cerveau..."pp.114_115
- "...Notre conscience subjective émerge de l'incessante recherche de notre hémisphère gauche dominant à vouloir expliquer les différents éléments qui lui sont arrivés...il s'agit d'un processus de rationalisation. L'interprète qui fabrique notre histoire ne le fait qu'avec ce qui parvient à la conscience.  Comme il s'agit d'un processus lent, tout ce qui arrive à la conscience s'est déjà produit. C'est un fait accompli...Qu'est-ce que cela signifie de construire, après les faits, des théories sur nous-mêmes? Combien de fois sommes-nous en train d'affabuler, de donner un compte-rendu fictif d'un événement passé en croyant qu'il est vrai?
        Ce processus d'interprétation a posteriori a des implications sur les grandes questions du libre arbitre et du déterminisme, de la responsabilité personnelle et de notre sens moral que nous aborderons au chapitre suivant..." pp/115-116

           "...Si tous les grands esprits du passé ont traité de la question du libre arbitre, on n'a pas assez pris en compte et admis l'évidente réalité que même dotés de qualités uniques, nous sommes de gros animaux. Le déterminisme était pourtant bien reconnu. Dans le même temps, avant que les neurosciences ne fassent de saisissants progrès, ses mécanismes n'étaient pas expliqués. Aujourd'hui, nous savons que nous avons développé des entités qui fonctionnent comme des montres suisses. Aujourd'hui, plus que jamais, nous avons besoin de savoir si oui ou non nous sommes des agents responsables de nos actions. Il semble que nous puissions le faire. Pour rester simple, la question n'est pas de savoir si nous sommes "libres" ou pas,. Elle est de savoir s'il existe une seule raison de ne pas nous tenir pour responsables de nos actes..."pp 118-119
             L'auteur parle indifféremment de libre et de libre-arbitre comme si les deux termes étaient équivalents. Les grecs ne connaissaient pas le libre-arbitre ( cette notion ne date que de Saint Augustin), pour eux le destin régit toute existence; ils entendent bien pour autant vivre en hommes "libres" et non en esclaves. Quant à la notion de responsabilité elle n'est liée à celle de libre-arbitre que depuis St Augustin qui voyait là le moyen de dédouaner Dieu de l'existence du mal à l'oeuvre dans sa création. Pour un grec, le fait que ma vie soit régie par le destin ne m'ôte en rien la responsabilité de mes actes; et les dieux m'en punissent; c'est un des thèmes des nombreuses tragédies anciennes. De façon plus moderne il ne va pas de soi que la "punition" soit une réponse appropriée à ma responsabilité, mais quel que soit le déterminisme qui gouverne ou non ma volonté, la structure sociale est dans la nécessité de sanctionner les actions dont je suis l'auteur. Mais sanctionner n'est pas forcément punir. Punir n'est pas la seule façon de considérer quelqu'un comme responsable de ses actes.
          "...Le déterminisme avance donc que l'Univers, et tout ce qu'il contient, obéit entièrement à des lois causales.[...] Les implications de cette idée dérangent tout le monde. Si l'Univers, et tout ce qu'il contient, suit des lois prédéterminées, cela suggère que chaque individu n'est pas responsable de ses actes.[...]Lorsqu'il s'agit de nos pensées et de nos actions, nous n'aimons pas l'idée qu'elles soient non conscientes et suivent un ensemble de règles prédéterminées. Il n'en demeure pas moins, et on peut le démontrer expérimentalement, que nos actions sont effectuées , terminées, achevées, avant que notre cerveau n'en soit conscient. Notre système interprète de l'hémisphère gauche fait reculer dans le temps la sensation de conscience pour rendre compte de la cause de l'action[...]Le contrôle conscient de nos actions est-il illusoire?..."pp.124-125
             Gazzaniga explique dans les pages suivantes comment cette idée de déterminisme semble être remise en cause, non seulement par notre sentiment intérieur mais par le développment de la physique elle-même ( théorie du chaos, la physique quantique, l'émergence...)
                 "...Ainsi, en partie à cause de la théorie du chaos et peut-être plus encore à cause de la mécanique quantique et de l'émergence, les physiciens, pas très fiers, sont en train d'évacuer discrètement le déterminisme. Richard Feynman, dans son cours aux premières années de Caltech en 1961 a fait la célèbre déclaration :"Oui! la physique a laissé tomber. Nous ne savons pas comment prédire ce qui pourrait se produire dans une circonstance donnée et nous croyons maintenant que c'est impossible, que la seule chose qui peut être prédite est la probabilité de différents phénomènes. On doit reconnaître que nous sommes en retrait par rapport à notre idéal antérieur de compréhension de la nature. C'est peut-être un recul, mais personne n'a vu le moyen de l'éviter[...]Aussi, pour le moment, devons nous nous limiter à calculer des probabilités. Nous disons pour le moment, mais nous suspectons très fortement que c'est quelque chose qui sera ainsi à jamais, qu'il est impossible de résoudre cette énigme, que c'est la manière dont la nature est vraiment faite."p.139.
              Le texte qui précède est significatif d'une double confusion, ou du moins d'imprécision, concernant ce problème du déterminisme.1
1) prédictibilité et déterminisme. La première est-elle impossible parce que le déterminisme n'existe pas; ou parce que les connaissances que je puis avoir des conditions dans lesquelles les phénomènes se déroulent ne peut jamais être complète. Le texte semble se référer à la première hypothèse " c'est la manière dont la nature est vraiment faite..." 
2) et là nous nous trouvons face à ce qui n'est pas simplement une imprécision, mais une confusion. Confusion entre deux niveaux: le premier est celui de ce que certains appellent le "réel", c'est à dire l'ensemble de ce qui existe, en dehors de toute activité de connaissance s'exerçant sur lui. Le second est celui de ce qu'alors j'appelle "la réalité", c'est à dire la représentation de ce "réel" à laquelle j'accède au terme de mes processus cognitifs. 
Que le "réel" ne fonctionne pas n'importe comment est exprimé de la manière la plus générale par l'expression "ordre cosmique"; mais si la culture traditionnelle chinoise par exemple se réfère à cette expression, la notion de "loi de la nature", par contre n'y a pas de sens, la notion d'un dieu créateur et législateur du monde n'existant pas. Dès lors il nous faut nous interroger: par l'expression "lois de la nature", qu'entendons-nous au juste? Les situons-nous au niveau du "réel", ce qui dans notre culture occidentale est possible, ce "réel" ayant été créé par  un Dieu potentiellement législateur. Ou les situons nous au niveau de notre "réalité", c'est à dire au niveau de notre compréhension du "réel", compréhension qui, elle, ne peut prétendre à autre chose qu'à sa relativité par rapport à ce qui nous est donné d'observer du "réel", selon les outils dont nous disposons, et par rapport aux outils conceptuels qui nous permettent de l'exprimer. Passer de ce niveau de notre compréhension du "réel", au niveau du "réel" lui-même est injustifié, même si notre compréhension nous permet d'intervenir sur ce "réel" et de le modifier. Cela ne nous autorise pas à identifier nos "lois de la nature" ( productions théoriques nous permettant d'ordonner les phénomènes que nous pouvons observer, et éventuellement d'intervenir sur eux) avec les processus de fonctionnement du "réel" ( qui ne peuvent être pensés
comme des lois que dans une perspective créationniste du monde), que nous ne pouvons atteindre qu'à travers "nos" lois de la nature.
Dès lors, quand nous parlons du déterminisme, pour l'affirmer ou le remettre en cause, de quoi parlons-nous exactement? A quel niveau nous situons-nous? Celui de nos représentations; ou celui du "réel"? Pouvons-nous vraiment énoncer en la justifiant la formule ci dessus de Richard Feynman : "C'est la manière dont la nature est vraiment faite..." ?

Gazzanica  envisage ensuite le concept d'émergence, et la façon dont il pourrait permettre de sortir du dilemne : déterminisme ( le cerveau semble commander nos actions avant que nous n'en ayons conscience) et sentiment de libre-arbitre.

            "...De nouvelles règles s'appliquent quand de plus hauts niveau d'organisations émergent...La question est de savoir si nous pouvons nous appuyer sur ce que nous savons du niveau inférieur de la neurophysiologie sur les neurones et  les neurotransmetteurs pour arriver à un modèle déterministe prédisant les pensées conscientes, les productions du cerveau ou la psychologie... Comme lorsque logiciel et matériel interagissent, l'esprit est en quelque sorte une propriété indépendante du cerveau mais aussi complètement dépendante de lui. Je ne crois pas qu'il soit possible de construire un modèle complet du fonctionnement mental de haut en bas..." p. 143
            "...L'émergence, cette idée de rupture de symétrie est simple : la matière acquiert spontanément et collectivement  une propriété ou préférence qui n'est pas présente  dans les lois qui la sou-tendent...L'émergence... est le passage d'un niveau d'organisation à un autre...Le point clé pour appréhender l'émergence est de comprendre qu'il existe différents niveaux d'organisation..."p.149
      "...L'idée générale est que nous avons divers systèmes émergents hiérarchiques qui jaillissent du niveau des particules élémentaires aux atomes, de la chimie à la biochimie,de la biochimie cellulaire à la physiologie pour aboutir aux processus mentaux..." p.154

Gazzaniga aborde ensuite l'implication sociale de l'individu humain et il considère qu'il faut la mettre en rapport avec le problème de la liberté et de la responsabilité.

         "...Vous ne pouvez pas analyser le trafic au niveau d'une seule voiture. Lorsque vous avez un paquet de voitures,...alors à ce niveau  vous pouvez prédire le trafic. Un nouveau groupe de lois émerge qui n'étaient pas prévisibles à partir des seules parties.  
       C'est aussi vrai pour le cerveau. C'est une machine automatique qui suit des voies de décision, mais l'analyse d'un seul cerveau ne peut renseigner sur la capacité de responsabilité. Celle ci est une dimension de la vie qui vient des échanges sociaux et il faut pour cela plusieurs cerveaux. Quand plusieurs cerveaux interagissent, des choses nouvelles et imprédictibles commencent à émerger, établissant un nouvel ensemble de règles. Deux propriétés acquises dans cet ensemble qui n'étaient pas présentes auparavant sont la responsabilité et la liberté."...p.150 
       "...Mettre en route une action est quelque chose d'automatique, de déterministe, fait de modules et n'est pas dû à un seul système physique, mais à chaque instant des centaines, des milliers et peut-être même à des millions. Le cours de l'action nous semble l'objet d'un choix, mais le fait est qu'il résulte d'un état mental émergent particulier, sélectionné par le milieu complexe qui interagit autour de lui. L'action est faite de composantes complémentaires venant du dedans et du dehors. C'est comme cela que la machine qu'est le cerveau fonctionne. Ainsi, l'idée de cause supérieure peut gêner notre compréhension. Comme le dit John Doyle :"Où est la cause?" Ce qui se passe, c'est une correspondance entre de multiples états mentaux présents en permanence et les forces du milieu affecté dans lequel elle prend place. Notre interprète déclare alors que nous avons librement choisi.
           Cela devient plus compliqué. Nous allons devoir considérer maintenant le contexte social des actions individuelles et des contraintes qui les accompagnent alors. Il se passe quelque chose au niveau du groupe. p.155-156.

Gazzanica, dans les lignes qui suivent, va développer l'idée que non seulement nous sommes constitués génétiquement pour vivre en société mais que nous sommes prédisposés à la collaboration beaucoup plus qu'à l'agression. Ceci se manifesterait très tôt chez l'enfant.
            " Il s'avère que nous sommes cablés dès la naissance pour les interactions sociales...Aider est quelque chose qui vient naturellement et n'est pas exclusivement appris...Les travaux du laboratoire de Tomasello ont montré que des enfants der 1 an donnent librement une information. S'ils savent où se trouve un objet recherché par quelqu'un, ils le pointent du doigt. Chose intéressante, le comportement altruiste qui apparaît inné chez l'être humain est influencé par l'expérience sociale et la transmission culturelle. A l'âge de 3 ans, les enfants commencent à discriminer qui ils aident.Ils partagent plus avec ceux qui ont déjà partagé avec eux. Les chimpanzés font la même chose, montrant au moins certaines caractéristiques d'un altruisme réciproque. Les normes et les règles sociales commencent aussi à influencer le comportement altruiste des enfants de maternelle..."(pp.158-160)
                "...Réussir dans un groupe social demande plus que de la compétition. Il faut aussi coopérer, autrement des activités comme la chasse en groupe ne se produiraient pas... Si la cognition et en général favorisée par la compétition sociale, d'autres de ses aspects qu'ils ( Tomasello et Lev Vygotsky ) considèrent uniques à l'être humain, comme les aptitudes à partager des objectifs, à l'attention ou l'intention commune et la communication pour coopérer, seraient guidés ou constitués par la coopération sociale, laquelle est requise pour créer des choses aussi complexes que la technologie, les institutions culturelles et les systèmes de symboles, et non par la compétition sociale." p. 163
                  "Hare et Tomasello pensent que pour développer le niveau de coopération nécessaire aux hommes pour vivre dans de grands groupes sociaux, ils ont du devenir moins agressifs et moins enclins à rivaliser. Ils estiment que l'être humain na dû subir un processus d'autodomestication dans lequel les plus ouvertement agressifs ou despotiques étaient ostracisés ou bien tués par le groupe. Ainsi le pool génétique a été modifié et cela s'est traduit par la sélection de systèmes qui contrôlaient, inhibaient en fait, des formes de réactivité émotionnelle comme l'agression ( nous verrons plus loin qu'une aire du cortex préfrontal droit a été découverte qui inhibe bien le comportement uniquement pour soi!). Le groupe social a contraint le comportement et finalement affecté le génome..." p.172.
               Dans les pages qui suivent, Gazzanica passe en revue diverses découvertes des neurosciences ( que nous avons déjà rencontrées par ailleurs ): la théorie de l'esprit p. 174-175; les neurones miroirs pp.176 à 180;  le rôle de l'imitation, non consciente ou volontaire pp.179-180. Plus novateur est son développement sur l'existence en chacun de nous d'intuitions morales plus ou moins inconscientes, mais qui déterminent nos comportements dans le sens d'une sociabilité accrue. D'où le va et vient entre les contraintes sociales dont l'effet finit par s'inscrire jusqu'au niveau de notre fonctionnement cérébral, lequel va à son tour déterminer des préférences  intervenant dans l'appréciation des comportements sociaux ( cf. les relations mises  en évidence par Damasio entre notre réactivité émotionnelle et notre capacité réflexive ).pp.181à194 Pour conclure momentanément :
                "...De nombreux exemples de circuits moraux ont été identifiés et ils semblent se répartir dans tout le cerveau. Nous possédons beaucoup de réponses innées à notre monde social, dont l'empathie automatique, l'évaluation implicite des autres, les réactions émotionnelles, et tous ces mécanismes renseignent notre jugement moral. Pourtant nous ne pensons pas que ces réponses soient automatiques et ne faisons pas appel à elles pour expliquer nos décisions. Les êtres humains agissent couramment  sur les motifs moraux, mais avancent des raisons différentes pour cela. Cela est dû au fait qu'il y a une cacophonie d'influences qui guident notre comportement et nos jugements. Ces influences proviennent des systèmes émotionnels et de jugements moraux spécifiques, puis le comportement moral inné s'exprime et nous l'interprétons. Nous croyons personnellement à cette interprétation et cela devient une partie pleine de sens de notre vie. Mais ce qui déclenche notre réponse, ce sont ces propriétés universelles que nous possédons tous.
              Il s'avère que nous partageons tous les mêmes systèmes moraux et avons tous tendance à répondre de la même manière à des situations similaires. Nous ne différons pas dans notre comportement, mais dans nos théories sur les raisons pour lesquelles nous répondons ainsi et le poids que nous accordons aux différents systèmes moraux. Comprendre que nos théories et la valeur que nous leur accordons sont la source de tous nos conflits pourrait grandement nous aider, il me semble,à faire que les gens avec différents systèmes d'opinion vivent en bonne harmonie.
                  Notre cerveau a développé ces circuits nerveux qui nous permettent de bien évoluer dans un contexte social. Même enfants, nous avons des jugements, faisons des choix et nous comportons en fonction de ce que font les autres. Nous préférons ceux qui sont prêts à aider, ou même neutres à ceux qui perturbent. Nous comprenons quand quelqu'un d'autre a besoin d'aide, et nous agissons de manière altruiste. Nos systèmes neuronaux miroirs étendus nous donnent la capacité de comprendre les intentions et les émotions des autres et à partir de cette information notre module interprète élabore une théorie sur eux. Nous utilisons aussi le même module pour construire une histoire sur nous-mêmes.
                 Notre contexte social changeant avec notre connaissance accrue de notre véritable nature, nous pouvons désirer changer notre manière de vivre et notre vie sociale, notamment au sujet de la justice et des sanctions. Cela nous amène au sujet... sur la façon dont nous intégrons les dynamiques sociales à nos choix personnels, dont nous comprenons les intentions, les émotions et les objectifs des autres pour survivre, et comment les processus sociaux influencent nos esprits individuels." pp194-195.

                 Dans le chapitre suivant, Gazzaniga aborde le problème de la sanction sociale face aux criminels.
                  
                  "...Neutralisation, punition, ou réinsertion sont les trois possibilités dont dispose la société pour traiter les comportements criminels. Lorsque la société considère la sûreté publique, elle doit faire face aux perspectives envisagées par ceux qui font et rendent la loi, à savoir le châtiment, approche fondée sur la punition de l'individu et juste ce qu'il mérite, ou le conséquentialisme, approche utilitaire où ce qui est bien est ce qui a les meilleures conséquences pour la société...p.199
                    ...Les perspectives sur la nature humaine qui émergent des neurosciences ont un impact culturel sur les lois et sur nos concepts de responsabilité et de justice. Les questions que nous abordons sont à la base même de notre système légal : notre penchant naturel pour le châtiment est-il nécessaire ou une conception utilitaire de la responsabilité suffit-elle? La punition est-elle justifiée? p.201 
                    ...La question est celle ci : les neurosciences modernes confirment-elles de plus en plus nos idées sur le déterminisme, et avec plus de déterminisme y a-t-il moins de raisons pour la punition? Pour dire les choses autrement, avec le déterminisme, il n'y a plus de reproches, et sans reproches, il ne devrait plus y avoir de punition. C'est cette idée implicite qui inquiète. Si nous changeons notre opinion à ce sujet dans notre culture, nous allons changer la manière dont nous traiterons ces aspects malheureux du comportement humain que sont le crime et le châtiment."p.207_208
                     Gazzaniga pose ensuite le problème de l'utilisation dans les tribunaux des moyens utilisés par les neurosciences ( imagerie cérébrale, expertise présumée sur la dangerosité du criminel, etc...) Il semble que les neuroscientifiues soient actuellement très réservés sur cette utilisation, chaque cerveau étant unique et les données issues des neurosciences étant souvent très difficiles à interpréter.
                       "...Les arguments contre l'utilisation de l'imagerie cérébrale dans la justice sont actuellement évidents pour plusieurs raisons. D'abord, tous les cerveaux diffèrent entre eux.Il est impossible de déterminer si un pattern d'activité est normal ou pas chez un individu. Ensuite, l'esprit, les émotions et la manière dont nous pensons change constamment. Ce qu'on mesure dans un cerveau à un moment donné ne reflète pas ce qui s'est passé au moment du crime. De plus, le cerveau est sensible à de nombreux facteurs qui peuvent influer sur l'imagerie, tels que le café, le tabac, l'alcool, les médicaments, la fatigue, la stratégie, le cycle menstruel, les maladies en cours, l'état nutritionnel, etc... Et les performances aux tests peuvent varier, les personnes pouvant faire plus ou moins bien une tache d'un jour à l'autre. Enfin, les images du cerveau induisent des préjugés. Une image crée un biais de certitude clinique alors qu'elle n'existe pas."p.218
à suivre...
                     La suite du livre me paraît plus confuse Gazzaniga y aborde plusieurs thèmes dont le rôle de l'intention dans l'acte volontaire (p.219), l'éventuelle existence d'une aire de contrôle de la préparation motrice inconsciente du cerveau (p.220); le détecteur de mensonges et les possibilités de "lire", de détecter les états mentaux,( p.222), les ambiguïtés du témoignage ( p. 223-4), pour revenir ensuite sur les divers aspects de la sanction de la justice, justice punitive, justice utilitaire, justice réparatrice. La notion de "punition" , à mon sens, si on ne la disjoint pas d'une problématique morale ou d'une attitude anachronique de vengeance - ce que ne fait pas  Gazzaniga - reste obligatoirement confuse. Une sanction est déjà une punition...mais je n'ai pas besoin du mot , ni pour la comprendre, ni pour la déterminer. Une punition n'est pas forcément un châtiment.( pp.225-235)
                           La postface est par contre à la fois intéressante et essentielle pour comprendre finalement la position de Gazzaniga:
                       "...J'ai essayé de proposer une autre façon de voir ce dilemne ( déterminisme ou libre-arbitre). Mon argument est que toutes les expériences de la vie, personnelles et sociales, ont un impact sur le système mental qui émerge de nous. Ces expériences sont de puissantes forces qui modulent l'esprit. Elles influent non seulement sur notre cerveau, mais révèlent aussi que c'est l'interaction entre ces deux couches du cerveau et de l'esprit qui nous donne notre réalité consciente, ce que nous sommes dans l'instant présent. Démystifier le cerveau est une tâche des neurosciences modernes. Pour terminer ce travail, les neurosciences devront toutefois penser à comment les règles et les algorithmes qui gouvernent tous les modules séparés et distribués du cerveau agissent ensemble pour donner la condition humaine.
                            Comprendre que le cerveau fonctionne automatiquement et obéit aux lois de la nature est à la fois réconfortant et instructif. Réconfortant parce que nous pouvons avoir confiance dans le fait que ce système de prise de décision, le cerveau, possède une structure fiable pour décider des actions. C'est aussi instructif car cela révèle que toute cette question obscure du libre-arbitre est un concept mal agencé, fondé sur des réflexions sociales et psychologiques tenues à des moments particuliers de l'histoire humaine qui ne se sont pas confirmées ou sont en contradiction avec la connaissance scientifique actuelle de la nature de notre Univers..." (pp.238-239).
                        Et, pour finir, Gazzaniga pose le problème des mots dont on dispose pour penser les phénomènes que nous observons.
                        "...En me documentant pour ce livre, j'ai réalisé qu'un langage unique, qui reste à développer, est nécessaire  pour rendre compte de ce qui se passe quand un processus mental contraint le cerveau et réciproquement. L'action est à l'interface des deux. Dans un type de vocabulaire, c'est là où la cause supérieure rencontre la cause inférieure. Dans un autre vocabulaire, cela n'est pas là du tout, mais dans l'espace où les cerveaux interagissent. C'est ce qui se produit à l'interface de notre existence hiérarchisée en niveaux qui détient la réponse à notre quête pour comprendre les relations entre le cerveau et l'esprit. Comment devons-nous décrire cela? Ce niveau émergent a son propre temps et prend place avec l'action en cours. C'est cette abstraction qui nous fait  être, dans le temps, réels et responsables. Toute l'histoire du cerveau qui la produit avant que nous n'en ayons conscience devient sans intérêt ni importance si l'on se place à un autre niveau d'action. Comprendre comment développer un vocabulaire pour ces interactions superposées constitue, pour moi, le problème scientifique de ce siècle." (p.240)
                       
                 En définitive, livre passionnant où l'auteur manifeste une réelle capacité à remettre en question ses hypothèses de départ : responsabilité et libre-arbitre se disjoignent; quant à "cette question obscure du libre-arbitre..." Reste cette nécessité de trouver les mots adéquats pour rendre compte de ces phénomènes émergents qui émanent de notre cerveau.

                                           FIN de l'article.

6 commentaires:

  1. J'apprécie beaucoup le texte de Gazzaniga et en particulier sur le concept d'émergence. Je partage aussi ton regard sur la différence entre liberté et libre arbitre, ainsi que entre le réel ( non représentable) et la réalité une suite de représentations relatives du réel conditionné par une culture une croyance etc.

    Je ne vais pas reprendre ici le "penser et agir en complexité" (Cf E Morin, JL Lemoigne MCX) que j'ai largement décris dans mes livres (voir blog) qui me permet d'élaborer des représentations multipolaires de toutes problématiques d'action sur le réel

    Le libre arbitre convoque les questions de la responsabilité, de la morale privée et du droit public, de la culpabilité ( rapport au jugement moral)

    Dans un environnement chaotique (non déterministe par rapports aux connaissances disponibles) celui qui décide sait qu'il décide d'une décision qui va opérer différemment du prévu initial. L'action décidée transforme la destination autant que le décideur. La responsabilité consiste dans ce cas à assumer les conséquences non déterminables de la décision initiale. Cela n'a pas à engendrer de remords, de culpabilités.
    Cependant le chemin de l'action peut faire sortir du cadre législatif responsabilité pénale ( cause directe ou indirecte d'un accident par exemple) ou du cadre privée de sa propre morale (athée, confessionnelle) et du système de valeur propre au décideur (culpabilisation morale).

    "être responsable" ( action du libre arbitre) doit être distinguer de "être coupable" vis-à-vis de la société (droit public) , ou "être culpabilisé" vis-a-vis de son système de valeur (morale privée).

    je vais reprendre dans le commentaire suivant un extrait du cerveau multipolaire à propos du libre arbitre

    RépondreSupprimer
    Réponses
    1. Le lien établi entre la responsabilité et le "libre-arbitre" me parait une préoccupation très liée à notre culture judéo-chrétienne, à la source précisément du concept de "libre-arbitre". et finalement difficile à penser en dehors d'une problématique dualiste à la Descartes. Je n'ai nul besoin d'être doué de "libre-arbitre" pour être responsable de mes actes et devoir en assumer les conséquences auprès du groupe social auquel j'appartiens, quels que soient par ailleurs les sentiments que cette responsabilité peut faire naître en moi. C'est dans cet esprit là que je vais bien finir par rédiger l'article que j'annonce. Notons en passant que cette insistance à lier la responsabilité au "libre-arbitre" dénote que cette expression, pour ceux qui la conservent, a moins une valeur cognitive qu'une nécessité pratique.

      Supprimer
  2. Le cerveau multipolaire annexe 2 - Question de libre-arbitre

    Le concept de libre-arbitre est fortement interrogé par les approches à vocation naturalistes des neurosciences et de la neurobiologie. Cette faculté du penser libre et du décider en responsabilité est-elle une chimère ou encore une illusion ? Au delà de la définition de cette faculté mentale, il paraît nécessaire de la confronter aux avancées des neurosciences, mais aussi, aux processus d'identification de soi (origine, devenir, être profond), aux processus d'apprentissage et de conditionnements mentaux et enfin aux processus d'élaborations des représentations cognitives et de la visualisation mentales incluant les états de conscience de soi et le concept d'imaginaire.

    Si l'esprit humain possède l'aptitude à penser la personne à la troisième personne, en position méta, à se regarder vivre et à décider libre et responsable de son devenir, cette faculté concerne justement le concept de libre-arbitre en tant que forme particulière d'intelligence ou de compétence. Le développement de la capacité de libre-arbitre serait génétiquement possible dans l'organisation et les fonctions du cerveau. Induite par une combinaison d'intentions racines génétiques, épi génétiques et sociales, la faculté de libre-arbitre se développerait en auto organisation itérative, par un processus d'apprentissage, en autodidacte, en somme.

    Suivant le Petit Robert, le libre-arbitre est la faculté de se déterminer sans autre cause que la volonté.

    Le libre-arbitre peut être considéré comme la faculté mentale de prendre une décision libre et responsable, en son âme et conscience. Ce concept caractérise une qualité de la prise de décision, en autonomie et sans contrainte extérieure. La puissance et la pertinence de cette faculté sont singulières pour chaque décision prise. Les décisions stratégiques se déclinent en décisions élémentaires conditionnées par les contingences internes et externes, au service de la stratégie décidée librement. La liberté de décider est indissociablement liée à la responsabilité de la prise de décision et de ses conséquences. C'est une déclinaison (une dérivée en analogie mathématique) du rapport à soi, aux autres et à l'environnement, dans un instant donné. Cette faculté évalue le rapport que l’individu (sujet, être, acteur, personne) entretient avec l'environnement, les autres et la société comme avec son rapport à elle-même, à son être profond. Cela concerne aussi le rapport que la personne entretien avec la connaissance. Cette perspective est plutôt d'ordre ontologique.

    Le concept de libre-arbitre interroge aussi le rapport qui le lie aux concepts de volonté, d'intention et de désir tout autant qu'avec ceux de la connaissance, d'éducation, d'information, de conditionnement et d'apprentissage, ou encore avec ceux du sujet, d'être, d'acteur, de personne et d'individu. Dans ce sens le libre arbitre, au même titre que l'autonomie, serait une compétence à acquérir et à développer de façon spécifique dans différents contextes. Cette perspective sera davantage d'ordre épistémologique. Pour poursuivre ma réflexion, je vais retenir cette acception : le libre-arbitre comme compétence à développer.

    Dans ce sens, ce qui induit l'émergence de cette compétence pour un individu donné est le fruit d'un conditionnement socioculturel, d'un itinéraire personnel et d'une capacité génétique qui vont se traduire en intention cognitive, en désir affectif, et en émotion corporelle pour développer cette compétence. Peu importe la nature de la source, déterministe ou déterminante, ce qui émerge est une compétence multidimensionnelle, de responsabilisation, de prise de recul et de capacité de choix dont chaque dimension est plus ou moins développée au court de la vie.


    RépondreSupprimer
  3. suite
    On pourra repérer quelques dimensions usuelles de cette compétence comme la capacité à décider en responsabilité, en son âme et conscience, la capacité à prendre du recul vis à vis des influences ou manipulations externes des réseaux sociaux ou encore vis à vis de soi, de ses dogmes et systèmes de croyance, de ses peurs, angoisses ou souffrances, de ses héritages familiaux, de sa personnalité et de ses traits de caractères. Progressons encore dans la difficulté d'acquérir la compétence de libre arbitre. La personne développera une pensée méta capable d'identifier la nature du regard qui la regarde vivre (introspection cognitive, affective, relationnelle et corporelle ou écoute de soi) et capable de générer l'énergie, l'information et la connaissance indispensable pour agir, pour faire évoluer les facultés de la personne ou plus modestement la façon de construire son image du monde. L'une des facultés les plus intéressantes de la compétence du libre-arbitre me paraît être de pouvoir penser et faire évoluer comment la personne pense ce qu'elle pense en fonction du contexte. La personne peut ainsi acquérir la faculté à penser par elle même, à se libérer des systèmes de pensées dominants. La faculté de libre-arbitre aurait ainsi la capacité de s'auto organiser et de s'auto développer.

    La compétence de libre-arbitre induit l'énergie et l'information nécessaire à l'acquisition de postures introspectives, réflexives et régulatrices. Cela est un investissement, a un coût, demande des efforts, de la persévérance pour obtenir des gains différés potentiels et incertains. L'apprentissage exige compréhension et amour de soi et des autres, autodiscipline pour tenir et faire aboutir l'engagement initial. La compétence de libre arbitre, instable par essence, toujours en devenir (acquisition ou perte), permet ainsi à chaque instant, dans chaque contexte de maintenir la personne à égale distance de la pression du social (le rôle d’acteur) et de la pression organique (le sujet, les conditionnements hérités ou acquis). C'est l'une des compétences clés pour orienter sa vie et prendre en main son destin avec audace et humilité, en conscience.

    Le concept de compétence de libre-arbitre interroge frontalement celui de l'identité de l'individu (personne, acteur, sujet) : c'est à dire le rapport que la personne entretien vis-à-vis d'elle même. Cela interroge aussi frontalement le rapport que la personne entretien avec les autres et son environnement. Le conditionnement culturel de l'individu occidental diffère profondément du chinois ou d'un bouddhiste en ce qui concerne par exemple le rapport au temps, le rapport au groupe, à l'identité, à l'être, à l'origine ou encore au devenir, au sentiment de culpabilisation si fondateur dans certaines religions. Une des dimensions de la compétence de libre-arbitre concerne justement cette capacité à prendre en compte, à surplomber ces différences de conditionnement culturel.

    RépondreSupprimer
  4. suite et fin

    Le questionnement sur le libre-arbitre est lié à la perception du concept d'identité de l'individu. Certains caractérisent ce tout par "la personne", "le sujet" ou encore "l'individu". J'ai choisi de désigner ce "tout" par l'individu. Cela est arbitraire. Dans cette désignation, l'individu inclut entre autre la représentation de soi et la croyance en ce "soi". Dans ma représentation, le "Je" qui parle en moi, en posture surplombante est une production de mon imaginaire, c'est à dire l'intégrale des mémorisations conscientes et inconscientes de la succession de mes instants du vie. Le "Je" qui parle en moi ne correspond pas à un invariant mais à une posture éphémère, toujours en devenir. Ce qui caractérise mon identité, l'origine du "Je" est l'ensemble des informations "souvenirs" qui organisent mon imaginaire.
    L'individu [personne - sujet - acteur - posture méta] singulier, en relation aux autres et au monde est représenté dans le cerveau de façon multiples. Le concept de libre-arbitre interfère donc avec les concepts qui construisent nos représentations du cerveau : la conscience, l'imaginaire et l'inconscient pour la partie informationnelle pure.

    RépondreSupprimer
    Réponses
    1. Je renvoie ici aux divers commentaires qui suivent les articles ;"le libre arbitre et la responsabilité", ainsi que "des lois de la nature au libre-arbitre". L'essentiel de ma réponse y est déjà dit.

      Supprimer