L’argument de la simulation

 

[go to english version : http://perso.wanadoo.fr/fabien.besnard/pdfrefut.pdf ]

 

Récemment proposé par le philosophe Nick Bostrom[1], l’argument de la simulation a attiré l’attention des média du monde entier[2]. Ce raisonnement conduit à la conclusion suivante : soit notre espèce ne créera jamais de simulations informatiques suffisamment précises pour qu’on ne puisse pas les distinguer de la réalité, soit nous sommes très probablement déjà dans une réalité virtuelle ! Que la conclusion paraisse extravagante ne constitue évidemment pas un motif suffisant pour rejeter d’emblée l’argument et il convient de l’analyser avec précision. L’article initial ayant été publié par un journal de philosophie à comité de lecture, puis résumé dans des publications aussi sérieuses que Pour La Science ou The New Scientist, on est en droit de penser que la démonstration de Bostrom a été passée au peigne fin. Pourtant nous allons voir qu’elle ne résiste pas à une analyse un tant soit peu approfondie.

 

Résumé de l’argument

 

Convenons d’appeler « post-humaine » toute civilisation ayant la capacité de créer une réalité virtuelle suffisamment convaincante pour qu’on ne puisse pas la détecter comme telle. Dans la première partie de son argument, Nick Bostrom s’appuie sur différentes conjectures en informatique, en physique, et en neurosciences (notamment que l’esprit humain est simulable par une machine suffisamment complexe) pour affirmer qu’il est techniquement envisageable que notre civilisation devienne post-humaine un jour. De plus, selon l’auteur, les civilisations post-humaines disposent d’une capacité de calcul si grande qu’elles seraient capables de créer non pas une mais un nombre astronomique de simulations. Parmi toutes ces simulations, certaines seraient des simulations de civilisations humaines comme la notre. L’idée centrale est que même si une petite fraction seulement des civilisations post-humaines s’engage dans la simulation de civilisations humaines, l’immensité de la capacité de calcul à la disposition des civilisations post-humaines rend le nombre de simulations effectivement réalisées énorme. Ce nombre outrepasserait largement celui des civilisations non-simulées, et, en l’absence d’autre donnée, il faudrait s’attendre à ce que notre propre civilisation soit une simulation. Plus précisément, on peut calculer la probabilité p qu’une civilisation donnée soit simulée. D’après Bostrom cette probabilité vaut[3] :

 

                                                           psim= fP fI N / (fP fI N +1)

 

Le nombre N, qui est très grand, représente la capacité de calcul moyenne d’une civilisation post-humaine. fp est la fraction des civilisations qui atteignent l’état de post-humanité, on peut donc voir ce nombre comme la probabilité qu’une civilisation donnée devienne un jour post-humaine. fI est la fraction des civilisations post-humaines qui se lancent effectivement dans la simulation de civilisations humaines. À partir de cette formule, et par une analyse mathématique très simple pour laquelle je renvoie à l’article original, on peut montrer que trois cas peuvent se produire :

1)      fp est proche de zéro. En conclusion il est très peu probable qu’une civilisation donnée atteigne la post-humanité.

2)      fI est proche de zéro. Dans ce cas les civilisations post-humaines ne seraient presque jamais intéressées par la simulation de civilisations humaines.

3)      psim est proche de 1. Dans ce cas nous sommes très probablement dans une simulation informatique.

 

Probabilités et poudre aux yeux

 

Puisque l’argument de la simulation repose en partie, nous l’avons vu, sur un calcul de probabilités, il faut avant tout s’assurer que ce calcul est correct avant de se lancer dans l’interprétation. Qu’on se rassure, il ne s’agit pas ici de suivre pas à pas le raisonnement et de pointer du doigt quelque erreur de calcul. Nous allons tout bonnement montrer qu’aucun des nombres fI, fp ou psim n’existe ! Pour cela il faut se souvenir qu’un calcul de probabilité commence par la définition précise de « l’univers », qui n’est autre que l’ensemble de toutes les issues possibles d’une expérience donnée. Cet univers doit ensuite être muni d’une loi de probabilité. Prenons un exemple : je veux calculer la probabilité de tomber sur un « double » avec une paire de dés. L’univers est l’ensemble des 36 résultats possibles pour les deux dés. La loi de probabilité est celle de l’équiprobabilité : chaque résultat a la même chance (donc 1/36) de sortir. Il y a six « doubles », donc la probabilité cherchée est 6/36 soit 1/6. Cette notion d’équiprobabilité est fondamentale dans l’argument de la simulation. En effet, l’expérience (de pensée) que propose Bostrom est de prendre une civilisation au hasard parmi toutes les civilisations « humaines » et de calculer la probabilité de tomber sur une civilisation simulée. En l’absence d’autre information (c’est ce qu’on appelle parfois le principe de raison insuffisante[4]), la probabilité ainsi calculée est celle que l’on doit attribuer à l’hypothèse que notre propre civilisation soit simulée. L’univers est donc l’ensemble de toutes les civilisations humaines, muni de la loi d’équiprobabilité, c’est-à-dire que s’il y a n civilisations, elles ont chacune une probabilité 1/n d’être choisies. Notons que si l’univers est infini, il n’y a plus de notion d’équiprobabilité. Il est donc crucial que l’univers soit fini. Par ailleurs, le calcul de psim fait apparaître des fractions (qui ne sont autres que des probabilités), fI et fp. La première fI, est le quotient du nombre de civilisations post-humaines intéressées par la simulation de civilisations humaines, par le nombre total de civilisations post-humaines, tandis que la seconde, fp, est le quotient du nombre de civilisation post-humaines par le nombre total de civilisations. Pour que le calcul ait un sens, il faut que tous ces nombres soient finis. Le plus grand d’entre eux est le nombre total de civilisations, nous le noterons C dans la suite. Le calcul a donc un sens si, et seulement si, C est un nombre fini. Or il est impossible de savoir si C est un nombre fini ! En effet, le concept de « civilisation » ne fait référence à aucune réalité physique (puisque certaines peuvent être simulées). Ces civilisations ne peuvent pas être localisées dans l’espace ou dans le temps (nous sommes peut être, tous autant que nous sommes, simulés dans un ordinateur localisé autour de l’étoile Sirius un million d’années après J.C. et nous n’avons aucun moyen de le savoir). Pour essayer d’y voir un peu plus clair, on peut définir une hiérarchie entre toutes ces civilisations. Certaines sont simulées par d’autres, ce qui donne une structure arborescente : chaque civilisation (post-humaine) racine donne naissance à des branches qui sont autant de simulations, qui à leur tour engendrent d’autres branches. L’ensemble de toutes les civilisations ressemble à l’ensemble des branches d’une forêt. Pour montrer que C est fini, il faut donc montrer qu’il y a un nombre fini d’arbres, et un nombre fini de branche sur chaque arbre. On peut voir ici un espoir : tout ce qui est simulé l’est in fine dans une machine bien réelle d’une civilisation racine. Aucune machine ne peut disposer d’une capacité de calcul infinie en un temps fini, l’arbre issu de cette racine doit donc posséder un nombre fini de branches à condition que la civilisation racine ne vive qu’un temps limité. En revanche, si l’une quelconque des civilisations racines a un temps de calcul illimité devant elle, elle peut soutenir un arbre de simulations infini[5]. La seule possibilité pour que C soit fini, est donc de postuler que toute civilisation ne vive que pendant un temps fini. La validité de ce postulat paraît bien difficile à évaluer, et cela suffirait à ruiner toute chance de mener à bien le calcul de psim : en effet si cette probabilité dépend d’une hypothèse dont la probabilité est impossible à connaître, la valeur de psim n’a rigoureusement aucune signification pratique. Cependant, si l’univers a une durée de vie finie, alors cette hypothèse sera vérifiée. Considérons maintenant le nombre d’arbres dans la forêt : comment savoir s’il est fini ? Là encore, la seule chose que nous puissions espérer est que l’univers soit fini, à la fois en espace et en temps, auquel cas il serait automatiquement vrai que le nombre d’arbre est fini, puisqu’un univers fini à la fois en espace et en temps ne peut abriter au cours de toute son existence qu’un nombre fini de civilisations « réelles ». Il semblerait que nous ayons progressé : même si nous ne savons pas à l’heure actuelle si l’univers est spatialement et temporellement fini, il est possible que nous le sachions un jour, et dans l’affirmative, C serait fini et le calcul de psim aurait un sens. Or il n’en est rien : il s’agit là d’un pur sophisme ! En effet, rien ne nous autorise à nous baser sur les connaissances de ce que nous croyons être le monde physique pour extrapoler les lois de la physique dans l’univers (y en a-t-il seulement un seul ?) abritant les racines sauf si nous savons que nous sommes dans le même univers, auquel cas nous savons déjà que nous ne sommes pas simulés. Le raisonnement qui précède n’est donc valable que si nous sommes sûrs de la validité de nos connaissances physiques, c’est-à-dire si nous sommes sûrs que nous ne sommes pas simulés, ce qui rend trivialement faux le calcul de psim.

En suivant cette pente, on pourrait facilement argumenter que nous ne sommes mêmes pas sûrs que l’ensemble des civilisations soit un ensemble (au sens mathématique du terme). En effet,  il est défini par ses propriétés, or depuis Russell nous savons qu’énoncer une propriété (être l’ensemble de tous les ensembles, ou être un barbier qui ne rase que les gens qui ne se rasent pas eux-mêmes) ne garantie pas qu’on définisse effectivement un ensemble[6]. En fait on ne sait pas du tout ce que l’on définit, et cela interdit d’utiliser l’outil mathématique comme le fait Bostrom. Plus on y regarde de près, plus on s’aperçoit que le calcul de psim est mal fondé : rien n’est défini clairement, ce qui est compréhensible puisque l’ensemble C échappe à toute description.

On s’aperçoit que ce qui rend la définition de C chimérique, et nous prive ainsi de tout espoir de calculer une probabilité, est la conséquence même de l’idée que nous puissions être simulés. Reprenons l’exemple du lancer de dés : le fait d’envisager tous les résultats possibles ne nous empêche en rien de calculer, bien au contraire c’est un préalable indispensable. Dans le cas de l’argument de la simulation, l’un des « résultats » a pour conséquence d’annihiler tout espoir de dire quoi que ce soit de cohérent. Le fait même de l’envisager empêche d’aller plus loin dans le calcul. L’usage des probabilités n’est donc ici que poudre aux yeux. Pourrait-on imaginer une façon de contourner le problème, et de mener tout-de-même l’argument à bien ?

 

Un raisonnement qui s’autodétruit

 

Ce qui précède met à jour de façon précise le caractère autodestructeur de l’argument de la simulation, à travers l’usage qu’il fait du calcul des probabilités. Nous allons voir maintenant que, du fait de la structure même de cet argument, il n’y a aucune chance qu’il puisse être amendé. Par cela nous voulons dire qu’il ne peut être inséré de quelque manière que ce soit au sein d’un système rationnel de croyances, si ce dernier répond à certains critères que nous allons définir.

Chacun connaît le paradoxe du menteur, qui peut se résumer par l’affirmation « cette phrase est fausse ». On voit rapidement que soit la phrase du menteur n’est ni vrai ni fausse, soit elle est à la fois vraie et fausse. La phrase « nul ne peut démontrer que cette phrase est vraie » a un statut différent, car elle est nécessairement vraie. En effet, si on peut la démontrer, c’est qu’elle est fausse. Auquel cas on peut démontrer quelque chose de faux, et le système (qu’il soit formalisé ou non) dans lequel on travaille est contradictoire. C’est cette même phrase qui a servi à Gödel pour démontrer son théorème d’incomplétude (qui bien sûr ne se résume pas à cela). La structure de l’argument de la simulation s’apparente à celle de la phrase suivante : « on peut démontrer que rien n’est démontrable ». Si on suppose que cette phrase vraie, alors elle est fausse. Donc si on exclut de notre système rationnel de croyances les assertions simultanément vraies et fausses, cette phrase doit être fausse. Nous allons appliquer cette idée à l’argument de la simulation, mais pour cela il faut éviter deux écueils.

Le premier écueil tient à la forme de la conclusion de l’argument de la simulation (A.S.), qui est une disjonction. Nous verrons plus loin comment contourner ce problème. Le second serait de ne considérer qu’une logique binaire. En effet, l’argument de la simulation ne conclut pas à la vérité ou à la fausseté de quelque chose, mais à sa probabilité. De plus il repose sur des hypothèses qui ne sont pas nécessairement vraies, bien qu’elles soient vraisemblables. Nous nous plaçons donc dans un « système rationnel de croyances », en abrégé S.R.C.,  permettant d’affecter à certaines affirmations une probabilité, ou degré de crédibilité, qui est un nombre compris entre 0 et 1. Ces nombres évoluent à mesure que de nouveaux raisonnements sont élaborés, ou que des découvertes sont faites. Nous demandons que trois principes soient respectés.

-Premier principe : si B est une conséquence logique de A, et si la crédibilité de A augmente, alors la crédibilité de B augmente.

-Second principe : si un argument A conduit à prédire que B est probablement vrai, et si un élément en faveur de B est trouvé, alors la crédibilité de l’argument A ne peut pas décroître.

-Troisième principe : la crédibilité d’un argument est inférieure ou égale à la crédibilité de ses prémisses.

 

Le second principe appelle un commentaire. Supposons qu’un homme affirme que tous les corbeaux sont noirs (prédiction B) parce qu’il les a peint lui-même (argument A), et qu’une grande quantité de corbeaux, tous noirs, est observée. Il s’agit d’un élément en faveur de B. Néanmoins, il paraît invraisemblable que l’homme en question ait peint lui-même tous ces corbeaux : la crédibilité de A diminue alors, violant le second principe. L’argument A ne peut donc pas être inséré au sein de notre système rationnel, nous dirons que ce n’est pas un argument rationnel, parce qu’il n’est pas compatible en principe avec une vérification de sa conclusion.

 

Nous pouvons maintenant montrer que l’A.S. ne peut faire partie d’un S.R.C. vérifiant les principes précédents. L’argument de la simulation a la forme suivante : des hypothèses plus ou moins raisonnables sur l’univers physique et la nature de l’esprit (que nous notons collectivement H) conduisent à présumer qu’une puissance de calcul phénoménale est accessible aux civilisations suffisamment avancées. Puis un raisonnement (R) conduit à la conclusion que (1), (2) ou (3) est vraie, où (3) est l’affirmation qu’il est très probable que nous soyons simulés. Schématiquement :

 

A.S. :   (H)à(R)à(1) ou (2) ou (3)   

 

Dans l’article original (R) prend la forme d’un calcul de probabilités dont nous avons vu qu’il était mal fondé, mais nous admettons maintenant qu’il puisse prendre une autre forme, s’insérant dans un S.R.C. vérifiant la condition évoquée plus haut. Chaque étape, en particulier la prémisse (H), possède au sein de ce système une certaine crédibilité, c’est-à-dire que notre système doit contenir les lois de la physique connues et une théorie de l’esprit compatible avec (H). Puisque l’A.S. découle de (H), la crédibilité de l’A.S. est nécessairement inférieure ou égale à celle de (H) d’après le troisième principe. Supposons maintenant qu’un nouvel élément intervienne et augmente la crédibilité de (3) : imaginons par exemple que le message « vous êtes simulés » écrit en lettres de feu apparaisse dans le ciel. Alors puisque (3) implique logiquement (1) ou (2) ou (3), la crédibilité de (1) ou (2) ou (3) se trouverait également renforcée (c’est le premier principe, et c’est ici que nous contournons le premier écueil). Cependant la crédibilité de (H), et donc de l’A.S., se trouverait diminuée. En effet, plus nous pensons qu’il est probable que nous soyons dans une simulation, moins nous devons accorder de crédit aux lois de la physique, puisqu’à tout moment « ceux qui nous simulent » pourraient décider de changer les règles du jeu, de faire des miracles, etc…[7] Une preuve de (3), telle que celle que nous avons imaginée, prendrait d’ailleurs très certainement la forme d’un défi aux lois de la Nature. Or (H) dépend de ces lois, sa crédibilité et donc celle de l’A.S., devrait décroître. Ceci est incompatible avec le second principe.

En conclusion, l’A.S. ne peut pas faire partie d’un S.R.C. contenant les sciences de la nature, et soumis aux principes énoncés plus haut. En ce sens, ce n’est pas un argument rationnel.

 

Terminons en signalant que d’autres définitions de ce qu’est un « argument rationnel » sont évidemment possibles. Cependant, on peut montrer facilement que l’A.S. est incompatible avec tout S.R.C. contenant le principe de réfutabilité Popperien, puisque (3) est clairement irréfutable, ainsi que Bostrom le signale indirectement[8] : toute expérience mise en place afin de réfuter (3) pourrait en principe être falsifiée par les « post-humains » qui nous simulent, sans que l’on puisse s’en apercevoir.

L’A.S. est également incompatible avec la logique inductive, ou le Bayesianisme. En effet, si on note P(B|A) la probabilité de B sous l’hypothèse A, et P(B) la probabilité de B, alors un argument A est en faveur de B si P(B|A)>P(B). Cependant on a la formule :

 

P(A|B)P(B)=P(B|A)P(A)

 

On en déduit que si P(B|A)>P(B) alors P(A|B)>P(A). L’argument de la simulation se présente alors sous la forme P(3|H)>P(3), où l’on a retenue que la conclusion (3), pour simplifier. En clair, l’A.S. nous dit que l’hypothèse (H) est en faveur de la simulation. Mais alors on doit avoir P(H|3)>P(H), ce qui est faux, car sous l’hypothèse (3), la probabilité que (H) (ou quoi que ce soit d’autre) soit vrai diminue.

 

Conclusion ?

 

L’argument de la simulation fait partie d’une longue tradition d’arguments prétendument rationnels en faveur de la foi (si nous sommes simulés, il existe des entités supérieures capables de nous juger et éventuellement de nous ressusciter) : pari de Pascal, preuve ontologique de l’existence de Dieu, et plus récemment physique de l’immortalité de Tipler[9]. Leur point commun est de faire parler d’eux longtemps après avoir été dûment réfutés, la volonté de croire étant bien plus forte que toutes les réfutations rationnelles. En ce qui concerne Bostrom et Tipler, la volonté de croire s’appuie sur la peur de la mort, qui est évidente dans la philosophie « post-humaniste » du premier, et la physique de l’immortalité du second. Dans son article sur l’argument de la simulation, Bostrom développe également une « éthique de la matrice » qui n’est rien d’autre qu’une version « tendance » de l’éthique judéo-chrétienne, les méchants étant punis et les bons récompensés par des instances supérieures. Inévitablement, se pose alors la question de l’existence du mal et de la souffrance, à laquelle Bostrom donne une réponse dont on ne sait trop s’il faut en rire ou en pleurer[10]. Que l’auteur s’adonne à la théologie de son choix ne pose évidement aucun problème. On peut tout-de-même s’étonner qu’un simple vernis pseudo-mathématique ait suffit pour que l’argument de la simulation trouve son chemin vers une revue de philosophie et des magazines de vulgarisation scientifique réputés pour leur sérieux. À moins (mais est-ce pensable ?) qu’il ne s’agisse tout bonnement d’un effet de mode.

 

Références :

 

http://www.simulation-argument.com/   : le site de Nick Bostrom. On peut y trouver l’article original, et une FAQ.

 

 

D’autres objections à l’argument de la simulation :

 

http://www.personal.ceu.hu/students/03/Istvan_Aranyosi/Aranyosi%27s_Online_Philosophy_Papers.html

 

http://www.digitalkingdom.org/~rlpowell/rants/simulation_errors.html

 

http://henrysturman.com/english/articles/simulation.html

 

 

 

 

 

 

HOME



[1] Nick Bostrom, « Are you living in a computer simulation ? », Philosophical Quarterly, vol 53, N° 211, 2003.

Disponible sur internet : http://www.simulation-argument.com/simulation.html

[2] Sur son site internet, N. Bostrom dénombre fièrement 38 apparitions médiatiques concernant son argument.

[3] Je reprends volontairement la formule de Nick Bostrom, même si celle-ci n’est pas exempte de critique.

[4] L’usage du principe de raison insuffisante est peut-être contestable, N. Bostrom traite d’ailleurs de ce problème dans son article. Rappelons que c’est un abus de ce principe qui rend fautif l’argument de l’apocalypse (doomsday argument). Néanmoins nous considérons ici que son usage est licite.

[5] Il s’agit d’un infini potentiel, mais comme la définition de C ne fait aucune référence au temps, il faut se placer à la limite, où l’infini devient actuel.

[6] Notons que ni l’ensemble de tous les ensembles ni le barbier n’existent, tandis que l’ensemble de tous les nombres impairs divisibles par quatre existe, mais est vide.

[7] « They [the post-humans] are omnipotent in the sense that they can interfere in the workings of our world, even in ways that violate its physical laws »

[8] « Should any error occur, the director could easily edit the states of any brains that have become aware of an anomaly before it spoils the simulation.  »

[9]«  Frank Tipler, Physics of Immortality ». L’auteur y développe une théorie selon laquelle les morts seront un jour réveillés au sein de simulation informatiques.

[10] Les gens ne souffrent pas réellement, c’est seulement une apparence extérieure.