Précis d'épistémologie/Entropie, matériaux désordonnés et démon de Maxwell

Précis d'épistémologie

1. Mode d'emploi de la raison
2. L'esprit, comment ça marche ?
3. La recherche de la raison
4. Principes logiques
5. Les fondements des mathématiques
6. Les dispositifs de mesure spatio-temporelle
7. La théorie quantique des destinées multiples
8. Ordinateurs et consommation d'énergie
9. L'origine et l'évolution de la vie et de l'esprit
10. Principes de psychiatrie

Références

(en cours de réécriture)

La réalité de l'entropie thermodynamique

Pour connaître la matière dans tous ses états, l'entropie est l'un des concepts les plus fondamentaux et les plus importants. Avec lui on peut expliquer à peu près tout, sans lui à peu près rien. On peut toujours attribuer une entropie aux divers fragments de matière dès que des conditions très générales sont réunies, être en équilibre thermique ou proche d'un équilibre thermique, et on peut en général la mesurer. Du point de vue de la science empirique et de la théorie thermodynamique, l'entropie est une grandeur réelle, elle décrit des propriétés réelles de la matière. Dans les cours de thermodynamique on dit qu'elle est une fonction d'état pour dire qu'elle est déterminée par l'état réel du système. L'entropie existe réellement, pas seulement dans l'imagination des théoriciens.

Du point de vue de la physique statistique, la réalité de l'entropie est pourtant un problème.

L'entropie statistique

La physique statistique nous demande de distinguer deux notions d'état pour un système physique, l'état microscopique, ou microétat, et l'état macroscopique, ou macroétat.

• Le macroétat est l'état tel qu'il est défini par la thermodynamique. Il dépend de paramètres macroscopiques : le volume, l'énergie interne, le nombre de moles, la pression, la température, la tension superficielle, le potentiel chimique, l'aimantation, le champ extérieur appliqué ou tout autre paramètre macroscopique mesurable qui sert à déterminer l'état d'équilibre du système étudié.

• Le microétat est l'état instantané du système. Il dépend de tous les états de ses constituants microscopiques. En physique classique, il est déterminé par les positions et les vitesses de toutes les particules constituantes. En physique quantique, le microétat est l'état quantique du système qui est déterminé avec l'équation de Schrödinger.

Le macroétat n'évolue pas ou lentement et de façon en général déterministe. Le microétat change en général tout le temps, très rapidement et d'une façon aléatoire.

L'état réel d'un système est toujours son microétat. Le macroétat n'est qu'une description grossière qui ignore tous les détails microscopiques.

Sauf cas exceptionnel, on ne connaît jamais exactement le microétat d'un système macroscopique, parce qu'il faudrait connaître les états quantiques de tous ses constituants microscopiques, qui sont beaucoup trop nombreux pour être recensés, et la façon dont ils sont intriqués.

Comme le microétat est en général inconnu, la physique statistique raisonne sur la distribution de probabilités des microétats possibles. L'entropie est toujours définie à partir de cette distribution de probabilités. Elle est calculée avec la formule de Gibbs :

$S=-k_{B}\sum _{n}p_{n}\ln p_{n}$

où les $p_{n}$ sont les probabilités de tous les microétats possibles $n$. $k_{B}$ est la constante de Boltzmann.

Pour un système quasi-isolé, on peut montrer qu'à l'équilibre tous les microétats possibles sont également probables (cf. complément). D'une façon un peu mystérieuse, on appelle microcanonique cette distribution de probabilités. Si $\Omega$ est le nombre des microétats possibles. Les $p_{n}$ sont alors égales à ${\frac {1}{\Omega }}$ puisqu'elles sont toutes égales. La formule de Gibbs conduit alors à la formule de Boltzmann :

$S=k_{B}\ln \Omega$

Boltzmann est le premier (1872-1875) qui a défini l'entropie statistique. Gibbs est venu ensuite et a généralisé la formule de Boltzmann pour des distributions de probabilités a priori quelconques (1902).

En mécanique quantique, on compte le nombre des microétats d'une base. Ce nombre est la dimension de l'espace des microétats possibles. Lorsque l'entropie est définie avec une distribution de probabilités, on peut attribuer des probabilités aux microétats de base, mais le mieux est de raisonner sur l'opérateur densité.

L'entropie mesure le manque d'information sur le microétat d'un système, donc l'ignorance de l'observateur. Mais alors il semble qu'elle n'est pas une grandeur réelle puisqu'elle dépend de la façon dont l'observateur est informé. Faut-il en conclure que la thermodynamique a tort de postuler que l'entropie est une fonction d'état ?

La réalité de l'entropie statistique

Ensembles statistiques, ergodicité et moyennes temporelles

La physique statistique est développée d'une façon mathématiquement rigoureuse en raisonnant sur des ensembles statistiques de systèmes physiques (Gibbs 1902). La probabilité d'un microétat est interprétée comme la probabilité qu'un système choisi aléatoirement dans l'ensemble statistique soit dans ce microétat. La théorie ergodique permet en principe de relier les grandeurs définies avec un ensemble statistique aux grandeurs définies avec un unique système physique. Les moyennes sur l'ensemble sont identifiées aux moyennes temporelles du système. Mais on raisonne en général sur des moyennes de très long terme, parce qu'il faut des durées immenses par rapport à l'âge de l'Univers pour qu'un système macroscopique explore une fraction appréciable de son espace des microétats accessibles. Or les mesures thermodynamiques sont en général assez rapides. Tant que les systèmes ne sont pas trop éloignés d'un équilibre thermique, une fraction de seconde peut suffire. On peut même souvent les mesurer en continu. On n'attend jamais des milliards d'années.

Si on calcule correctement une grandeur d'équilibre, avec un ensemble statistique adapté, le résultat est confirmé par l'observation. Mais la durée de celle-ci peut être assez brève, juste le temps que le système atteigne son équilibre. Même quand on attend des heures, ou rarement des semaines, pour que l'équilibre thermodynamique soit atteint, ce n'est pas suffisant pour explorer l'espace des microétats accessibles en son entier. Pourquoi alors le résultat calculé avec une distribution de probabilités sur cet espace est-il identique au résultat observé ?

Le principe des sondages et la méthode Monte-Carlo

Le principe des sondages peut expliquer l'égalité entre les grandeurs thermodynamiques réellement mesurées et les grandeurs calculées avec des ensembles statistiques qui n'ont aucune réalité physique. Une moyenne calculée sur un échantillon représentatif peut être une excellente approximation de la moyenne calculée sur l'ensemble tout entier, pourvu que l'échantillon soit suffisamment nombreux et vraiment représentatif. Lors d'une mesure thermodynamique, le système n'explore qu'une petite partie de son espace de microétats accessibles, mais elle peut être suffisamment grande et représentative pour que la grandeur mesurée soit identique à celle qui a été calculée avec un ensemble statistique.

Une mesure thermodynamique ressemble à la méthode Monte-Carlo. Pour évaluer une moyenne on la calcule à partir d'un échantillon choisi au hasard. Les théoriciens se servent des générateurs pseudo-aléatoires des ordinateurs pour choisir leurs échantillons. Les expérimentateurs font confiance à la Nature. Elle est comme un générateur aléatoire qui choisit à chaque observation un échantillon représentatif qui confirme nos prédictions théoriques. La méthode Monte-Carlo est plus proche de la réalité physique que les ensembles statistiques qu'elle sert à étudier. Quand on fait une mesure thermodynamique la Nature elle-même applique la méthode Monte-Carlo avant de nous fournir le résultat.

Qu'une moyenne temporelle brève soit représentative de l'espace de tous les micro-états accessibles n'est a priori pas du tout évident, et même plutôt exclu, parce qu'on observe seulement une petite partie de la trajectoire du système et qu'elle peut être très différente des autres parties. Comment se fait-il que la Nature soit un générateur aléatoire fiable qui nous donne des échantillons vraiment représentatifs des moyennes de très long terme ?

La décohérence quantique

Les lois thermodynamiques doivent être justifiées à partir de la physique quantique, comme toutes les autres lois physiques, parce que la théorie quantique est la physique la plus fondamentale. On peut alors se demander si les probabilités des ensembles statistiques peuvent être interprétées comme des probabilités quantiques. La théorie de la décohérence le suggère. Si on observe un système qui interagit avec un environnement qu'on n'observe pas, on doit le décrire avec un opérateur densité qui définit une distribution de probabilités sur les états du système. Même si l'état initial est précisément déterminé, l'évolution ultérieure est décrite par une distribution de probabilités. Cet effet de décohérence peut être très rapide. Mais les distributions de probabilités obtenues par décohérence ne sont pas en général les distributions des ensembles statistiques de la thermodynamique. La décohérence à elle-seule ne suffit pas pour résoudre le problème des moyennes de court-terme, mais elle peut aider à le résoudre, parce qu'elle est un effet très rapide, très puissant et très général qui introduit beaucoup de hasard dans l'évolution des systèmes physiques.

L'entropie microscopique

Les distributions de probabilités calculées par la physique statistique (Maxwell-Boltzmann, Fermi-Dirac, Bose-Einstein) déterminent les probabilités des états des constituants microscopiques d'un système thermodynamique. Ces probabilités, qui déterminent les vitesses d'une molécule dans un gaz, ou des nombres d'occupation d'états quantiques, permettent de définir une entropie microscopique, c'est à dire une entropie par molécule, ou par état quantique d'une particule. L'entropie du système tout entier est la somme des entropies microscopiques de ses constituants pourvu qu'ils soient statistiquement indépendants (cf. complément). Pour tenir compte de l'indiscernabilité des particules il faut raisonner sur les nombres d'occupation des états quantiques.

La réalité de l'entropie microscopique n'est pas incompatible avec la brièveté des observations parce que l'espace des états accessibles d'un constituant microscopique est petit. Cela suffit pour justifier la réalité de l'entropie microscopique et à partir de là l'entropie macroscopique aussi. Mais pour cela on a besoin de justifier l'indépendance statistique des constituants microscopiques.

L'indépendance des constituants microscopiques

Les constituants microscopiques d'un système en équilibre thermodynamique ne peuvent pas être parfaitement indépendants. Pour qu'ils le soient il faudrait qu'ils n'interagissent pas du tout les uns avec les autres. Mais s'ils n'interagissent pas, ils ne peuvent pas échanger d'énergie et l'équilibre thermique est alors exclu.

Pour qu'un équilibre thermodynamique puisse s'établir, il suffit de supposer que les constituants interagissent faiblement les uns avec les autres d'une façon très diversifiée, c'est à dire que chaque constituant interagit faiblement avec un grand nombre d'autres constituants. Par exemple une molécule d'un gaz est couplée à toutes les autres, à cause des collisions, mais c'est un couplage faible parce que la probabilité d'une collision particulière est très petite.

Un constituant microscopique ne peut avoir à lui tout seul qu'un très faible effet sur son environnement, parce qu'il est tout petit par rapport à lui. Si en outre cet effet est dilué sur de nombreuses autres parties, la possibilité d'une réaction de l'environnement à l'effet de ce constituant est négligeable. Tout se passe comme si l'environnement restait statistiquement toujours presque le même, quel que soit l'état du constituant microscopique. L'état d'un constituant est donc statistiquement presque indépendant de l'état de son environnement. Comme cela est vrai pour tous les constituants microscopiques faiblement couplés, ils sont tous presque indépendants les uns des autres. On peut en conclure que l'entropie macroscopique est le somme des entropies microscopiques.

Pour justifier la réalité de l'entropie statistique, la théorie ergodique ne suffit pas, il faut surtout prouver la quasi-indépendance statistique des constituants microscopiques.

Manque d'information, laisser-faire et équilibre

Le manque d'information sur l'état réel d'un système thermodynamique ne vient pas de la paresse ou de l'incompétence de l'observateur mais de la nature des phénomènes observés. Les expériences thermodynamiques laissent les systèmes observés atteindre ou s'approcher d'un équilibre. On ne contrôle qu'un petit nombre de grandeurs macroscopiques et on laisse l'équilibre s'établir en ignorant les microétats. Si on essayait de les connaître plus précisément, on pourrait empêcher le système de s'approcher de l'équilibre et on ne pourrait pas observer justement ce qu'on veut observer, l'équilibre ou la proximité de l'équilibre. Laisser le système vagabonder au hasard dans son espace de microétats est une condition nécessaire pour qu'on puisse observer un équilibre thermodynamique. Paradoxalement, l'ignorance des microétats, qui est une propriété subjective de l'observateur, est une condition nécessaire pour qu'un équilibre thermodynamique, un événement réel, objectif, puisse se produire. C'est pourquoi l'entropie, qui mesure un manque d'information, est une propriété matérielle objective. Elle est le manque d'information qui rend possible l'équilibre thermodynamique réellement observé.

L'information comme carburant

Le démon de Maxwell

Un démon de Maxwell montre que l'information peut être transformée en travail :

Considérons un gaz dans un récipient. On place une cloison en son milieu. Elle est munie d'une petite porte commandée par un dispositif qui détecte la vitesse des molécules incidentes. Il ouvre la porte seulement si une molécule qui vient de la gauche va plus vite que la moyenne ou si une molécule qui vient de la droite va moins vite que la moyenne. De cette façon le compartiment de droite est réchauffé tandis que celui de gauche est refroidi (Maxwell 1871). On peut se servir de cette différence de température pour faire fonctionner un moteur thermique.

Le dispositif d'ouverture de porte est un démon de Maxwell. Il acquiert de l'information qui peut être ensuite transformée en travail. L'information est donc une sorte de carburant.

Maxwell a inventé son "démon" pour montrer que la loi de non-décroissance de l'entropie est seulement une vérité statistique qui pourrait être transgressée si on était capable de modifier les équilibres statistiques des constituants microscopiques. En son temps, l'existence des atomes et des molécules était encore très hypothétique. Envisager la possibilité de les manipuler était donc hors de question. Mais dès que les constituants microscopiques de la matière furent mieux connus, la possibilité d'un dispositif mécanique qui fonctionne comme un démon de Maxwell pouvait être prise au sérieux.

À ce jour nos capacités d'observation et de manipulation des constituants microscopiques ne permettent pas de réaliser le dispositif imaginé par Maxwell, mais la microscopie à effet tunnel permet d'observer et de manipuler les atomes. On peut alors imaginer un dispositif qui permet de récupérer du travail après avoir réduit l'entropie du système observé, donc une sorte de démon de Maxwell en principe réalisable :

Considérons un cristal qui peut accueillir des atomes en surface. On suppose qu'initialement $N_{A}$ atomes sont répartis aléatoirement sur $N_{S}$ sites et que la température est suffisamment faible pour qu'ils y restent. C'est donc un désordre figé. On commence par observer la configuration exacte des atomes de surface, ce qu'on peut faire avec un microscope à effet tunnel, puis on les déplace et on les rassemble avec le même microscope sur une fraction ${\frac {N_{A}}{N_{S}}}$ de la surface. L'activité du microscope ressemble à un travail de compression isotherme sur un gaz, sauf que ce n'est pas un gaz mais un désordre figé en surface.

Initialement le nombre de configurations possibles est égal au nombre $(_{N_{S}}^{N_{A}})$ de façons de placer $N_{A}$ atomes sur $N_{S}$ sites. Le désordre figé des atomes en surface apporte donc une contribution $S_{A}^{i}$ à l'entropie thermodynamique du cristal :

${\frac {S_{A}^{i}}{k_{B}}}=\ln(_{N_{S}}^{N_{A}})=\ln {\frac {N_{S}!}{(N_{S}-N_{A})!N_{A}!}}=N_{S}\ln {\frac {N_{S}}{N_{S}-N_{A}}}+N_{A}\ln {\frac {N_{S}-N_{A}}{N_{A}}}$

où on s'est servi de l'approximation de Stirling : $\ln N!\approx N\ln N-N$

Après avoir ordonné tous les atomes $S_{A}^{f}=0$.

La loi de non-décroissance de l'entropie semble donc transgressée, comme Maxwell l'avait prédit, parce qu'on peut manipuler les atomes.

Le déplacement des atomes ne requiert en principe aucun travail parce que le travail d'arrachage d'un atome peut être récupéré lors de la redéposition. Mais comme un microscope à effet tunnel consomme de l'énergie et dissipe de la chaleur, il ne diminue pas l'entropie thermodynamique totale. Cette objection est discutée plus loin.

Quantité d'information et travail

Pour convertir en travail la réduction de l'entropie thermodynamique du cristal on met sa surface en contact avec un récipient vide de volume $V$ dont les autres parois ne peuvent pas accueillir les atomes. On divise ce récipient avec une paroi mobile en deux parties à gauche et à droite dont les volumes sont respectivement $V_{G}={\frac {N_{A}}{N_{S}}}V$ et $V_{D}={\frac {N_{S}-N_{A}}{N_{S}}}$. On chauffe le cristal pour vaporiser les atomes dans le volume $V_{G}$. On laisse ensuite le gaz obtenu se détendre de façon isotherme dans la totalité du récipient, ce qui fournit un travail $W=N_{A}k_{B}T\ln {\frac {N_{S}}{N_{A}}}$. On refroidit ensuite le cristal pour laisser les atomes se redéposer à la surface du cristal. Si on procède de façon réversible, avec une succession de bains thermiques, la chaleur fournie lors du chauffage par chaque bain thermique utilisé est exactement égale à la chaleur qu'il récupère lors du refroidissement, parce que la chaleur spécifique à volume constant d'un gaz ne dépend pas de son volume. Le cristal et les bains thermiques qui ont servi à la réchauffer sont donc revenus à leur état initial.

On a supposé qu'une paroi absorbante pouvait faire un vide parfait dans un volume arbitrairement grand. Une telle paroi ne peut pas exister sinon on pourrait faire un mouvement perpétuel de deuxième espèce : on place la paroi chargée d'atomes au contact d'un récipient vide, on la chauffe jusqu'à une température suffisamment chaude pour que tous les atomes soient vaporisés. On laisse alors le gaz se détendre de façon isotherme pour fournir du travail. On refroidit ensuite le gaz à une température suffisamment froide pour que tous les atomes se redéposent sur la paroi absorbante. Si on procède de façon réversible la chaleur fournie lors du chauffage par chaque bain thermique utilisé est exactement égale à la chaleur qu'il récupère lors du refroidissement. On pourrait donc revenir à l'état initial après avoir fourni du travail en n'extrayant la chaleur que d'un seul bain thermique.

Pour faire un calcul exact et compatible avec les lois de la thermodynamique il faut donc tenir compte de la densité d'équilibre d'un gaz au contact d'une paroi absorbante. Cette densité ne peut pas être nulle, mais elle peut être très petite, a priori aussi petite qu'on le veut si la paroi est suffisamment absorbante. Cela suffit pour justifier le calcul ci-dessus où elle est négligée.

Supposons que ${\frac {N_{S}}{N_{A}}}\gg 1$. Alors

${\frac {S_{A}^{i}}{k_{B}}}\approx N_{A}(\ln {\frac {N_{S}}{N_{A}}}+1)$

Si en outre $\ln {\frac {N_{S}}{N_{A}}}\gg 1$, on obtient

$S_{A}^{i}\approx N_{A}k_{B}\ln {\frac {N_{S}}{N_{A}}}$

Or $S_{A}^{i}$ est égale à la réduction d'entropie d'information qu'on obtient lorsqu'on observe les positions de tous les atomes de surface. On obtient ainsi un exemple du théorème suivant :

Si l'entropie d'information est plus petite que l'entropie thermodynamique, alors la différence multipliée par la température $T$ mesure le maximum de la quantité de travail que le système peut fournir lorsqu'il ne peut recevoir de chaleur que d'un bain thermique à la température $T$.

Ce théorème a été établi pour la première fois par Szilard en 1929. Mais son modèle est très irréaliste parce qu'il postule qu'une seule molécule peut pousser un piston comme si elle était un gaz ordinaire.

Pourquoi un démon de Maxwell ne peut-il pas réduire l'entropie totale ?

Pour que l'existence d'un démon de Maxwell soit compatible avec les lois de la thermodynamique il faut que l'une au moins des conditions suivantes soit satisfaite :

1. Le fonctionnement du dispositif ne réduit pas l'entropie du système observé parce qu'il l'augmente avant de la diminuer.
2. Le fonctionnement du dispositif augmente l'entropie de l'environnement.
3. Le fonctionnement du dispositif augmente sa propre entropie.

Maxwell supposait que son démon devait voir les molécules. Mais pour les voir il faut éclairer le gaz et donc le réchauffer. Un tel réchauffement fait augmenter l'entropie du gaz et on peut s'attendre à ce que cette augmentation soit supérieure à la diminution provoquée par l'établissement d'une différence de température. Dans ce cas c'est la condition 1 qui empêche la réduction de l'entropie totale.

La microscopie à effet tunnel ne requiert pas d'éclairage et permet vraiment de diminuer l'entropie du système observé. Mais elle consomme de l'énergie et cède de la chaleur à l'environnement. On est tenté de conclure que l'acquisition d'information microscopique empêche un démon de Maxwell de réduire l'entropie totale parce qu'elle a un coût énergétique. Mais l'acquisition d'information n'a pas nécessairement un coût énergétique. Si le système complet constitué d'un détecteur et d'un système observé est parfaitement isolé de son environnement, cela n'empêche pas le détecteur d'acquérir de l'information. Lors d'une mesure quantique idéale par exemple, le système complet est isolé. Si le système observé est dans un état propre de la mesure, et s'il y a n tels états initiaux possibles, il y a également n états finaux possibles du détecteur, et le système observé n'est pas perturbé. Initialement, il y a n états initiaux possibles du système complet, parce que le détecteur est dans un unique microétat. Finalement il y a également n états finaux possibles du système complet parce que le système observé et le détecteur sont parfaitement corrélés. L'information est donc acquise sans augmenter l'entropie du système complet.

La physique n'interdit donc pas l'existence d'un système capable de détecter les atomes sans coût énergétique.

Faut-il conclure qu'un démon de Maxwell peut réduire l'entropie totale ?

(...)

Compléments

Le mouvement perpétuel de seconde espèce

Une machine qui pourrait élever un poids ou faire avancer une voiture sans qu'on lui fournisse de l'énergie pourrait réaliser un mouvement perpétuel de première espèce. La loi de conservation de l'énergie, la première loi de la thermodynamique, interdit l'existence d'une telle machine. C'est une des lois les plus fondamentales de la physique. Tous les physiciens auraient tout faux si on pouvait inventer une semblable machine, mais personne ne l'a jamais inventée.

Le mouvement perpétuel de seconde espèce ne contredit pas la loi de conservation de l'énergie. N'importe quel corps peut céder de l’énergie s'il est refroidi, sauf s'il est à température nulle, égale à 0 Kelvin = -273.15 °Celsius = −459.67 °Fahrenheit. On peut donc imaginer une voiture, un bateau ou un avion qui pourrait avancer sans consommer de carburant. Il lui suffirait d'absorber de l'air ou de l'eau à la température ambiante et de la rejeter à une température plus froide. La différence d'énergie servirait à faire tourner le moteur.

Pour qu'un tel moteur puisse fonctionner il faudrait pouvoir séparer un corps dont la température est uniforme en deux parties, l'une plus chaude, l'autre plus froide. Mais c'est interdit par la seconde loi de la thermodynamique parce que cela réduirait l'entropie totale. L'impossibilité du mouvement perpétuel de seconde espèce résulte donc de la loi de non-décroissance de l'entropie totale, la seconde loi de la thermodynamique.

Croissance de l'entropie statistique et distribution microcanonique

Les $n$ sont tous les états accessibles d'un système presque isolé, c'est à dire que les perturbations par l'environnement ne modifient pas ou presque pas l'énergie du système. $T_{np}$ est la probabilités de transition par unité de temps de l'état $p$ à l'état $n$. On suppose que toutes les évolutions microscopiques sont réversibles :

$T_{np}=T_{pn}$

pour tout $n$ et tout $p$.

$P_{n}(t)$ est la probabilité de l'état $n$ à l'instant $t$. Par définition des $T_{np}$, on a :

${\frac {d}{dt}}P_{n}=\sum _{p\neq n}(P_{p}T_{np}-P_{n}T_{pn})=\sum _{p\neq n}T_{np}(P_{p}-P_{n})$

${\frac {d}{dt}}S=-k_{B}{\frac {d}{dt}}\sum _{n}P_{n}\ln P_{n}=-k_{B}\sum _{n}[(\ln P_{n}){\frac {d}{dt}}P_{n}+{\frac {d}{dt}}P_{n}]=-k_{B}\sum _{n}(\ln P_{n}){\frac {d}{dt}}P_{n}$

parce que $\sum _{n}{\frac {d}{dt}}P_{n}={\frac {d}{dt}}\sum _{n}P_{n}={\frac {d}{dt}}1=0$

Alors

${\frac {d}{dt}}S=k_{B}\sum _{n,p\neq n}(\ln P_{n})T_{np}(P_{n}-P_{p})=k_{B}[\sum _{n,p<n}(\ln P_{n})T_{np}(P_{n}-P_{p})+\sum _{n,p>n}(\ln P_{n})T_{np}(P_{n}-P_{p})]$

Or

$\sum _{n,p>n}(\ln P_{n})T_{np}(P_{n}-P_{p})=\sum _{p,n<p}(\ln P_{n})T_{np}(P_{n}-P_{p})=\sum _{n,p<n}(\ln P_{p})T_{np}(P_{p}-P_{n})$

Donc

${\frac {d}{dt}}S=k_{B}\sum _{n,p<n}(\ln P_{n}-\ln P_{p})T_{np}(P_{n}-P_{p})$

$(\ln P_{n}-\ln P_{p})$ et $(P_{n}-P_{p})$ sont de même signe et les $T_{np}$ sont toujours positifs, donc :

${\frac {d}{dt}}S\geq 0$

Paradoxalement l'hypothèse de réversibilité microscopique, $T_{np}=T_{pn}$, conduit à une loi d'irréversibilité des processus macroscopiques, puisque l'entropie d'un système quasi-isolé ne peut jamais diminuer.

La distribution microcanonique est une distribution d'équilibre :

${\frac {d}{dt}}P_{n}=\sum _{p\neq n}T_{np}(P_{p}-P_{n})=0$

parce que $P_{n}=P_{p}$ pour tout $n$ et tout $p$.

C'est la seule distribution d'équilibre, parce que si les $P_{n}$ ne sont pas toutes égales, il y en a au moins une $P_{m}$ plus petite que les autres. Parmi tous les états $m'$ tels que $P_{m'}=P_{m}$, il y en a au moins un pour lequel $T_{m'p}\neq 0$ pour un $p$ tel que $P_{m'}<P_{p}$, sinon ils ne seraient pas accessibles. Alors

${\frac {d}{dt}}P_{m'}=\sum _{p\neq m'}T_{m'p}(P_{p}-P_{m'})>0$

et la distribution n'est pas à l'équilibre.

La réalité de la croissance de l'entropie statistique

Le théorème de croissance de l'entropie d'accessibilité est prouvé d'une façon mathématiquement rigoureuse pour un ensemble statistique qui n'a pas d'existence réelle. $P_{n}(t)$ définit la probabilité d'occupation de l'état $n$ à l'instant $t$ pour tous les systèmes d'un immense ensemble imaginé par les théoriciens. Elle décrit l'évolution de cet immense ensemble, pas l'évolution d'un système physique réel. Mais sous des conditions très générales, on peut interpréter les $P_{n}(t)$ comme des probabilités vraiment mesurables, et comparer ainsi leur évolution aux quantités observées.

On suppose que l'évolution macroscopique du système est lente par rapport aux fluctuations microscopiques. L'environnement de chaque constituant microscopique est alors presque constant sur une durée suffisante pour qu'il explore son espace d'états et définisse ainsi des probabilités d'occupation de ces états. Pour chaque constituant microscopique $i$ on peut donc définir des probabilités $P_{im}(t)$ d'occupation de ses états $m$ et en principe les mesurer. Si on suppose que tous les constituants microscopiques sont statistiquement indépendants, ces $P_{im}(t)$ suffisent pour définir les probabilités $P_{n}(t)$ de tous les états $n$ du système macroscopique.

L'entropie est une grandeur extensive lorsque les parties sont statistiquement indépendantes

L'entropie d'une somme est la somme des entropies des parties lorsqu'elles sont indépendantes :

Soient $a$ et $b$ deux parties indépendantes du système $ab$. Les $a_{i}$ et les $b_{j}$ sont les états accessibles de $a$ et $b$ respectivement.

Les entropies de $a$ et $b$ sont :

$S_{a}=-k_{B}\sum _{i}P_{i}^{a}\ln P_{i}^{a}$

$S_{b}=-k_{B}\sum _{j}P_{j}^{b}\ln P_{j}^{b}$

Les états accessibles de $ab$ sont tous les états $a_{i}b_{j}$ pour tous les $i$ et tous les $j$. Si $a$ et $b$ sont indépendantes la probabilité de $a_{i}b_{j}$ est $P_{i}^{a}P_{j}^{b}$ et l'entropie de $ab$ est :

$S_{ab}=-k_{B}\sum _{ij}P_{i}^{a}P_{j}^{b}\ln(P_{i}^{a}P_{j}^{b})=-k_{B}\sum _{ij}P_{i}^{a}P_{j}^{b}(\ln P_{i}^{a}+\ln P_{j}^{b})$

$=-k_{B}(\sum _{ij}P_{i}^{a}P_{j}^{b}\ln P_{i}^{a}+\sum _{ij}P_{i}^{a}P_{j}^{b}\ln P_{j}^{b})$

$=-k_{B}(\sum _{i}P_{i}^{a}\ln P_{i}^{a}+\sum _{j}P_{j}^{b}\ln P_{j}^{b})$

$=S_{a}+S_{b}$

La machine de Szilard

Pour mieux comprendre la transformation d'information en travail, Szilard (1929) nous a invité à raisonner sur une machine qui fonctionne avec un "gaz" à une molécule :

Une molécule est enfermée dans un récipient qui peut être séparé par une paroi amovible et mobile. Lorsque la paroi est mise en place au milieu du récipient on détecte la présence de la molécule dans l'un ou l'autre des compartiments séparés. On a donc acquis un bit d'information. On se sert alors de la paroi comme d'un piston sur lequel la molécule peut exercer un travail. Il faut savoir où est la molécule pour savoir dans quel sens de déplacement du piston un travail peut être récupéré. De cette façon on calcule que dans des conditions optimales un bit d'information permet de récupérer un travail égal à $k_{B}T\ln 2$. C'est le travail effectué par une molécule sur un piston lors d'une détente isotherme à la température $T$ qui double le volume accessible.

La machine de Szilard semble en contradiction avec la thermodynamique parce qu'il suggère qu'on pourrait faire un mouvement perpétuel de seconde espèce. Si le piston ne peut se déplacer que dans un sens, il n'est pas nécessaire de connaître la position de la molécule pour récupérer du travail. Une fois sur deux le piston reste immobile parce que la molécule est du mauvais côté du piston, et on ne récupére aucun travail, mais une fois sur deux il se déplace et on récupére un travail égal à $k_{B}T\ln 2$. En répétant de nombreuses fois l'expérience on pourrait ainsi obtenir une quantité arbitraire de travail sans en dépenser pour connaître la position de la molécule.

Mais un tel procédé requiert un dispositif qui retire le piston et le remet en place. Or il y a deux positions possibles du piston à la fin d'un cycle, soit au milieu s'il n'a pas bougé, soit à une extrémité, s'il a bougé. Le dispositif doit donc acquérir un bit d'information à la fin de chaque cycle. Pour revenir à son état initial, il doit effacer cette information. Le coût d'effacement d'une information est donc là aussi à l'origine de l'impossibilité du mouvement perpétuel de seconde espèce (Leff & Rex 1990).

La machine de Szilard confirme que l'entropie d'accessibilité peut être différente de l'entropie thermodynamique : lorsqu'on introduit une paroi au milieu du gaz à une molécule, on réduit l'entropie d'accessibilité de $k_{B}\ln 2$. En revanche on ne réduit pas l'entropie thermodynamique puisque le gaz ne cède pas de chaleur. Pour la machine de Szilard, l'entropie d'accessibilité peut être réduite en principe autant qu'on le veut. Il suffit de placer plusieurs parois à l'intérieur du récipient.

Pourquoi l'entropie de l'Univers augmente-t-elle ?

La loi de croissance de l'entropie suggère que l'entropie de l'Univers ne peut qu'augmenter, qu'il a commencé dans un macroétat de basse entropie, chaud mais très condensé, et que son expansion lui a permis de se refroidir tout en augmentant son entropie. Mais cette affirmation se heurte à deux difficultés :

• Comme l'Univers est parfaitement isolé son entropie, si on on pouvait la définir, devrait être conservée.

• Il n'y a pas vraiment de sens à parler du macroétat de l'Univers, parce qu'il n'y a pas de sens à parler de l'espace de ses microétats possibles. Il est dans un seul microétat, qu'on appelle parfois la fonction d'onde de l'Univers.

Mais il y a quand même du sens à dire que l'entropie de l'Univers augmente. On peut attribuer une entropie à ses diverses parties (étoiles, planètes, trous noirs, milieu interstellaire...) et constater que la somme de toutes ses entropies augmente. Mais quand on procède ainsi, on suppose que les parties sont statistiquement indépendantes, on ignore leurs corrélations. Or l'ignorance des corrélations conduit à surévaluer l'entropie totale. Si on connaissait le microétat de l'Univers, on connaîtrait aussi toutes les corrélations entre ses parties et on constaterait que l'entropie totale n'augmente pas. Elle resterait toujours égale à zéro. Mais connaître le microétat de l'Univers est évidemment impossible.

Références

Bennett, Charles H., The thermodynamics of computation - a review (Int. J. Theor. Phys. 21, 905-40, 1982, reproduit dans Leff & Rex 1990)

Diu, Bernard, Guthmann, Claudine, Lederer, Danielle, Roulet, Bernard, Éléments de physique statistique (1989)

Feynman, Richard P., Leçons sur l'informatique (1996)

Landauer, Rolf W., Irreversibility and heat generation in the computing process (IBM J. Res. Dev. 5, 183-91, 1961, reproduit dans Leff & Rex 1990)

Leff, Harvey S., Rex, Andrew F., Maxwell's demon, entropy, information, computing (1990)

Maxwell, James Clerk, Theory of heat (1871)

Sethna, James P., Statistical mechanics : entropy, order parameters and complexity (2018)

Szilard, Leo, On the decrease of entropy in a thermodynamic system by the intervention of intelligent beings (Zeitschrift für Physik, 1929, 53, 840-856, traduit dans Leff & Rex 1990)