14. 엔트로피(Entropy)

오늘은 본격적으로 엔트로피의 정의에 대해서 알아봅시다. 제가 개인적으로 어릴 때 흥미를 가지던 파트여서 공부하면서 더 신이 나는 부분이었습니다.

(다들 물리 좋아하면 엔트로피 이야기에 관심 가지는 거 아니었나요..어라라)

엔트로피도 내용이 상당히 길기 때문에, 두 부분으로 나누어서 포스트를 게시하도록 하겠습니다. 그러면 이제 지체 없이 바로 시작해 보죠!

---

엔트로피의 정의(definition of entropy)

13장에서 클라우지우스 정리를 마지막으로 끝을 맺었습니다. 하지만 새로운 개념은 이제 여기서 시작입니다. 엔트로피라는 개념이 너무 유명해서 일반인들도 보통 "무질서도"라는 개념으로 받아들이고 있지만, 우리는 열역학적으로 정의를 할 겁니다. 클라우지우스 정리에 따르면 가역 기관(reversible engine)은 다음과 같은 등식을 만족합니다(원래는 부등식이었는데, 등호 성립 조건이 가역 기관이라는 가정이었죠).

폐곡선 적분을 취했는데 0이라는 것은, 경로 의존성이 전혀 없고 함수의 종점(point)에만 의존한다는 겁니다. 이건 상태함수(function of state)의 가장 큰 특징이었습니다. 그러니까 결론적으로 이게 뭔지는 모르겠지만, 이 물리량이 일단 기존의 것들과는 다른 형태의 새로운 상태함수라는 거죠!

이것을 물리학자들은 엔트로피(entropy)라고 정의하고, 다음과 같은 관계를 가집니다.

헷갈리지 말아야 할 것은, 항상 dQ는 가역 기관에서의 경우만 의미한다는 것입니다. 비가역 기관의 경우 엔트로피가 아닙니다!

이렇게 새롭게 정의한 엔트로피라는 개념은 상태함수이므로, 경로 의존성이 없어서 다음과 같이

적분을 취했을 때 양 끝단인 A와 B에만 의존하게 됩니다. 그래서 A = B인 경우는 0이 되는 것이죠(폐곡선 적분과 동일).

만약 가역 기관에서 단열 과정을 거쳤다면, 당연히 dQrev = 0 입니다. 그러면 우변이 0이 되었으니 좌변도 0이 되겠죠?

그래서 (가역 기관에서의) 단열 과정은 엔트로피가 일정한 과정입니다. 그래서 등엔트로피(isentropic) 과정이라고도 부릅니다.

비가역적 변화(irreversible change)

위에서 가역적인 변화에 대한 논의를 했습니다. 하지만 가역 과정은 매우 이상적인 과정입니다. 실제 자연계에서는 저러한 형태의 과정을 거칠 수가 없습니다. 가역적이라는 것은 정적인 상태에 가깝게 매우 천천히 변화를 시키는 것인데, 이것은 무한한 시간의 소모를 필요로 합니다. 따라서, 실제로는 불가능하다는 것이죠.

그러면 우리가 보는 대부분의 열역학적 과정은 비가역적(irreversible)인 과정입니다. 이러한 경우는 어떤 논리를 적용할 수 있을까요?

다시 한번 되새김질을 하자면, 엔트로피는 가역적인 과정에서 열의 미분(differential)로써 정의됩니다.

클라우지우스의 정리에 따르면, 비가역 과정인 경우는 dQ < 0 의 관계를 가졌습니다.

만약 기관에서, 어떠한 열역학적 과정이 발생했을 때 이 과정이 여러 단계로 나누어서 볼 수 있다고 생각합시다. 그러면 가역 과정인 경우와 비가역 과정인 경우로 나눌 수 있을 것입니다. 그러면 당연히 위에서의 결과처럼, 각각의 적분의 총합은 0보다 같거나 작을 것입니다(비가역 과정이 없다면 0이니까요).

적분 구간이 반대로 되어있으므로, 가역 과정에서의 적분을 우변으로 이항하고, 적분 구간을 뒤집어서 좌변과 우변의 적분 구간을 일치시킬 수 있습니다. 그러면,

A와 B의 값에 상관없이, 부등식을 만족시키기 위해 피적분 함수가 같아야 합니다. 조금 더 확장해서 생각해 보면, 짧게 언급했듯 비가역 과정에서의 dQ/T 값은 엔트로피 변화량보다 작기에 dQ/T를 엔트로피라고 정의할 수 없게 됩니다.

이 논리를 우리 우주에 적용할 수 있습니다. 우주는 고립계(열[에너지]과 물질을 교환할 수 없는 계)라고 가정할 수 있습니다. 즉 열적으로 닫혀있는 계입니다. 따라서 우주 전체를 한 계로 보았을 때 dQ = 0 입니다. 그러므로, 위의 식에서 dS ≥ 0의 관계를 만족합니다.

그러면 두 가지의 결론을 얻을 수 있습니다.

1. 우주의 내부 에너지는 상수이다(dQ = 0 이므로, 열역학 제 1 법칙).
2. 우주의 엔트로피는 감소하지 않는다(dS ≥ 0 열역학 제 2 법칙).

그래서 열역학 법칙을 우주를 통해 재정의를 할 수 있게 됩니다. 그러면 하나의 예시를 들어 생각해 봅시다. 우주 안의 일부분, 예를 들면 지구나 집, 혹은 비커 안에서 일어나는 열적인 변화에서는 엔트로피가 어떻게 바뀔까요?

우주는 매우 크고 거의 무한하다고 생각할 수 있으므로, 온도가 상수인 열원과 그것과 열적인 접촉을 하고 있는 작은 계를 고려합시다. 그러면 다음과 같은 예제로 귀결됩니다.

열이라는 것은 온도 차에 의해서 방향성이 발생하므로, 온도가 서로 뒤바뀌면 열이 반대로 이동할 것입니다. 각각의 경우에 대해 엔트로피 변화를 확인해 보죠.

각각의 엔트로피 변화는 dQ/T의 식을 활용해서 적분을 하면 구할 수 있습니다. 그 결과는 다음과 같습니다(R은 열원이라는 의미의 reservoir의 약자로 표현한 것입니다. 이것은 계를 제외한 우주에 해당하고, 반대로 우리가 보고자 하는 작은 공간은 계 system으로써 s로 표현합니다).

이렇게 구해진 결과를 모두 더하면, 우주 전체의 엔트로피 변화로 해석할 수 있을 것입니다. 두 엔트로피를 합치면,

함수를 그래프로 그려서 확인해 볼 수 있습니다. 붉은색은 계의 엔트로피를 의미하고, 푸른색은 열원의 엔트로피를 의미합니다. 그리고 초록색은 우주 전체의 엔트로피 변화를 나타내죠. 잘 확인해 보면, 열원과 계의 온도가 같은(열역학적 평형 상태) 경우에 최솟값을 가집니다. 그리고 어떠한 경우도 엔트로피를 감소시킬 수 있는 경우는 없죠. 좌측으로 가도, 우측으로 가도 엔트로피는 증가합니다.

따라서, 우주의 엔트로피는 어떻게든 멈추어 있거나 증가할 수밖에 없다는 것을 확인할 수 있었습니다.

제 1 법칙 재검토(the first law revisited)

열역학 제 1 법칙을 수학적으로 표현하면 다음과 같았습니다.

이 식은 가역 과정과 비가역 과정 모두에 해당되는 식입니다. 내부 에너지 U가 경로 의존성이 없기 때문이라고 했었죠. 이제 여기서 우리가 가지고 있는 지식들을 활용해서, 이 식을 조금 다듬어 보겠습니다.

어떤 계에서 일어나는 열역학적 과정이, 가역 과정이라면 클라우지우스 정리에 의해 다음과 같은 등식을 만족합니다.

그리고 일의 정의 dW = -p dV를 1 법칙의 수식에 적용해 주면, 새로운 형태의 식을 얻습니다. 이것을 열역학 항등식(thermodynamic identity)이라고 합니다.

내부 에너지(internal energy)가 상태 함수(function of state)이기 때문에 기존의 열역학 제 1 법칙의 방정식이 초기 상태와 최종 상태에만 의존했습니다만, 이 형태의 식 역시 비가역 과정에도 적용이 가능합니다! 열역학 항등식 또한 모든 변수가 상태함수이기에 경로 의존성이 없고, 따라서 초기 상태와 최종 상태에만 의존합니다!

지금까지 다루었던 등식들을 조금 모아봤습니다.

이렇게 기존의 1 법칙 수식과, 새로이 정의된 '열역학 항등식'은 모든 경우에 대해서 성립합니다. 그러나 dQ = T dS 와 dW = -p dV 는 가역 과정에서만 적용됩니다. 일반적으로(비가역 과정이 포함되어 있는 경우) dQ < T dS 이며 dW > -p dV 입니다.

이전에 해왔던 것처럼, 내부에너지 U는 상태함수이기 때문에 다음과 같이 완전 미분(differential) 형태로 적을 수 있습니다. 여기서 T와 p를 깔끔하게 정의할 수 있게 되죠.

압력과 온도의 비를 구하기 위해, 다음과 같이 식을 조작하도록 하겠습니다. 우리가 dU 꼴로 식을 표현했다면, 반대로 dV에 대해서 써보도록 하죠.

이것을 원래의 열역학 항등식(밑줄 친 1번 수식)에 대입하면, triple product rule(삼중곱 법칙)을 적용할 수 있게 됩니다.

보면 dU는 지워지게 되고, 변수로는 dS만 남게 됩니다. 이때 양변에 dS를 나누어줍시다. 그러면 1항에 대해서 정리할 수 있는데요, 이것은 아까의 열역학 항등식에서, T에 해당되는 값이었습니다.

여기서 1/T 형태로 식을 조작하면서 역함수의 미분을 쓸 수 있습니다. 매우 간단하게, 분자 분모의 순서를 뒤집어주면 되는 겁니다.

이렇게 얻어진 1/T 에 대한 표현에, p를 곱해주면 깔끔하게 분자/분모 항 한 쌍이 지워지게 되고, 결국 다음과 같은 표현을 얻습니다.

결국 압력과 온도의 비는, 등온 과정에서 엔트로피를 부피로 미분한 것임을 알 수 있습니다.

Joule 팽창(Joule expansion; free expansion)

이번에는 Joule 팽창(혹은 자유팽창; free expansion)이라고 부르는 비가역적 과정에 대해서 알아보도록 하겠습니다. 다음과 같은 상황을 고려해 봅시다.

하나의 큰 단열 용기가 있습니다. 전체 부피는 2V0 이고, 이것을 정확히 반씩 나눌 것입니다. 그리고 좌측의 공간에 1 mol 의 이상기체를 주입했습니다. 이제 여기서, 두 공간을 가로막고 있는 격벽을 한순간에 제거합니다. 이렇게 되면 좌측에 있던 이상기체가 순식간에 팽창하여 전체의 공간을 채우게 될 것입니다. 이런 과정에서 엔트로피의 변화는 어떻게 될까요?

이때 단열용기라고 가정하였으므로 dQ = 0, 열적으로 고립되어 열의 출입이 불가능한 상태입니다. 또한, 우리는 격벽을 서서히 밀어낸 것이 아닌 한순간에 제거했기 때문에, 제거한 순간 기체가 점유할 수 있는 공간은 2V**0** 로 늘어나고, 시간이 흘러서 평형 상태가 됨에 따라 완벽히 균일한 분포로 2V**0** 의 공간을 채우게 됩니다.

따라서, 기체는 일을 한 것이 아닙니다. 그저 하나의 용기에서 모여있다가 스스로 확산된 것 뿐이죠. 이러한 과정은 순식간에 일어났기 때문에 가역적(혹은 준정적 quasi-static)인 과정이 아니어서 경로를 따라서 하나하나 적분을 하여 물리량의 변화를 찾기 어렵습니다. 하지만, 초기 상태와 최종 상태에서의 차이를 이용하여 구할 수는 있죠.

초기 상태와 최종 상태에 대해서 이상기체 방정식을 적용할 수 있습니다.

그러면 위 같이 표현할 수 있습니다. 2배 팽창한 상태입니다. 여기서 열역학 제 1 법칙을 적용하면, dU = dQ + dW, 단열 과정이므로 dQ = 0 이며 일 또한 하지 않았기 때문에 dW = 0 입니다.

따라서, 내부에너지 dU 역시도 0이 됩니다. 단열이면서 등온인 경우가 된 것이죠.

그러므로 초기 상태와 최종 상태의 온도는 일정합니다(단열 곡선과 등온 곡선을 보면서, 어떻게 둘이 같은 곡선을 따라갈 수 있느냐고 생각할 수 있지만, 우리는 어떻게 변했는지는 관심이 없고 - 정확히 말하자면, 알수가 없고 - 결과적으로 어떤 과정이 되었는지를 확인하면서 분석하고 있기 때문에 고려하지 않아도 됩니다).

그렇다는 것은 온도가 변하지 않았으므로 오직 압력과 부피만 변한 경우가 됩니다.

방금처럼 보았던 Joule 팽창은, 굉장히 급격하게 일어나는 열역학적 과정입니다. 따라서 물리량들이 변하는 과정 중간에는, "비평형 상태(non-equilibrium state)"를 거치게 되는데요, 이때는 상태 변수들이 잘 정의되지 않습니다.

쉽게 생각해볼까요? 과정을 세세하게 알 수는 없지만, 결과적으로 압력과 부피만 변한 과정이라고 했는데, 저렇게 급격하게 팽창하는 과정 중(완벽하게 기체가 퍼지지 않은 상태)에 압력을 어떻게 잴 수 있을까요? 좌측에서 측정한 압력과 우측에서 측정한 압력은 다를 것입니다. 또한 부피 역시도 명확하게 정의되지 않습니다. 기체가 완벽히 퍼지지 않았는데 기체가 가지고 있는 부피를 어떻게 정의할 수 있을까요?

이러한 형태로 상태변수가 잘 정의되지 않는 것입니다. 하지만, 아까 위에서도 언급했듯, 초기 상태와 최종 상태는 평형 상태이고, 따라서 이러한 상태 변화의 차이를 구하기만 해도 동일 과정의 엔트로피 변화를 구할 수 있는 겁니다.

이제 실질적으로 엔트로피 변화를 구해봅시다. 등온 과정이라고 가정하면, 다음과 같이 열역학 항등식에 의해

미소 엔트로피 변화 dS를 위와 같이 나타낼 수 있습니다. 등온 과정과 위와 같은 상황에서 Joule 팽창 과정은 결과적으로 동일한 상태를 가지게 되므로(조건만 잘 맞추면), 등온 과정에서의 적분을 통해 엔트로피를 구할 수 있습니다!

우리는 현재 부피에 대한 적분을 취하고 있습니다. 이상기체 방정식을 써서 압력을 부피에 대한 항으로 바꾸어 써준 후, 적분을 취해봅시다.

그러면 기체 상수 R(=NAkB)과 ln 2 의 곱으로 결과가 나오게 됩니다. 즉, Joule 팽창에서의 엔트로피 변화는 등온 과정에서의 엔트로피 변화와 같은 R ln 2 라는 겁니다.

그러면 Joule 팽창만의 엔트로피 변화말고, 우주에 대한 열역학 법칙을 이용해서 계(gas), 주위, 나아가 우주 전체의 엔트로피 변화를 구해봅시다.

아까와 마찬가지로, Joule 팽창을 가역적인 등온 팽창 과정의 결과와 동일하다고 생각합시다.

가역과정은 어떠한 형태든 우주의 엔트로피를 증가시키지 않습니다. 그러면 결과적으로 주위의 엔트로피는 감소해야 됩니다. 물리적으로 생각해보면, 기체가 일을 하면서 부피를 팽창시키고, 온도가 내려감에 따라 외부에서 열을 공급하는 형태가 될 것 입니다.

열의 이동은 열을 공급받는 시스템의 엔트로피를 증가시킵니다(dQ/T = dS). 따라서 계는 열을 받았으므로 엔트로피 증가, 주위는 열을 공급하였으므로 엔트로피가 감소하며 이 둘의 총합인 우주의 엔트로피 변화는 0이 됩니다.

하지만, 우리는 Joule 팽창 과정에서 계는 단열이라고 가정하였으므로 주위의 상태는 변하지 않았습니다. 에너지 교환과 물질 교환을 불허하는 과정이기 때문입니다.

따라서 계의 엔트로피가 증가했다고 해서 주위와 상호작용하지 않으므로, 주위는 아무런 변화도 없습니다. 그러므로,

우주의 엔트로피가 증가한 꼴이 됩니다. 계의 엔트로피만 증가하게 된 꼴이죠. 이러한 비가역적 팽창 과정에서, 기체가 더 넓은 부피로 퍼지게 된 이후라면 그것을 다시 되돌리기 위해 기체에 일을 해주어야 합니다.

이때 가장 적게 일을 하는 방법은 가역적으로 일을 하는 것입니다. 혹은 준정적으로요. 이때의 일을 계산하면

기체의 온도와 증가한 엔트로피를 곱해준 것과 동일한 양의 일을 하면 됩니다. 결론적으로, 기체가 Joule 팽창함에 따라 증가한 엔트로피 분량만큼을 다시 감소시켜주면 되는 것이죠(물론 일이 필요하므로 자발적인 과정은 아닙니다).

따라서 Joule 팽창에서 증가한 계의 엔트로피는 "해주어야 할 일"의 형태로도 표현할 수 있습니다.

실제로 Q와 W는 에너지의 차원이므로 동일한 차원을 가집니다.

그렇다면 여기서 질문이 하나 생깁니다. 아니, Joule 팽창은 단열이라고 가정했으니까 dQ = 0, dW = 0 이라고 했죠? 그러면 엔트로피의 정의 dQ/T = dS는 분자인 dQ가 0이 되어 dS 역시도 0이 되어야 하는 거 아닌가요?

이번 chapter를 잘 살펴보아야 하는데, 이렇게 말한 엔트로피는 오직 "가역 과정"에서만 해당되는 정의입니다. Joule 팽창은 아까도 말했듯 비가역적 과정이죠. 따라서 등식이 아니라 다음과 같은 부등식을 따르게 됩니다.

클라우지우스 정리에서 가역과정과 비가역과정을 따로 나누면, 계의 엔트로피의 증가는 비가역 과정에서의 dQ/T보다 크게 됩니다. 실제로 우리가 가정한 상황으로 열 출입은 없고 증가한 엔트로피는 R ln 2 였으므로 이 부등식 dQ < T dS 에 대입하게 되면 문제없이 성립하는 것을 알 수 있습니다!

엔트로피의 통계학적 기초(the statistical basis for entropy)

통계역학적인 엔트로피를 정의해보겠습니다. 열역학 항등식을 완전 미분(differential) 형태로 다시 써보겠습니다.

이를 통해 T를 정의할 수 있었죠. 우리는 4장에서 온도의 정의를 배웠습니다. 특정 거시 상태(macrostate)에 대응되는 미시 상태(microstate)의 수를 에너지에 대해서 미분하고 상수를 곱하면 그것이 온도의 역수였습니다.

이를 이용해서 미시 상태와 열역학 항등식에서의 T를 연관지어 볼 수 있습니다. 둘이 같다고 등식을 세우면,

엔트로피 S를 kB ln Ω 로 정의할 수 있습니다! 이것은 볼츠만의 묘비에 적혀있는 S = k log W 와 동일한 표현입니다.

이제 이것을 이용하여 Joule 팽창의 엔트로피 변화를 통계역학적인 표현으로 구해보도록 하겠습니다. 만약 통계역학적인 표현과 열역학적인 표현이 동치라면 둘 다 같은 결과를 주겠죠.

기본적인 예시와 동일하게 부피가 두 배로 증가하는 경우를 가정하겠습니다. 초기 상태의 미시 상태 수를 Ωbef. 라고 한다면, 이러한 미시 상태 수는 기체 분자의 위치 자유도와 운동량 자유도로 인해 두 자유도의 곱으로 나타납니다(예를 들어 한 입자가,

섞임의 엔트로피(the entropy on mixing)

이번엔 섞임(mixing)의 엔트로피에 대해서 알아보도록 합시다.

위와 같이, 각각의 공간에 두 종류의 가스가 퍼져있다고 생각해봅시다. 이때 각 기체들은 동일한 압력을 가집니다. 만약 밸브를 개방하면, 서로 다른 기체들이 고르게 섞이게 될 것입니다. 이것은 굉장히 자발적인(spontaneous) 과정입니다. 다들 예측이 되겠지만, 엔트로피가 증가하는 현상이라서 자발적인 겁니다.

그러면 그 변화가 얼마나 되는지 확인을 해볼까요? 우리는 등온 과정에서의 엔트로피를 구했었는데, 그것과 동일한 과정이라고 보아도 무방합니다. 일단 두 기체는 이상기체라고 가정할 것이고, 두 기체는 압력이 같으며, 섞이면서 온도가 변하지 않기 때문입니다. 따라서, 열역학 항등식은

와 같이 써지고, 여기서 엔트로피에 대한 표현 dS를 구할 수 있습니다. 이때 온도가 고정되어 있으므로, 압력은 V에 대한 표현으로 작성할 수 있습니다. 또한, 몰수 n은 부피에 비례하게 됩니다.

문제에서의 부피는 첫번째 기체는 xV였고, 두번째 기체는 (1-x)V였으므로, 위와 같이 계수에 비례합니다. 따라서 각각의 엔트로피 증가는,

와 같이 적분을 취함으로써, ln 형태의 합으로 나오는 것을 볼 수 있습니다. 이것은 열역학적인 방법을 이용하여 엔트로피 변화를 구한 것입니다. 통계역학적으로 구하면 어떨까요?

통계역학적인 엔트로피는 거시상태에 대응되는 미시상태의 수가 중요하다고 하였는데요, 미시상태 수를 정확히 세어야 합니다. 부피가 증가하면, 당연히 자유도가 증가할 것입니다. 왜냐하면 가질 수 있는 위치 point가 증가하기 때문이죠. 가장 위에서 이야기 했던 대로 위치 증가 배수만큼 로그 스케일로 엔트로피가 커지게 될 겁니다.

따라서 1번 기체와 2번 기체의 엔트로피를 구할 수 있습니다. 그리고 이것의 합은, 계 전체의 엔트로피 변화를 나타낼 것입니다. 엔트로피 변화의 총합은,

이고, 이것을 그림으로 나타내면 위와 같이 x = 0.5 일 때 엔트로피 변화가 최대임을 알 수 있습니다. x = 0.5라는 것은 기체의 양이 동등하고, 완벽하게 서로 1:1 비율로 섞임을 의미하죠.

Maxwell의 악마(Maxwell's demon)

과학계에는 4개의 악마가 있습니다. 라플라스의 악마, 맥스웰의 악마, 데카르트의 악마, 그리고 다윈의 악마이죠. 다른 것들도 깊게 언급을 하고 싶지만, 생략하겠습니다.

Maxwell의 악마는, 일을 하지 않고 계의 온도를 '분리'시키는 존재입니다. 쉽게 말해서 엔트로피를 감소시킬 수 있는 것이죠.

다음과 같이 초록색 악마가 있고, 그 악마가 통제하는 방은 두가지의 영역을 가집니다. 이 영역에는 각각의 속력 분포를 가진 기체 입자들이 있습니다(맥스웰-볼츠만 분포에 따르면 각 속도 영역대 별로 존재 비율이 달랐지만, 빠른 분자들은 분명히 존재했었죠).

이 악마는, 너무나도 뛰어난 피지컬을 가지고 있어 방 사이에 있는 문의 조작을 쉽게 합니다. 그래서 마음을 먹으면 일을 하나도 하지 않고도 고른 속도 분포를 가지고 있던 분자들을 문을 통해 걸러낼 수 있습니다. 좌측의 방에는 느린 분자들을 밀폐시키고, 오른쪽 방으로 이동하는 분자들 중에서 빠른(뜨거운) 분자들이 임박할 때만 문을 열어줍니다.

이러한 사고 실험에 따르면, (일을 하지 않으므로) 방 자체는 고립계임에도 불구하고 계의 엔트로피를 감소시켜버리는 능력이 있는 것 같습니다. 이것은 열역학 제 2 법칙을 위배하는 과정입니다. 아이러니한 상황입니다. "법칙"이라는 것은 깨지지 않고 일정하게 유지가 되어야 유효한 개념인데, 이렇게 쉽게 악마 하나가 나왔다고 깨져버리나요?

이것에 대한 답은 '정보 엔트로피의 증가가 있기 때문에 그렇지 않다'입니다. 열역학적인 개념으로만 다루게 된다면 굉장히 아이러니하지만, 정보 엔트로피라는 개념을 도입하게 되면 열역학 제 2 법칙이 성립하게 됩니다.

자세한 정보 이론은 15장에서 다루겠지만, 간단하게 이야기하자면 맥스웰의 악마는 특정 기체 분자들의 위치와 속도에 대한 정보를 가지고 있어야 합니다. 당연히 모든 입자들의 정보를 알면 좋겠지만, 조금 더 인간미 넘치는 악마를 생각해보면, "문 근처에 온 입자"들 중에서, "속도의 방향이 문 쪽"이며, "평균적인 기체 분자의 속도보다 빠른" 입자들을 걸러내기 위해 각각의 정보를 가지고 있어야 하죠. 그래서 특정 분자의 조건에 충족되지 않는 분자들의 정보는 지우고, 새로운 정보를 받아야 할 것입니다. 그런데 란다우어의 원리에 따르면(15장에 가서 정확히 배우도록 합시다), 정보를 지울 때 엔트로피가 증가한다는 것입니다. 정보를 어떻게 지우는지는 모르겠지만, 어떻게든 지우기만 한다면 그러한 과정 속에서 최소 '란다우어 한계'만큼의 열이 발생합니다.

맥스웰의 악마는 분자에 대한 정보를 수시로 지우면서 저장하여야 합니다. 이때 삭제 과정을 통해 엔트로피가 계속 증가하고, "정보"라는 것을 엔트로피로 다루게 된다면 법칙이 깨지지 않는 것입니다. 이것은, 겉으로 보기에는 추상적인 사고 실험이지만, 정보와 에너지를 이어주게 되는 중요한 대목이라고 볼 수 있겠습니다.

엔트로피와 확률(entropy and probability)

우리는 지금까지 엔트로피의 "변화"를 많이 계산했습니다. 그렇다면 엔트로피 자체를 측정하지 않는 이유는 뭘까요? 측정할 수 없는 걸까요?

그건 아닙니다. 측정할 수 있습니다. 그저 측정 조건이 매우 까다롭기 때문이라고 말할 수 있겠습니다.

왜냐하면, 상태 수를 결정하는 변수가 너무도 많기 때문입니다. 맥스웰의 악마를 다시 가져와서 생각해봅시다. 제가 기체 분자의 속력과 위치에 대한 정보를 예로 들었었는데, 이것도 사실 부족한 정보를 가지고 온 것입니다. 입자의 완벽한 분석을 위해서는, 위치와 운동량 뿐만 아니라 그 분자를 구성하는 전자들의 스핀이라던가, 원자핵을 구성하는 핵자들의 스핀 등도 중요합니다. 제가 쉽사리 말씀을 드릴 수 있는 것은 이것까지이나, 아직 인류가 밝혀내지 못한 새로운 자유도가 있을 수도 있겠죠.

결국, 이러한 이유에 따라 엔트로피를 쉽게 단정짓기 어려운 것입니다. 위에서 배웠던 엔트로피의 통계적 정의에 따르면,

로 상태수 Ω가 중요하게 작용하는데, Ω를 정확히 알기가 어렵습니다. 그러면 이때 어느 정도의 타협을 보아야 합니다.

우리는 미시 상태를 구성하는 자유도를 분리할 수 있습니다. 관심 있는 자유도와 관심없는 자유도로 나눌 수 있죠. 그리고 총 미시 상태 수는 관심있는 자유도와 관심없는 자유도의 곱으로 나타낼 수 있습니다.

그래서 위와 같이 상태 수들의 곱을, 엔트로피의 정의인 로그로 쓰게 되면 로그 값의 합으로 쉽게 표현할 수 있죠. 왜 곱을 취해야만 하는지 이해가 안가실 수 있습니다. 그렇다면 예시를 하나 들어보죠. 한 계가 5가지의 관심있는 자유도를 가진다고 합시다. 그러면 관심있는(relevent) 자유도 Srel 은 다음과 같이 구해집니다.

그런데, 아까 전자 스핀이나 핵 스핀처럼 우리가 자연스럽게 고려하지 않은(무관심한; irrelevent) 자유도가 존재할 수도 있죠. 그렇다면 관심있는 상태 자가 무관심한 자유도를 3개씩 추가로 더 갖고 있게 될 겁니다.

그런 경우는 각 상태가 무관심 자유도 3개씩, 총 관심 자유도는 5개이므로 곱해져서 15가 되네요. 아직도 불충분 할수도 있어, 이를 그림으로 쉽게 설명해볼게요.

위와 같은 그림에서, 우리가 느끼거나 생각하고 볼 수 있는 영역은 숫자 1, 2, 3에 해당하는 관심있는 자유도, 즉 거시 상태입니다. 그러나 우리가 보지 못하는 작디 작은 세계 속에서(꼭 작지는 않아도 되고, 고려하지 않는 세계일수도 있습니다), 거시 상태를 결정하는 수많은 미시 상태가 있게 되겠죠.

4장에서도 언급을 했지만, 우리는 미시 상태들의 거시적 결과를 보고 거시 상태라고 이야기를 합니다. 즉 우리의 관심이 닿는 영역은 언제까지나 숫자입니다. 그러나 같은 숫자더라도 그러한 숫자를 결정하게 만드는 요소는 알파벳 a, b, c, …이지요. 지금은 제가 미시 상태의 자유도를 공간 한계 상 2/3/2개로 그렸는데, 자유도라는 개념은 각 거시상태에 동등하게 작용하므로 원칙적으로는 3/3/3이 맞을 겁니다. 그래서 거시 상태수 3, 미시 상태수 3이 되어 총 결과는 9개가 나오게 되겠죠. 결국 (관심 상태수) * (무관심 상태수)의 곱으로 나타난다는 이야기입니다.

이것을 일반화 해보겠습니다. i 번째 거시 상태가 있고, 이것을 결정하는 무관심한 자유도(미시 상태)에 대한 상태수를 ni라고 하겠습니다. 그러면 우리가 i에 대해서 합을 취해주게 되면 거시 상태수가 N개가 된다고 가정해보죠.

한 마디로, 모든 경우에 대한 미시 상태 수의 합이 N이라는 소리입니다. 그러면 여기서 확률을 논할 수 있습니다. 미시 상태들이 만들어 내는 거시 상태는 매우 다양하지만, 우리는 i 번째 거시 상태를 보고 싶다고 하였으니 우리가 i 번째 자유도를 보게 될 확률은 자연스럽게 (전체 경우의 수)에서 (i 번째 거시 상태를 만들어내는 미시 상태의 수)가 됩니다. 이것은 아까 정의하였듯 ni이므로, 확률 Pi를 ni/N으로 정의할 수 있습니다.

이제 관심있는 자유도의 엔트로피와 무관심한 자유도의 합이 총 엔트로피가 된다고 하면(로그 값이므로 합이 맞겠죠),

전체 엔트로피의 값 자체를 추산할 수 있게 됩니다. 먼저 미시 상태의 엔트로피를 계산하면,

"기댓값"의 정의를 이용하여, 확률 변수 Si(i 번째 거시 상태에 대한 엔트로피, 통계적 정의 사용함)와 확률 Pi를 곱해준 후 합을 취해주면 됩니다. Si를 풀어서 써주면 가장 우측의 식으로 변하게 됩니다.

그러면, 우리가 관심있는 자유도의 엔트로피도 쉽게 구할 수 있습니다. 전체 엔트로피에서 무관심한 자유도의 엔트로피를 빼면 되니까요. 적혀있는 계산을 천천히 따라가보면, 깔끔하게 확률의 로그 형태로 정리가 됩니다. 이것은 Gibbs가 제시한 깁스 엔트로피와도 일맥상통하는 부분입니다!