머신러닝에서 손실함수로 교차 엔트로피(cross entropy)를 사용한다. 본래 분포 확률과 머신러닝 결과로 나온 확률값과의 차이를 최소화 하도록 학습한다.
엔트로피와 차원 개념도 금세 이해하기 쉽질 않다. 엔트로피의 변화가 시간의 흐름이라고 착각한다.
드물게 일어나는 사건은 정보량이 많다고 한다. '겨울에 대관령에 눈이 많이 내린다'와 '사하라 사막에 눈이 온다'의 확률p는 후자가 작다. 즉 정보량은 더 많다. 수학적으로 - log p로 정보량을 표현한다. 이것의 평균이 엔트로피이다.
우리는 빛으로 들어와 눈의 망막에 비친 이미지를 해석해 사물이 뭔지 판단하고 해석한다. 이것도 다분히 자의적이다. 뇌에 저장된 개인적 기억과의 연상작용으로 어떤 사물인 지 인지한다.
우리를 둘러싼 세계는 색으로 차 있다. 물리적 설명은 이렇다. "색은 빛이라는 전자기파의 주파수(진동의 속도)이다. 우리가 지각하는 색은 서로 다른 주파수의 전자기파를 식별하는 우리 눈의 수용체가 생성해낸 신경신호의 심리물리적 반응이다."
양자론'이란 아주 작은 미시 세계에서 물질을 구성하는 입자나 빛 등이 어떻게 움직이는지를 규명하는 이론이다.
미시 세계는 대체로 원자나 분자 크기 이하 즉, 1000만 분의 1mm 정도 이하의 세계라고 할 수 있다.
'양자(Quantum)'란 '셀 수 있는 작은 덩어리'라는 것이다.
상대성 이론은 아인슈타인이 수립한 이론으로, 시간의 흐름이 느려지거나 공간이 휘어진다는 사실 등을 밝혀냈다. 반면 양자론은 전자나 빛 등의 움직임을 설명하는 이론이다. 즉, 상대성 이론이 시간과 공간을 다루는 '거시 세계'를 설명하는 이론이라면, 양자론은 미시세계와 거시 세계를 모두 설명할 수 있다.
물질은 확률적(그림B)으로 존재한다.
양자론이 밝혀낸 또 하나의 불가사의한 사실은 '진공에서 물질이 생겼다가 사라진다'라는 사실이다.
미시 세계에서는 빛이나 전자 등이 '파동의 성질'과 '입자의 성질'을 동시에 갖는다. 이것을 '파동과 입자의 양면성'이라고 한다. 우리의 직관으로는 파동은 퍼져나가고 입자는 한 점에 존재할 수 있는 다른 성질이라고 생각된다. 그러나 미시세계에서는 이러한 직관이 통하지 않는다.
미시 세계에서는 하나의 물체가 여러 장소에 존재할 수 있다. 이것은 마치 분신술 같지만, 미시 세계에서는 실제로 이러한 현상이 일어나고 있다. 실험적으로도 이미 확인된 현상이며, 양자론에서 가장 중요한 성질이라고 할 수 있다.
세계는 오로지 양자장들로 이루어져 있다. 이러한 장들은 시공간 속에 있는 게 아니다. 그것들은 하나 위에 다른 하나가 얹혀 있는 구조이다. 우리가 거시적 규모에서 지각하는 공간과 시간은 이러한 양자장들의 하나인 중력장의 대략적인 흐릿하다. 시공이 바탕에서 지탱할 필요가 없이, 그 자체로 존립하면서 시공 자체를 생성할 수 있는 장들을 '공변 양자장'이라고 부른다.
미시적인 수준에서는 뜨거운 것도 차가운 것도 존재하지 않는다. 하지만 우리가 많은 수의 미시적 성분들을 한데 모으고 그것들을 평균값으로 기술하면 '뜨거움'이라는 개념이 나타난다. 뜨거운 물체란 개별 성분들의 평균 속도가 높은 물체이다. '뜨겁다'의 의미를 적절한 상황에서만 이해할 수 있다.
열이 궁극적으로 과거를 미래로부터 구분짓는다. 이것은 보편적인 일이다. 타오르는 촛불은 연기로 변하지만 연기는 촛불로 변하지 않는다. 그리고 촛불을 열을 만들어낸다. 우리는 살아가고 나이가 들어간다. 그러면서 열을 만들어 낸다. 달도 언제나 똑같이 지구 주위를 돌로만 있는 것처럼 보이지만, 천천히 멀어져가고 있다. 달이 조수를 일으키로, 조수가 바다를 미미하게나마 데우면서, 달과 에너지를 교환하기 때문이다. 시간의 흐름을 보여주는 현상이 벌어질 때마다, 언제나 열이 발생한다. 그리고 열은 많은 변수들을 평균화한 것이다.
우리는 언제나 평균과 관계하고 있다. 평균은 언제나 평균으로 작용한다. 열을 분산하고 그 자체로 시간을 생성한다. 이러한 생각을 파악하기 어려운 까닭은 우리가 시간이 없는 세계와 시간의 형성에 대해 대충이라도 생각하기가 아주 어렵다는 사실에서 비롯된다. 우리는 현실을 오직 시간 속에서만 존재하는 것으로 생각하는 데에 너무 익숙해져 있다. 우리는 시간 속에서 살아가는 존재이다. 시간 속에서 생활하고 시간을 먹고 살아간다. 우리는 미시적 변수들의 평균값이 만들어낸 이 시간성의 효과이다. 시간은 우리가 사물들의 물리적 미시 상태를 간과한 효과일 뿐이다. 시간은 우리가 가지고 있지 않은 정보다. 시간은 우리의 무지이다
실재를 이해하기 위해서는, 우리가 실재에 대해서 말하는 것이 세계를 이루는 관계들의 연결망에, 즉 상호적 정보들의 연결망에 밀접하게 연관되어 있다는 사실이다. 예를 들어 우리는 우리 주위의 실재를 여러 대상으로 쪼갠다. 그러나 실재는 대상들로 이루어져 있지 않다. 그것은 변화무쌍한 흐름이다. 우리는 이러한 가변성에 경계를 지음으로써 실재에 대해서 이야기할 수 있다.
바다의 파도를 생각해보자. 파도 하나와 산의 시착과 끝은 어디인가? 이는 모두 의미없는 물음이다. 파도 하나, 산 하나는 그 자체로는 대상이 아니기 때문이다. 그것들은 이야기를 더 쉽게 할 수 있도록 우리가 세상을 나누는 방식이다. 그것들의 경계는 자의적이고 관습적이며 편의적이다. 그것들은 우리가 가진 정보를 조직하는 방식들, 아니 그보다는 우리가 가진 정보의 형식이다.
성철 스님의 "산은 산이요, 물은 물이다"라는 법어의 철학적 의미도 여기에 있다.
시간은 존재하지 않는다.
사물들을 담고 있는 무정형의 용기로서의 공간은 양자중력과 더불어 물리학에서 사라진다. 사물들(양자들)은 공간에 들어 있지 않다.
하나의 사물이 다른 사물의 부근에 있고 공간의 사물들이 근접하는 관계의 조직이다. 우리가 공간을 불변의 용기라는 생각을 버린다면, 시간을 실재가 펼쳐지는 불변하는 흐름으로 생각함도 버려야 한다.
사물들을 담고 있는 연속적인 공간이라는 생각이 사라지듯이, 현상들이 발생하고 흐르는 연속적인 시간이라는 생각도 사라진다.
어떤 의미에서 공간은 기본 이론에서는 더 이상 존재하지 않는다. 중력장의 양자는 공간 속에 있지 않다. 마찬가지로 기본 이론에서는 시간도 더 이상 존재하지 않는다. 중력의 양자는 시간 속에서 변화하지 않는다. 그 양자들의 상호작용의 결과로써 생겨난 것이 시간이다.
시공연속체와 공간의 양자 사이의 관계는 전자기파와 광자 사이의 관계와 같다. 전자기파는 광자를 큰 규모에서 어림하여 본 것이다. 광자는 전자기파들이 상호작용하는 방식이다.
연속적인 공간과 시간은 중력의 양자들의 역학을 큰 규모에서 어림하여 본 것이다. 중력의 양자는 공간과 시간이 상호작용하는 방식이다.
공간과 시간이 세계의 틀이 되는 일반적인 구조라는 생각을 버려야 한다. 공간과 시간은 큰 규모에서 나타나는 근사적인 것들이다.
우리가 시간이 흐른다고 느끼는 이유 중 하나는 엔트로피 증가의 법칙이다. 엔트로피 증가의 법칙은 우리 주위에서 일어나는 사건은 모두 시간의 흐름에 따라 엔트로피 즉, 무질서한 정도가 증가한다는 법칙이다. 지금 엔트로피가 증가하고 있다면 시간이 정상적으로 흐르고 있다고 볼 수 있다.
우리가 이런 인식을 갖고 있는 이유는 모든 현상은 엔트로피가 낮은 상태에서 시작한다고 생각하기 때문이다. 한 곳에 정리된 물건이나 물속에 떨어뜨리기 전의 잉크 방울은 엔트로피가 낮다. 하지만 우리가 항상 엔트로피가 증가한다고 생각하는 이유는 세상을 희미하게 설명하기 때문이다.
우리가 세상의 미시적인 부분까지 자세히 관찰할 수 있다면 항상 엔트로피가 증가하지는 않는다는 사실을 알 수 있다. 한 묶음의 카드를 섞어보자. 이 카드는 1부터 10까지 순서대로 배열되어 있다. 그렇다면 카드를 섞기 전에는 엔트로피가 낮다고 볼 수 있다. 카드를 섞는 순간 엔트로피가 높아지기 시작한다. 엔트로피가 증가한다는 이유로 시간이 한 방향으로 흐르고 있다고 생각할 수 없다. 사물의 미시적인 상태까지 관찰할 수 있다면 과거나 미래라는 개념은 무의미해진다.
우주에는 엔트로피의 증가를 역행하는 사례가 심심치 않게 존재한다.
우주에는 우주를 떠돌아다니는 먼지들은 스스로 모여서 먼지 뭉치가 되고 이 먼지 뭉치가 커지면서 중력이 생기고 점점 더 커져서 별이 된다. 태양계와 우리 은하도 그런 식으로 만들어졌다. 엔트로피가 높아지기만 한다면 먼지는 끝없이 흩어지기만 해야지 스스로 모여서 먼지 뭉치가 되고 별이 되지는 않을 것이다. 또 헬륨은 수소보다 엔트로피가 낮은데 별은 스스로 핵융합하여 수소를 헬륨으로 변환시킨다. 다만 지구만 계속해서 엔트로피가 높아지는 특별한 계에 속해 있는 것이다. 따라서 엔트로피가 증가하고 있다는 이유로 시간이 흐르고 있다고 생각하면 안 된다.
예를 들어 유리는 고체인 것처럼 보이지만 사실은 매우 천천히 움직이는 액체이다. 유리는 지금 이 순간에도 매우 천천히 녹아내리고 있다. 다만 그 속도가 너무 느리다 보니 우리 눈에는 고체인 것처럼 보이는 것이다. 다른 사물들도 마찬가지이다.
모든 물체는 짧은 순간 동안 자신의 형상을 유지하고 다시 먼지로 분해되기 전 자체적으로 균형 상태를 유지하는 과정이다. 돌도 지금은 단단한 고체처럼 보이지만 미시적인 부분까지 관찰하면 지금 이 순간에도 끊임없이 풍화하고 움직이고 있고 언젠가 완전히 분해되어 먼지가 될 것이다.
최신 물리 이론에 따르면 모든 물체는 양자장의 복잡한 진동이고 힘들의 순간적 상호작용이다. 물질이란 것은 환상이고 존재하지 않는다고도 볼 수 있는 것이다. 즉, 물질도 시간이라는 환상이 만들어낸 또 다른 환상이다.