집합과 행렬

수학을 처음 배울 때 등장하는 건, 자연수가 아니라 집합이라는 것은 살짝 생뚱맞다.

하지만 그 배경을 이해하니 어느정도 수긍이 간다. (사실 살면서 그 누구도 수학의 시작이 집합이라는 것에 의문을 갖은 사람을 본적이 없다)

다만, 행렬은 도대체가 근본이 없는(?) 개념이고 말그대로 갑툭튀로 보였다. 우리 주변에 행렬로 문제를 해결하는 경우는 거의 없다. 연립 방정식을 행렬을 이용해 푸는 방법이 소개가 되지만 사실 그건 옵션이지 굳이 행렬을 쓸 필요는 없다. 거기다가 행렬은 보통 선형대수와 관계가 있고 선형대수 책들은 대부분 행렬 책이라고 봐도 무방한데 이 또한 이상하기 짝이 없다. 선형이 중요한 건 알겠는데 그걸 굳이 왜 행렬과 엮을까. 행렬은 행렬이지 행렬이 모두 선형성을 갖지는 않는다. (즉, 행렬 != 선형)

대학을 졸업하고 20여년 후 나는 대충 그 답을 알게 되었다.

대학교 들어가서 1학년 때 공대는 대게 미분방정식과 선형(행렬)을 배우게 되어있다. 이 둘도 우연이 아니다. 양자역학에서 전자의 역학을 계산하는 두 축이 슈뢰딩거의 미분으로 된 파동방정식과 하이젠베르크의 행렬 역학이다. 하이젠베르크의 행렬역학이 먼저 나왔고 그 영향력은 슈뢰딩거보다 크다고 말할 수 있지만 아무래도 그가 나치의 편에 서있었던 것이 너무나도 부정적으로 작용하여 심하게 과소평가되고 있다. 맨하튼 프로젝트는 단순히 나치가 원자폭탄을 개발 중이라고 해서 시작된 것이 아니다. 미국의 물리학자들은 그 개발의 연구소장이 하이젠베르크라는 걸 알고 경악을 금치 못했고 아인슈타인은 대통령에게 편지를 썼던 것이다. 오펜하이머 영화에는 이런 내용이 나오는지 모르겠다. 그 당시 오펜하이머는 사실 쩌리에 불과한데 시킬만한 이름있는 물리학자들 중 아무도 갖가지 평계를 대면서 하이젠베르크와 경쟁을 하고 싶어 하지 않았다. 이 얘기도 나중에 다시 정리해서 써야되겠다. 나는 개인적으로 뉴턴, 파라데이 (맥스웰) 다음의 세대를 하이젠베르크로 생각한다. (이렇게 보면 영국은 그 사람이 어떻든 능력만은 인정해주는 분위기인 반면, 독일은 하이젠베르크도 그렇고 뉴턴의 라이벌 라이프치히는 거의 버린거나 마찬가지였다)

선형성은 양자역학의 전반적인 특성이고 미분방정식 / 행렬역학, 두 곳에서도 표현이 된다. 하지만 행렬를 통해 선형성을 보이는 것이 일단 더 그럴듯하고 무엇보다 행렬은 연산자를 마치 "수"처럼 다룰 수 있다. 행렬에서는 PQ != QP, 교환법칙이 안되는걸 유난히 강조하는데 여기서 P와 Q는 행렬이면서 연산자이다. 양자 역학에서 전자의 위치를 알고 운동량을 파악한 결과와, 운동량을 먼저 파악하고 위치를 알아내는 결과가 서로 다르다는 걸 행렬은 있는 그대로 보여준다. (여기서 PQ - QP != 0, but == 플랑크 상수 h, 즉, 불확정성의 법칙이 유도가 된다)

기억이 날지 모르겠지만 어떤 (x,y) 벡터가 있을 때 여기에다가 어떤 4x4 행렬을 붙이면 회전이 되는 내용들을 배웠을텐데 이 때 4x4 행렬은 연산자가 된다. 그리고 연산자와 아무렇게나 작용시켜서 나온 모든 결과가 의미가 있는 게 아니라 오직 특정한 경우에만 의미를 가지는데 이 때 그 결과값들은 현실에서 측정이 되는 실재 물리값들을 의미하고 고유값으로 알려져 있다... 그리고 고유값은 기대값이 되면서 확률로 연결이 된다. 고유값을 eigenvalue라고 하는데 왜 독일어인지 이해가 될 것이다. (이러한 배경을 가진 행렬의 고유값을 대학 2학년 짜리에게 그냥 던져놓고 열심히 고유값만 계산을 하는 것이 과연 맞을까)

너무 길어지는데 이 정도에서 마무리하겠다. 시간이 나면 영화 매트릭스의 제목이 왜 "행렬"인지 (영화에 대한 갖가지 해설과 분석들을 봐왔지만 제목에 대해 심도깊게 다룬 컨텐츠는 못본거 같다) 그 행렬이 오늘날 AI에서 어떤 역할을 하고 그게 어떤 의미인지를 얘기하고 싶다.