일반적으로 물리학의 기본 목표는 자연의 기본 원리와 법칙을 밝혀내는데 있다. 우리가 잘 알고 있는 역학, 전자기학, 양자역학적 법칙들을 살펴보면 아주 논리 정연함을 볼 수 있고, 그 결과들은 결국 자연 현상을 설명할 수 있는 기본 원리로 받아들여지고 있다. 그러나, 문제의 복잡성이 증가하는 경우에는 단순히 몇 가지 기본 원리나 법칙만으로 그 문제의 본질을 파악하기는 매우 힘들다. 특별한 경우에는 문제의 복잡성이 증가하는 경우에도 그 원리를 찾아낼 수 있는 경우도 있지만, 자연계에는 전통적인 해석학적인 방법으로 접근할 수 없는 '재규격화가 불가능한' 계도 존재한다. 이러한 계의 대표적인 경우가 바로 최근에 많은 연구가 진행되고 있는 고온초전도체와 초격자 등과 같이 복잡한 구조로 여러 원소가 섞여 있는 새로운 화합물 물질들이다. 여러 개의 원자가 섞여있는 경우에, 그 물질이 구성원소 원자의 성질을 보이면서도 집단적인 성질을 나타내기도 하고, 또 구성 원자들의 조합에 따른 새로운 성질을 보이는 경우가 있다. 작은 계가 모여서 큰 계를 이루었을 때, 작은 계의 성질이 큰 계의 성질에 흡수되지 않고 큰 계에서는 또 다른 성질을 보여 줄 때, 그 물질의 성질을 이해하기 위해서는 축척의 변수를 모두 고려해야만 한다. 따라서, 이러한 복잡한 물질의 물성을 연구하는데 있어서, 전통적인 해석학적인 방법이 갖는 한계를 극복하고 새로운 차원의 원리와 분석방법이 필요하다.

어떤 물리계는 원리적으로는 간단한 것처럼 보이지만 그 결과의 예측이 전혀 불가능한 경우도 있고, 어느 정도의 기본원리 또는 법칙이 알려져 있어 원칙적으로는 이해가 가능하지만 변수가 너무 많아서 정량적인 분석이 불가능한 경우도 있다. 또 방대한 양의 데이터 처리가 필요한 문제는 컴퓨터를 이용한 데이터 처리와 분석이 없이는 현상을 이해하고 새로운 원리와 법칙을 구해내는 것이 거의 불가능한 경우도 있다. 실제로 이렇게 '복잡하다'라고 하는 문제는 분석과정에서 컴퓨터를 이용하여 처리할 수 있기 때문에 새로운 차원의 문제해결을 시도할 수 있고 지금까지는 불가능했던 새로운 원리의 유추도 할 수 있다. 컴퓨터를 이용한 계산이나 데이터 처리가 불가능했던 과거에는, 물리학 분야에서 인간이 가지고 있는 도구는 수학적 방법에 근거한 이론과 여러 가지 측정장비를 이용한 실험에 국한되었지만, 과학기술의 발전과 함께 상상을 초월하는 계산능력과 데이터 처리능력을 갖춘 컴퓨터가 새로운 차원의 물리학적 탐구방법으로 등장하였고, 따라서 계산물리 방법은 전통적인 방법과 더불어 물리학의 영역을 확장시킬 수 있는 수단으로 발전하고 있다.

양자물성론

'고체'는 많은 원자로 구성되어 있기 때문에 근본적으로 매우 복잡한 속성을 가지고 있다. 그 중에는 많은 원자가 규칙적인 모양으로 배열되어 결정구조를 이루고 있는 것도 있고, 어떤 물질은 무작위적인 원자 배열을 가진 비결정성 물질도 있으며, 또 다른 물질은 여러 원자가 섞인 합금이나 화합물 형태로 존재하기도 한다. 이렇게 구조적으로 다양한 '고체'의 성질은 그 구조만큼이나 다양한 물성을 나타내고 있다. 최근에 와서는 '고체'의 개념을 확장하여 '응집물질'이라고 부르는데, 실제로 우리가 눈으로 볼 수 있는 대부분의 물질은 바로 '응집물질'에 해당하고 그 성질은 온 세상의 다양성만큼이나 다양하고 복잡한 형태로 나타나고 있다.

고체의 성질은 그 구성원소인 원자의 양자적 성질과 응집된 상태의 원자들의 집단적 성질로부터 결정된다고 할 수 있다. 고체에 존재하는 전자는 양자역학적으로 축퇴된 상태로 존재하기 때문에, 대부분의 물성을 이해하기 위해서는 고체를 구성하는 전자와 원자핵의 양자적인 성질을 이해하는 것이 필요하다. 원리적인 측면으로 볼 때, 고체의 성질은 양자역학적 법칙과 전자기적 상호작용만으로 충분히 밝혀낼 수 있다. 비상대론적 제일원리 해밀토니안과 전자와 핵 입자들 사이에 작용하는 쿨롱 상호작용만으로도 고체 내에 존재하는 기본 입자간의 상호작용과 물리적 운동의 모든 것을 기술할 수 있기 때문이다. 그러나, 고체의 성질을 다체 전자계에 대한 양자역학적인 슈뢰딩거 방정식을 푸는 방식으로 이해하는 데에는 한계가 있다. 우선 다체 슈뢰딩거 방정식을 푸는 것은 몇 개의 전자로 이루어진 분자계의 경우에나 가능하지, 전자의 수가 수백 개가 넘는 경우에는 아무리 성능이 좋은 슈퍼컴퓨터라 하더라도 컴퓨터의 용량이나 계산 시간의 한계로 인해 그 해를 구하는 것이 실질적으로 불가능하다.

고체의 성질을 이해하기 위해서는 다체 슈뢰딩거 방정식을 직접 풀지 못한다 하더라도 여전히 양자역학적인 방법에 바탕을 두어야 한다. 전통적인 해석학적인 방법에서는 정확한 해가 존재하는 몇 가지 모델에 근거하는 것 외에는 다른 방법이 없다. 예를 들어, 상자에 담겨진 축퇴된 자유전자 모델을 생각하거나, 이와 정반대의 입장에서 고체의 원자들이 단단히 결합된 것으로 가정하여 독립적인 원자 상태에 가깝게 있다고 생각하는 것이다. 실제로 이 모델들은 전도체와 부도체를 기술하는 기본 모델이 될 뿐만 아니라, 고체물리에 적용된 '재규격화' 이론에 따르면 축퇴된 다체 전자계의 해밀토니안을 기술하는 두 개의 '고정점'에 해당된다.^[1] 마찬가지로, 초전도와 자성 등의 현상을 이해하는데 있어서도, 거시적인 입장에서 대칭성의 깨짐에 의한 상전이 현상을 기술함과 동시에 깨진 대칭성 상태를 결정하는 새로운 양자 모델을 설정하여 이해하는 방법을 택하고 있다.

그런데, 이와 같은 해석학적인 접근 방법은 고체의 물성을 결정하는 핵심적인 요소를 찾아내고 그 일반적인 현상을 이해하는 중요한 기반이 되는 것은 사실이지만, 각 물질의 구성원자와 그 구성원소로 이루어진 물질의 성질을 연관시켜 설명하기에는 어려움이 많다. 이러한 결과는 정확한 해가 존재하는 몇 가지 모델에서 출발한 접근 방식이라는 점을 고려할 때 어쩌면 당연한 것인지도 모른다. 모델을 통한 연구는 거시적으로 나타나는 고체의 성질을 일반적으로 설명하기에는 적절할 수 있지만, 각 물질을 구성하는 구성원소에 의한 개별적인 성질이나 물성을 구성원소, 결정구조, 혹은 분자 구조와 연결해주고 그 기본 메카니즘을 밝히는 역할은 할 수 없는 것이다. 따라서, 고체의 성질을 재료학적인 입장에서 이해하기 위해서는 거시적인 현상을 설명하는 모델과 미시적인 구성원소의 성질, 또는 물성을 결정하는 메카니즘 간의 간격을 연결해 줄 수 있는 다리가 필요하다. 이 간격을 메우기 위한 한가지 방법으로 위에서 언급한 제일원리적 해밀토니안에서 출발한 양자역학적 계산을 다시 생각해 보자.

밀도범함수 이론

분자 또는 원자 자체의 운동이 물리적 관심의 대상으로 역학적으로 접근할 수 있는 반면에, 분자의 화학적 성질은 분자 내부에너지의 변화로 결정되기 때문에 고전역학적인 접근방법으로 이해하기에는 한계가 있었다. 양자역학이 대두되기 이전에는 분자의 화학적 성질은 물리적 탐구대상에서 벗어나 있었으며, 열역학적 관점에서 열에너지, 내부에너지 혹은 내부 자유도 등으로 이해하였다. 양자물리학의 발전에 따라서 점점 작은 축척에서 전자 또는 핵 입자의 미세한 운동을 기술할 수 있게 되었고, 여러 물리학자들은 분자를 구성하는 전자와 핵의 운동을 양자역학적으로 직접 기술하여 분자 자체의 화학적 내부에너지와 화학적 성질, 그리고 모든 화학적 반응을 모두 이해할 수 있을 것으로 기대하였다. 그러나, 불행하게도 양자역학적 슈뢰딩거 방정식을 직접 적용하여 다분자 또는 그 화합물의 성질을 계산하고 이론적으로 이해하는 작업은 아주 간단한 원자 또는 작은 분자를 제외하고는 실질적으로 불가능함을 알게 되었다. 이러한 문제는 다분자계 만이 아니라 고체나 응집물질에서도 마찬가지로 매우 어려운 문제로 남아 있다.

양자역학이 완성된 이래로 다체 슈뢰딩거 방정식을 풀려는 시도는 꾸준히 있었지만, 몇 개의 전자로 구성된 계를 제외하고는 아직도 큰 성과를 거두지 못하고 있다. N개의 전자로 이루어진 양자계의 슈뢰딩거 방정식을 풀기 위해서는 전자계의 시간에 따른 변화를 고려하지 않더라도 행과 열의 크기가 어림잡아 N!인 행렬식을 풀어야 하기 때문에, 수천 개 이상의 원자로 구성된 분자 또는 아보가드로 수 만큼(∼10²³)의 원자가 모인 물질의 성질을 계산한다는 것은 실제로 불가능하다. 이와 같은 문제에 대하여 호헨버그와 콘이^[2] 제안한 밀도범함수 이론의 아이디어는 새로운 탈출구가 되었다. 이 이론에 따르면, 양자역학 법칙에 따라 기술되는 다체 전자계의 전체에너지는 각 전자의 궤적 또는 파동함수를 모르더라도 공간의 각 점에 주어지는 전자밀도만으로 유일하게 정해질 수 있다. 다체 전자계의 바닥상태의 전체에너지를 결정하는데 있어서, 각각의 파동함수를 알 필요가 없이 모든 공간의 각 점에서의 밀도만 알면 충분하다는 것이고, 그 전자계의 다른 성질들도 그 전자밀도에 의해 결정될 수 있다는 것이다. 이것은 다체 전자계의 바닥상태, 즉 전체에너지 또는 다른 성질들이 전자들의 파동함수를 알아야만 알 수 있다고 생각해온 고정관념을 바꾸는 획기적인 새로운 아이디어라고 할 수 있다. 따라서, 이 아이디어는 호헨버그와 콘이 처음 주창한 이래, 많은 사람들의 관심을 끌게 되었다.

그런데, 파동함수에서 밀도범함수로의 전환하는 아이디어 자체는 매우 참신하고 많은 관심을 끌었지만, 이때 제안된 방법에서 전체에너지의 밀도범함수 꼴을 정확하게 알 수 없을 뿐만 아니라 구체적으로 전자밀도함수의 운동방정식이 결여되어 있었기 때문에 실제적인 응용이 이루어지지 못했었다. 이 문제의 해결을 위해 콘과 샴이^[3] 실제적인 상호작용을 하는 전자계의 에너지 범함수를 가상의 자유입자의 전자밀도로 표현하는 것으로 전자밀도와 에너지를 동시에 구할 수 있는 방법을 제안함으로써, 밀도범함수 이론을 실질적인 응용의 돌파구를 만들었다. 이 이론의 미묘한 부분은 상호작용하는 전자계의 전체에너지 범함수와 가상의 자유입자의 밀도함수의 대응 관계를 가정하는 것이다. 호헨버그와 콘의 정리에 따르면, 비록 주어진 문제, 즉, 물질에 따라 전자밀도가 다르다 하더라도, 이 범함수는 쿨롱상호작용을 하는 전자계에서는 유일하게 주어지기 때문에 전체에너지와 전자밀도의 범함수 관계를 이용하여

그림 1. 밀도범함수 이론을 통한 실제적인 물질의 물성 연구 방법의 도식적 그림.

그림 2. 국소밀도 범함수 이론에 따른 전자구조 계산 방법의 알고리즘.

국소밀도 범함수 이론에서는 콘-샴 방정식으로 불리는 편미분 방정식으로부터 전자의 에너지 준위와 파동함수를 구하게 된다. (그림 2 참조) 이 방정식을 풀기 위해서는 미분방정식에 포함되어 있는 해밀토니안의 유효퍼텐셜을 알아야 하는데, 이 유효퍼텐셜은 다시 전하밀도로부터 계산되고, 전하밀도는 전자의 파동함수에서 구해지게 된다. 즉, 이 방정식은 자체충족(self-onsistent) 과정을 거쳐야 한다는 것이다. 그림 2에 보여준 바와 같이, 자체충족 과정은 주어진 원자의 종류와 위치에 의해 주어진 근사적인 전하밀도를 입력하여 유효 퍼텐셜을 구하고, 이로부터 미분방정식을 풀어 새로운 에너지 준위와 그에 해당하는 파동함수, 그리고 출력 전하밀도를 구하고, 그 결과를 새로운 입력 전하밀도로 사용하여 자체충족 조건(즉, 입력 전하밀도와 출력 전하밀도가 주어진 오차 안에서 같아질 때까지)이 만족될 때까지 그 과정을 반복하는 것이다. 이러한 반복적 계산과정에는 일종의 되먹임(feed back) 기술이 필요한데, 국소밀도 범함수 계산에서는 입력 밀도와 출력 밀도를 적절히 혼합하여 자체충족 조건으로 수렴하게 만들 수 있다. 이와 같은 방법으로 수치적인 해를 구하는데 걸리는 반복과정의 횟수와 소요시간은 대상 물질의 복잡한 정도에 따라 다르다. 예를 들어, 알루미늄이나 규소와 같이 간단한 덩치(bulk) 고체의 경우에는 10번 정도의 반복과정을 시행하면 수렴하는데 반해, 철(Fe)이나 전이금속 산화물, 혹은 계면현상을 다루는 복잡한 계의 경우에는 100번 이상의 반복계산을 해야만 수렴되는 수도 있다. 자체충족 과정을 거쳐 얻어진 최종 결과는 초기 가정에 상관없는 정확하고 자체충족적인 것으로 볼 수 있다.

이런 형태로 가상자유입자를 도입하여 밀도범함수 계산을 할 수 있다는 것은 실질적으로 매우 중요한 의미를 갖는다. 앞에서도 언급했듯이 밀도범함수 방법의 기본적인 아이디어는 외부에서 퍼텐셜이 주어졌을 때 주어진 계의 바닥상태 에너지가 밀도의 범함수로 주어진다는 것이다. 그런데, 여기서 말하는 외부 퍼텐셜이라는 것이 바로 주어진 계의 구성원자의 핵에 의해서 결정되는 쿨롱 퍼텐셜이기 때문에 일단 원자의 위치가 결정된다면 그것으로부터 그 계의 바닥상태의 에너지를 정확히 구할 수 있다는 것이다. 따라서, 원자의 위치 변화에 따른 바닥상태의 에너지를 구할 수 있다는 것은 바닥상태의 에너지가 원자 위치의 함수로 구할 수 있다는 것을 의미한다. 다시 말해서, 일단 원자의 종류가 주어질 때, 주어진 구성원소에 대한 물질의 바닥상태의 원자 위치를 이론적인 계산만으로 결정할 수 있게 된다.^[4]

제일원리적 전자구조계산

이 결과는 실제적인 물질에 적용할 때 매우 중요한 의미를 갖는다. 예를 들어, 어떤 분자 혹은 고체가 존재한다고 할 때, 구성원소의 종류에 대한 정보만으로도 어떤 분자 혹은 고체가 어떤 구조에서 가장 낮은 에너지를 갖는지 밝힐 수 있다는 것이다. 이것은 새로운 형태의 물질이 발견되었을 때, 그 물질의 구조를 실험을 통하지 않고 이론적인 계산만으로도 바닥상태의 원자 위치를 구할 수 있다는 것을 의미한다. 실제로 이같은 계산은 단순히 구조적인 정보 뿐만 아니라 원자 위치의 변형에 따른 에너지 곡면에 대한 정보로부터 원자의 진동, 변형에 대한 정보도 구할 수 있다. 한 예를 들면, 실험실에서는 재현이 불가능한 상황에서 분자의 동역학이나 화학반응 등을 알기 위해서 이론적으로 고온 고압, 혹은 극저온 저압을 가정하여 계산함으로써 그 결과를 예측하여 중요한 결과를 얻을 수 있다. 이 같은 계산방법은 분자만이 아니라, 고분자계, 고체, 나아가서는 액체에 대해서도 적용될 수 있을 것이다.

일단 밀도범함수 이론에 근거하여 고체의 물성을 계산할 수 있다하더라도, 그 계산자체가 그리 쉬운 일은 아니다. 다체 전자계에서는 전자와 전자, 혹은 전자와 핵 사이의 쿨롱 상호작용이 매우 크기 때문에 다른 모든 전자의 위치가 한 개의 전자에 미치는 퍼텐셜을 결정하게 되어, 결국 한 개의 전자에 대한 양자역학적 방정식을 구하기 위해서는 계 내의 모든 전자, 즉 아보가드로 수만큼의 전자들에 대한 연립방정식을 풀어야 한다는 것이다. 따라서, 원칙적으로 이 방정식을 직접 푼다는 것은 불가능하다. 따라서, 이런 어려움을 피하기 위해 방정식의 수를 대칭성을 이용하여 줄이거나 근사적인 방법으로 어느 정도 다룰 수 있을 만큼 줄여야만 한다.^[5]

실제적인 물질의 전자구조와 여러 가지 물리적 성질을 기술하기 위하여 전자궤도에 대한 연립 미분방정식의 수를 줄이거나, 이와 동등한 방법으로 양자역학적 방정식의 행렬표현을 위한 최소한의 기저함수를 도입하는 방법을 생각할 수 있다. 이 연립 미분방정식의 개수 혹은 기저함수의 수를 줄이기 위해서 두 가지 방법을 생각할 수 있는데, 하나는 무한한 크기의 덩치(bulk) 고체를 유한하지만 어느 정도 많은 숫자의 원자들의 덩어리(cluster)로 대치하는 것이고, 또 다른 방법으로는 완전하고 무한한 주기성을 주어 단위 셀의 크기를 정하는 에너지 띠 방법이다. 현재 컴퓨터의 계산능력으로 다룰 수 있는 덩어리의 크기는 약 500∼1000개 정도의 원자가 포함된 것이다. 이러한 덩어리 모형에서는 덩어리의 표면과 경계면의 효과가 중요하게 되는데, 효과는 표면에 존재하는 원자 수와 덩어리 내부에 있는 원자 수의 상대적 비에 의해 결정할 수 있고, 따라서, 덩어리의 크기 변화에 대한 계산결과를 표면 효과에 대해서 이론적으로 보정하여 상쇄함으로써 표면효과와 동시에 덩치(bulk) 상태의 성질을 구할 수가 있다. 이러한 덩어리 모형의 계산 방법은 강한 촉매효과를 갖는 나노 입자의 경우를 포함하여 표면, 계면 효과 등 여러 중요한 문제를 연구하는데 응용할 수 있다.

에너지 띠 방법을 이용하는 경우에는, 같은 단위 셀이 주기성을 가지고 무한히 반복하는 것으로 간주하는 것인데, 거시적인 크기의 고체가 원자 크기에 비하여 매우 크다는 것을 감안할 때 주기적인 경계조건을 쓰는 것이 타당하다. 주기성을 지닌 결정체에서는 격자의 주기성을 이용하여 단위 셀 내의 전자 수만큼의 전자궤도를 계산하는 것으로 전체 계의 전하 밀도와 에너지를 구할 수 있다.^[5] 보통 완전한 결정 고체에서는 보통 단위 셀 내의 원자수가 10개 이하이지만, 불순물, 격자공백, 혹은 결함 등이 존재하는 실제적인 문제에서는 단위 셀의 크기가 매우 커질 수도 있다.

단위 셀의 크기에 비례하여 원자의 수가 많아지는 경우에는 양자역학적 방정식을 행렬표현하기 위한 기저함수의 개수 N도 비례적으로 커지게 된다. 그런데, 이 행렬의 대각화에는 N³에 비례하는 시간이 걸린다. 따라서, 기저함수의 개수를 줄이는 것은 계산기술적인 면에서 매우 중요하다. (물론 여기서 가정한 N개의 기저함수는 우리가 구하고자 하는 양자계의 해밀토니안을 나타내기에 충분한 것임을 가정한 것이다.) 초기의 컴퓨터는 주연산장치의 속도나 용량이 적어서 기껏해야 기저함수가 수십 개를 넘지 못했고, 최근의 가장 성능이 좋은 슈퍼컴퓨터도 N이 천 혹은 만 이상이면 그 한계에 도달하게 된다. N×N 행렬의 해를 구하기 위해서는 N³에 비례하는 시간이 소모되고 그에 따른 주기억장치의 용량도 늘어나게 되어, 아무리 기술적인 발전이 빠르게 이루어진다고 해도 우리가 계산할 수 있는 행렬 크기의 한계를 쉽게 벗어나지는 못할 것이다.

따라서, 단위 셀의 크기가 매우 큰 물질의 경우에 많은 기저함수를 이용하여 양자역학적 계산을 수행하는 것은 현실적으로 불가능하다. 실제적인 물질은 많은 원자를 포함하고 있고, 그 양자역학적인 해를 구하기 위한 행렬계산을 위해서는 주어진 계의 해밀토니안 표현을 최적화할 수 있는 기저함수의 수를 최소화하는 것이 필요하다. 다음에는 계산 고체물리에서 많이 사용되는 방법을 몇 가지 요약하여 소개하기로 한다.

양전자구조 계산 방법과 응용

우선 반도체 물질의 물성 연구에 많이 사용되는 슈도퍼텐셜(pseudo-potential)에 대하여 생각해 보자. 슈도퍼텐셜은 원자 핵 주위의 특이한 퍼텐셜을 평이한 모양의 퍼텐셜로 대치하는 것인데, 이것은 물리적으로 볼 때 원자 핵의 쿨롱 퍼텐셜과 핵 주위에 붙어있는 코어 전자를 합해서 하나로 본 이온의 퍼텐셜에 의한 외각 전자의 산란 성질이 원자핵과 코어 전자의 쿨롱 퍼텐셜에 의해 각각 산란되는 성질이 효과적으로 같다는 것에 착안한 것이다.^[5] 따라서, 외각 전자의 입장에서 볼 때, 원자핵과 코어 전자의 퍼텐셜과 이온의 퍼텐셜은 효과적으로 거의 차이가 없다고 볼 수 있다. 이온 퍼텐셜에 해당하는 평이한 모양의 슈도퍼텐셜에 대해서 대부분의 외각 전자는 자유전자처럼 움직일 수 있고, 결과적으로 슈도퍼텐셜을 도입한 계의 양자적인 계산은 자유전자 함수, 즉, 평면파 함수를 이용한 기저함수를 사용하여 수행할 수 있게 된다.

한편 양자역학적 방정식을 행렬계산을 통하여 푸는 경우에 평면파를 사용하는 것은 물리적인 이유 뿐만 아니라 평면파 자체의 수학적 성질, 즉, 푸리에 변환이 가능하다는 것 때문에 실제적인 계산에 매우 유용하다. FFT(fast Fourier transformation)을 이용하는 경우에 실공간과 푸리에 공간의 변환이 매우 효율적으로 이루어지기 때문에 컴퓨터 연산 시간을 크게 단축할 수도 있고 매우 큰 행렬의 계산도 가능하다. 실제로 FFT 알고리즘은 계산 고체물리학 분야만이 아니라 여러 공학 기술분야에서도 매우 중요한 것으로 평가받고 있다.

그림 3. 외부전기장이 가해진 탄소나노튜브 끝의 전자밀도 분포를 그린 그림.

앞에서 설명한 탄소나 규소 같은 반도체에서는 외각 전자들이 서로 강한 공유결합을 하고있어 대부분의 외각 전자들이 원자들 사이의 틈새 공간에 퍼진다. 원자 주위에 국소화되지 않고 전 공간에 퍼져있는 외각 전자는 마치 자유전자와 같은 성질을 띄게 되어 슈도퍼텐셜과 평면파를 기저함수로 사용하는 계산 기술이 아주 적절한 것으로 알려져 있다. 실제로도 공유결합을 하는 외각전자는 반도체의 물리적 성질을 결정하는데 매우 중요한 역할을 한다. 그러나, 자성체와 같은 물질은 외각전자 뿐만 아니라 원자 주위에 국소화된 전자의 성질이 밖으로 퍼지는 외각 전자의 성질보다 더 중요한 경우가 있다. 이런 경우에는 국소화된 전자의 양자상태를 기술하기 위해 슈도퍼텐셜을 도입하는 것이 적절한 선택이 아닐 경우도 있다. 따라서, 이런 물질에서는 자유전자에 해당하는 평면파 함수 대신에 국소화된 전자상태를 잘 표현할 수 있는 다른 기저함수를 사용할 필요가 있다. 이러한 방법으로 대표적인 것이 APW(augmented-plane-wave) 방법이다.

슈도퍼텐셜이 원자핵 주위의 퍼텐셜을 보다 부드러운 유효 퍼텐셜로 바꿔치는 방법을 사용한 것에 반하여, APW 방법은 원자 주위의 파동함수를 모양에서 그 힌트를 찾고 있다. 고체에서 자유롭게 움직이던 전자가 원자 핵 근처로 접근하면, 원자 핵의 쿨롱 퍼텐셜이 마치 원자상태의 퍼텐셜과 유사하여 전자의 파동함수는 원자 자체의 파동 함수와 비슷해지고, 반대로 원자 핵에서 멀어져 원자간의 틈새 공간에 가면 핵 전하의 영향이 줄어들어 전자는 자유전자와 흡사하게 평면파의 파동 함수를 갖게 됨을 알고 있다. 이점에 착안한 APW 방법에서는 원자 주위에 일정 반경의 구를 정한 다음, 구의 내부에서는 원자의 파동함수 형태의 완전집합을 이루고, 구의 밖에서는 평면파 형태의 함수를 이용한 완전집합을 구성하여 공간의 위치에 따라 서로 다른 표현을 구현함으로써 효율적인 기저함수를 만들고자 하였다. 이렇게 기저함수를 만들면, 원자 주위에 국소화된 전자의 경우뿐만 아니라 원자간의 틈새에 퍼져있는 자유전자와 같은 상태도 모두 표현이 가능하게 된다.

따라서, APW 형태의 계산방법은 원자 주위에 국소화된 전자가 있는 물질에 적용하는 것이 적절하다. 국소화된 전자는 철, 코발트와 같은 전이금속 원소나 희토류 원소가 포함된 금속 또는 화합물에서처럼 국소 스핀 등을 가지게 된다. 국소 전자를 포함하는 물질은 전자간의 강한 상호작용으로 인한 강한 상관성을 보이기도 하는데, 최근 많은 관심을 모으고 있는 고온초전도체나 초거대자기저항 물질도 이에 속한다. 현재 많은 연구가 진행되고 있는 초전도/자성 초격자나 새로운 종류의 산화물 등은 단위 셀 내의 원자 수가 수 십에서 수 백개 이상이 되기 때문에 새로운 물성을 보이는 신물질 연구에 있어서 전자구조 계산의 큰 과제이다. 그림 4 는 FLAPW(full-potential augmented-plane-wave) 방법으로^[7] 계산한 철의 결정경계(grain boundary)와 표면에 탄소가 불순물로 더해졌을 때 전자밀도의 차이를 보여주는 것으로^[8] 탄소가 철의 결정경계에 들어가는 경우에 결합의 세기가 오히려 증가하는 이유를 미시적인 관점에서 보여주는 것이다.

그림4. 철의 결정경계(왼쪽 그림)와 표면(오른쪽 그림)에 탄소 불순물이 있을 때 전자밀도의 변화를 계산한 결과.

지금까지 논의한 평면파나 APW 함수는 일반적으로 주어진 공간에 존재하는 기저함수의 완전집합을 고려한 경우인데 반해, 물리적인 근사를 취한 방법도 생각해 볼 수 있다. 물질의 구성원소 주위의 전자 상태가 본래 원자로 존재할 때의 전자 상태와 비슷하다고 가정한다면, 고체의 양자 상태를 완벽한 기저함수의 조합으로 표현하는 대신에 각 구성원소의 원자 궤도함수를 기저함수로 삼아 표현할 수도 있다. 물론, 이렇게 하기 위해서는, 예를 들어, 유기화합물처럼 탄소간의 강한 결합이 대부분인 때에는 탄소 원자의 원자궤도 조합으로 전체의 파동함수를 쓰는 것이 크게 틀리지 않다는 가정이 필요하다. 만일 이런 가정이 성립된다면 전체적인 양자역학적 계산은 매우 효율적으로 할 수 있다. 이와 같은 방법은 이미 유기화학적 분자의 연구에 많이 적용되어 왔으며, 최근에는 기저함수의 보완을 통해 그 적용영역을 확장시켜가고 있다.^[5]

양자역학적 계산을 효율적으로 하는 것은 단순히 기저함수의 수를 줄이는 방법만 있는 것은 아니다. 앞에서 언급했듯이 행렬 계산을 통해 양자역학적 방정식을 풀기 위해서는 행렬의 대각화 과정이 필요하다. 그런데, 이 대각화 과정은 행렬 크기 N에 대하여 N³의 비례관계가 있어서, 행렬의 크기가 조금만 커지더라도 실질적인 계산이 불가능하게 된다. 또, 대부분의 계산은 전하밀도의 자체충족 조건을 만족시키기 위해, 여러번 반복 계산해야하기 때문에 행렬 대각화에 걸리는 시간이 N³에 비례한다는 것은 매우 큰 제약조건이 된다.

매우 큰 크기의 분자, 즉, 고분자 화합물이나 고체의 불순물, 결함 등의 성질을 이해하기 위해서는 많은 원자를 포함하는 계산을 수행하여야 하고, 결국 많은 기저함수를 필요로 하게 된다. 따라서, 현실적인 계산기술상의 문제 해결을 위해서는 대각화 과정에서 N³보다 훨씬 효율적인 방법의 제안이 필요하다. 이러한 난점을 극복할 수 있는 한 방법이 카와 파리넬로에 의해 제안되었다.^[9] 주어진 외부 퍼텐셜에 대한, 즉, 고정된 원자핵의 위치에 대한 양자역학적 행렬을 반복적으로 대각화하는 기존의 방법과는 다르게, 카-파리넬로 알고리즘의 기본 아이디어는 원자핵의 위치를 새로운 동역학적 변수로 도입하고 전자의 파동함수를 새로운 공간의 변수로 해석하는 라그랑지안을 도입한 후, 그 작용량을 최소화하는 방법으로 최소에너지 점의 원자의 위치와 전자의 좌표를 동시에 구하는 것이다. 이런 관점에서 보면, 최소에너지 점을 찾는 과정에서는 가상 시간 축에서 전자의 좌표, 즉, 파동함수의 변화에 대한 최소점을 찾는 문제가 되기 때문에, 실제적으로 해밀토니안의 대각화 과정이 필요하지 않게 된다. 따라서, 전체적인 계산이 N³이 아니라 N²에 비례하게 되어 많은 원자를 다루는 문제에 대하여 훨씬 효율적인 방법이 될 수 있는 것이다. 결과적으로, 이 방법을 응용하는 경우에 수십 수백개의 원자가 아니라, 수천개의 원자를 포함하는 계의 계산도 가능하게 되는 것이다.

이와 같은 알고리즘의 개발과 더불어, 최근에는 기저함수를 다르게 표현하는 방법도 제안되고 있다. 예를 들어, 잔물결(wavelet)을 사용하는 방법에서는^[10] 축척변화가 가능한 기저함수의 성질을 이용하여, 자세히 알고자 하는 부분에 잔물결 함수를 많이 놓고, 정확도가 덜 요구되는 영역에는 적은 수의 기저함수를 쓸 수 있다. 또, 기존의 방법에서는 라플라스 연산자의 해를 항상 푸리에 공간에서만 계산해 왔었는데, 이제는 고성능 계산이 가능해짐에 따라 실공간에서 직접 라플라스 연산을 수행하는 방법을 개발하고 있다. 이러한 방법에서는 실공간과 푸리에 공간을 전환하면서 계산해야 하는 평면파 방법의 단점을 개선하고 모든 계산을 실공간에서 수행할 수 있게 하여 병렬화 알고리즘을 이용하고자 하는 것을 주목적으로 한다. 그림 5에서는 SiO₂ 내부에 산소의 격자공백이 가질 수 있는 여러 가지 다른 구조를 실공간 다중격자법을 이용하여 계산한 결과이다.^[11] 이와 같은 실공간 계산은 병렬화에 용이한 장점이 있어, 앞으로 실험을 대신할 수 있는 거대 규모의 계산과 반도체 소자 및 신기능 물질 등의 예측에 활용할 수 있을 것으로 기대한다.

그림 5. SiO₂내부에 산소의 격자공백이 가질 수 있는 여러 구조를 실공간 다중격자법으로 계산한 결과.

계산물리적 방법의 현재와 미래

현재 수준의 전자구조 계산방법에는 아직도 극복해야할 숙제가 많이 남아있다. 그 중에서 가장 어려운 것은 전자간의 강한 상관관계가 있는 물질의 낮은 에너지 집단들뜸을 구하는 문제이다. 상관관계의 문제는 밀도범함수 이론 자체의 원리적인 한계와 집단들뜸의 계산을 위해서 긴 파장, 즉, 단위 셀의 크기가 수천 Å에 달하는 매우 큰 계산을 수행해야만 하는 실제적인 문제가 있다. 상관관계 에너지에 대한 수정은 현재 여러 각도에서 이루어지고 있는데, 반도체의 경우에 밀도범함수 이론의 불연속성의 문제에서 유도되는 에너지 갭의 계산 오차는 다체론적 자체에너지(self-energy)로 수정이 가능하고, 다른 관련 성질의 예측도 잘 설명되고 있다. 전이금속 산화물의 연구에 있어서도 국소 전자의 쿨롱 상호작용에 의한 상관관계도 LDA+U, GW, SIC 등의 여러 방법을 통해 개선하려는 노력이 기울여지고 있다.^[4] 실제로 들뜸상태를 이해하는 것은 수송현상, 광학적 성질 등 우리가 알고자 하는 많은 정보를 포함하는 것이기 때문에, 이런 것을 제일원리적으로 계산하고 예측하기 위해서는 앞에서 언급한 원리적인 한계와 실질적인 문제를 해결하기 위해 노력해야 할 것이다.

지금까지 전자구조계산을 근간으로 성장해 온 계산고체물리 방법은 컴퓨터 기술의 발전과 더불어 최근 이십여 년 동안 눈부신 발전을 거듭해 왔다. 계산방법의 이론적인 기틀과 계산기술의 발전은 이제 단순한 물성의 분석과 이해의 차원을 넘어서 새로운 물질을 디자인하고 그 성질을 예측하는 수준에 진입하고 있으며, 21세기 재료과학의 발전에 핵심적인 역할을 할 것으로 기대하고 있다.

참 고 문 헌

[1] R. Shankar, Rev. Mod. Phys. 66, 129 (1994).

[2] P. Hohenberg and W. Kohn, Phys. Rev. 136, B854 (1964).

[3] W. Kohn and L. J. Sham, Phys. Rev. 110, A1133 (1965).

[4] R. G. Parr and W. Yang, Density-Functional Theory of Atoms and Molecules (Oxford, 1989).

[5] 예를 들어, W. Jones and N. H. March, Theoretical Solid State Physics (Dover, New York, 1973).

[6] 임지순, 한승우 (preprint).

[7] E. Wimmer, H. Krakauer, M. Weinert and A. J. Freeman, Phys. Rev. B 24, 864 (1981).

[8] 홍순철; R. Wu et al., Science 265, 376 (1994).

[9] R. Car and M. Parrinello, Phys. Rev. Lett. 55, 2471 (1985).

[10] T. A. Arias, Rev. Mod. Phys. 71, 267 (1999).

[11] 장기주 (preprint).