웨이퍼 스케일 단결정 2차원 반도체를 직접 성장시키는 ‘하이포택시’ 기술 개발
ㅇ 하이포택시 이용, 웨이퍼 스케일 단결정 2차원 반도체 성장
원자 한 층 두께의 ‘2차원 반도체(전이금속 칼코겐 화합물)는 아주 얇게 만들어도 전기적·열적 특성이 뛰어나 차세대 반도체 재료로 주목 받고 있다. 하지만, 웨이퍼 전체에서 단결정으로 성장시키는 데 한계가 있다. 연구팀은 그래핀의 결정 방향을 기준으로 아래에서 반도체가 정렬되며 자라는 새로운 방식인 ‘하이포택시(hypotaxy)’라는 새로운 2차원 반도체의 성장 방식을 개발하였다. 연구팀은 비정질 기판 위에 에 몰리브데넘이나 텅스텐을 얇게 깔고, 그 위에 단결정 그래핀을 덮고 황이나 셀레늄 가스를 흘려 금속을 2차원 반도체로 바꾸는 방식을 개발했다. 이 과정에서 그래핀에 생긴 나노미터 크기의 구멍을 통해 들어온 원자들이 그래핀이 격자 방향에 맞춰 씨앗 결정을 형성한다. 이 결정들이 방향을 유지하며 연결돼 웨이퍼 전면에 단결정 2차원 반도체 박막으로 성장한다. 연구팀은 4인치 웨이퍼에서 단결정 MoS2성장에 성공했으며, 원자 1층 수준부터 수백 층까지 두께도 정밀하게 제어할 수 있음을 확인했다.
ㅇ 차세대 인공지능 반도체와 3차원 집적을 여는 기반 기술
하이포택시는 기존 에피택시(epitaxy)와 달리 기판이 단결정일 필요가 없어 실리콘 산화막, 고유전막, 금속 박막 같은 비정질·격자 불일치 기판에서도 웨이퍼 스케일 단결정을 직접 성장시킬 수 있다. 이는 기존 실리콘 기반 반도체 공정 라인 위에 2차원 반도체를 전사 없이 바로 적층해 일체형 칩을 구현할 수 있음을 뜻한다. 또한 그래핀에 미리 나노 포어를 만드는 방식으로 성장 온도를 400℃ 수준까지 낮춰 기존 반도체 공정의 마지막 단계인 BEOL에서도 적용 가능해 이미 만들어진 로직·메모리 위에 2차원 반도체 층을 추가로 쌓는 3차원 집적(M3D)으로 바로 확장 가능하다. 다양한 2차원 반도체 계열로의 확장성도 높아 차세대 AI 반도체, 저전력 데이터 센터, 초고속 통신 등에서 발열과 전력 소모를 줄이면서 성능을 높일 새로운 재료 플랫폼이 될 전망이며, 실리콘 공정 위에 기능성 물질을 자유롭게 쌓는 ‘재료 레고 블록’ 시대의 출발점으로 평가된다.


뜻깊은 상을 받게 되어 정말 감사합니다. 수상 소식을 듣고 함께 고생한 학생 연구원들이 가장 먼저 떠올랐습니다. 하이포택시 연구는 한두 해 만에 나온 결과가 아니라, 10년 가까이 2차원 재료를 키우고 붙이고 쌓아 보면서 실패와 우연, 그리고 집요한 관찰이 함께 만들어 낸 성과입니다. 개인적인 영광이라기보다, 많은 연구자들이 함께 쌓아 올린 2차원 재료 연구의 결실이 조금씩 인정받는 신호라고 생각합니다. 앞으로도 “실제로 산업 현장에서 쓸 수 있는 재료와 공정”을 만드는 일을 목표로, 기본 원리를 이해하고 기술로 이어지는 연구를 계속해 나가고 싶습니다.
연구실과 저 개인 모두 변화가 많았던 한 해였습니다. 하이포택시 연구가 국제 학술지에 실리면서 많은 분들의 관심과 질문을 받았고, 그만큼 후속 연구와 협력 제안도 많이 늘었습니다. 동시에 학교와 학회, 여러 위원회 활동까지 더해지다 보니 시간이 어떻게 지나가는지 모를 정도로 바쁘게 보냈습니다. 12월은 ICAMD2025 국제학회의 프로그램 위원장 활동과 학기 마무리로 바쁜 한 달이 될 것 같습니다. 그럼에도 시간을 내어 후속 연구 방향을 차분히 점검하면서 향후 5년, 10년 계획을 다시 그려보는 정리의 시간을 가지고자 합니다.
저희 연구실은 “2차원 물질로 대표되는 여러 나노 물질을 융합하여 그 안에서 새로운 양자 현상을 확인하고, 이를 이용하여 전자 소자의 성능 및 효율을 획기적으로 끌어올리거나 새로운 작동원리를 가지는 신개념 전자 소자를 만든다”는 목표를 가지고 있습니다. 특히 그래핀과 전이금속 칼코겐 화합물 같은 2차원 재료를 웨이퍼 크기로 키우고, 이를 겹겹이 쌓아 새로운 전기·광학·열적 특성을 가진 구조를 만드는 연구를 하고 있습니다. 기존 실리콘 반도체가 물리적인 한계에 가까워지는 상황에서, 인공지능·자율주행·초고속 통신을 뒷받침할 새로운 재료와 소자를 찾는 데 꼭 필요한 연구입니다. 더 얇고, 더 잘 식히고, 더 적은 전력으로 더 많은 연산을 하게 만드는 것이 목표라고 이해하시면 됩니다.
대학원 시절에 나노라는 개념이 본격적으로 관심을 끌기 시작하고 그래핀이 2010년 보고된 이후‘원자 한 층짜리 재료’라는 개념이 주는 매력에 크게 끌렸습니다. 같은 물질이라도 두께가 얇아지면 완전히 다른 성질을 보인다는 점이 매우 흥미로웠습니다. 예를 들어, 덩어리 상태에서는 금속처럼 보이던 물질이 한두 층이 되면 반도체로 바뀌고, 빛과의 상호 작용도 달라집니다. 특히 다른 나노 물질과 달리 2차원 물질은 원자층 수준의 두께에서도 결정성을 완벽하게 유지하기 때문에 그 변화를 정확히 이해하고, 다시 원하는 방향으로 설계할 수 있다면 완전히 새로운 전자 소자를 만들 수 있겠다는 생각이 들었습니다. 이런 호기심이 쌓여 연구를 하다 보니, 2차원 물질의 합성이 필요했고, 이에 대한 특성 분석부터 소자 연구까지 진행하다 보니 지금은 아주 폭 넓은 연구를 하고 있습니다.
처음부터 예상하고 시작한 연구는 아니었습니다. 비교적 단순한 황화 공정을 이용해 큰 면적의 2차원 반도체를 만들면서, 그래핀을 일종의 보호막처럼 사용해 패턴을 만들려는 시도에서 출발했습니다. 그런데 실험을 반복하다 보니, 의도와는 다르게 그래핀이 사라지고 그 자리 아래에서 단결정 2차원 반도체가 자라는 이상한 현상을 관찰하게 되었습니다. 왜 이런 일이 생기는지 하나씩 뜯어보는 과정에서 그래핀에 생긴 나노 구멍과 그 주변의 특이한 상호작용이 결정 성장 방향을 잡아준다는 사실을 알게 되었고, 이것이 “위에 있는 2차원 재료가 아래 결정의 방향을 잡아주는 새로운 성장 방식”이라는 아이디어로 정리되면서 하이포택시라는 개념으로 발전하였습니다. 예상과 완전히 반대되는 결과로부터 시작한 연구였는데, 실패한 연구도 놓치지 않고 집요하게 들여다보는 태도가 좋은 결과로 이어진 것 같습니다.
이번 연구의 핵심은 크게 세 가지로 정리할 수 있습니다. 첫째, 그래핀으로 덮은 금속 박막을 황이나 셀레늄과 반응시켜 4인치 웨이퍼 크기에서 단결정 2차원 반도체를 직접 성장시키는 데 성공했습니다. 둘째, 금속 두께를 조절함으로써 단층부터 수백 층까지 층 수를 선형적으로 정밀 제어하고, 그 과정에서 결정 결함과 두께 불균일을 크게 줄였습니다. 셋째, 일반적으로 성장의 토대가 되는 아래 기판의 특성과 무관하게, 위에 덮인 그래핀이 결정 방향을 지배하여 결정 구조가 정해지는 성장 방식을 구현함으로써, 고집적 3차원 구조를 위해 수직 방향으로 반도체를 쌓아 올려야 하는 응용 분야에 직접 활용할 수 있는 고품질 반도체 합성 기술을 제시했습니다. 비유하자면, 아파트를 지을 때 땅에서부터 기초 공사를 하는 대신, 공중에 떠 있는 기준 틀(그래핀)을 따라 위에서 아래로 아파트를 가지런히 세워 나가는 것과 같은, 기존 개념과는 전혀 다른 방식입니다.
이번 연구는 관찰, 가설 도출, 검증의 과정을 여러 번 반복하며 진행됐습니다. 먼저 예상과 다른 성장 결과, 예를 들어 단결정이 예상치 못한 위치에서 자란다거나 그래핀이 사라지는 현상을 전자현미경, 라만 분광, 광발광 측정 등 다양한 기법을 동원해 분석했습니다. 동시에, 밀도범함수이론(DFT) 계산을 통해 그래핀 나노 포어 주변에서 2차원 반도체 씨앗이 어떻게 정렬되는지 이론적으로도 살펴보았습니다. 마지막으로, 온도와 시간, 가스 농도 조건을 수 없이 바꾸어 가며 재현성과 공정 윈도우*를 확인해, 산업 공정에 가까운 조건에서도 안정적으로 같은 결과를 얻을 수 있도록 공정을 다듬었습니다.
기존의 에피택시 방식은 단결정 사파이어와 같은 특정 기판에서만 단결정 성장을 구현할 수 있다는 한계가 있었습니다. 또한 성장된 2차원 반도체를 실제 실리콘 칩 위로 옮기기 위해 여러 번의 전사 과정을 거쳐야 했고, 이 과정에서 생기는 오염과 결함이 큰 문제였습니다. 반면 하이포택시는 “아래 기판이 아니라, 위에 덮인 2차원 템플릿이 결정 방향을 결정한다”는 완전히 새로운 관점을 도입함으로써, 기존에는 상상하기 어려웠던 기판 위에서도 단결정 성장을 가능하게 했습니다. 동시에, 성장 과정에서 그래핀과 오염물이 함께 제거되어 매우 깨끗한 표면을 얻을 수 있다는 점도 중요한 혁신 포인트입니다.
이번 연구는 단순히 새로운 재료를 하나 더 만든 것이 아니라, 기존 실리콘 공정 라인 위에 바로 쌓을 수 있는 2차원 반도체 플랫폼을 제시했다는 점에서 산업적 의미가 큽니다. 인공지능 반도체, 데이터 센터, 고성능 컴퓨팅 등에서는 전력 소모와 발열이 가장 큰 숙제인데, 높은 열전도도와 낮은 누설 전류를 갖는 2차원 반도체를 활용하면 칩의 온도를 더 낮게 유지하면서도 연산량을 늘릴 수 있습니다. 사회적으로는 같은 성능을 내기 위해 필요한 에너지를 줄일 수 있어, 탄소 배출 감소와 에너지 효율 향상에 직접적으로 기여할 수 있습니다. 장기적으로는 웨어러블·바이오 센서, 초박형 디스플레이, 양자소자 등 새로운 응용으로까지 확장될 수 있는 기반 기술이라고 생각합니다.
실제 산업 현장에서 쓰이려면, 연구실에서 쓴 장비와 공정에서만 구현되는 것이 아니라 범용적인 반도체 공정 라인에서도 재현될 수 있도록 표준화하는 작업이 필요합니다. 이를 위해 전세계 많은 연구자들과 협력하여 공정 조건의 최적화하고 있습니다. 또, 하이포택시로 성장한 2차원 반도체를 이용해 로직 소자, 메모리, 센서 등 다양한 시제품을 만들어, 어느 응용 분야에서 가장 큰 장점을 발휘하는지 비교·평가하려고 합니다. 장기적으로는 2차원 반도체와 3차원 적층 메모리, 뉴로모픽 소자* 등을 결합하여 ‘완전히 새로운 구조의 인공지능 칩’을 구현하는 것이 목표입니다.
가장 어려웠던 점은 “예상치 못한 결과”를 쉽게 오류나 실패로 치부하지 않고 끝까지 파고드는 인내심을 유지하는 일이었습니다. 그래핀이 사라지고, 예상하지 못한 위치에 단결정이 생기는 현상은 처음에는 실험 실패나 실수처럼 보였습니다. 하지만 실험 조건을 조금씩 바꾸어가며 수십 번 이상 반복 측정하고, 여러 분석 기법을 동원해 데이터를 쌓다 보니 하나의 일관된 그림이 그려졌습니다. 연구팀 내부에서 끊임없이 토론하고, 외부 전문가들과도 의견을 나누며 “새로운 성장 메커니즘일 수 있다”는 확신을 조금씩 키워 나갔습니다. 결국 이 과정이 하이포택시라는 새로운 개념을 정리하는 데 결정적인 역할을 했습니다.
어떤 연구 결과가 나왔을 때, “무슨 현상이 일어나고 있는가?”, “왜 그런 현상이 나타나는가?”, “이 현상을 설명하는 이론으로 무엇을 할 수 있을까?”라는 질문을 항상 마음에 두려고 합니다. 그리고 이러한 문제를 항상 학생 연구원들과 열린 마음으로 토론하고 어떤 가능성도 배제하지 않습니다. 설령 데이터가 내 가설과 맞지 않을 때에도, 데이터가 맞는지 여러 번 확인하고 그 모든 데이터를 설명할 수 있는 새로운 가설을 만들어 봅니다. 학생들에게도 “틀릴 수 있지만 속여서는 안 된다”, “모르면 모른다고 말할 수 있는 용기”를 강조합니다. 이런 기본적인 태도가 지켜져야만, 언젠가 예기치 않은 큰 발견도 자연스럽게 따라온다고 믿고 있습니다.
박사후연구원 시절, 이전과 전혀 다른 연구 분야인 그래핀 연구에 처음으로 도전해 3년 동안 시행착오와 실패를 거듭하다가, 결국 그 결과를 Science에 논문으로 발표했을 때가 가장 큰 전환점이었습니다. “내 연구도 세계가 주목하는 연구가 될 수 있구나”라는 강한 동기부여와 자부심을 느끼는 동시에, 그에 걸맞은 책임감도 크게 다가왔습니다. 또한 모르는 부분을 해결하는 과정에서 많은 실수가 있더라도 결국은 극복할 수 있다는 자신감을 얻었습니다. 마찬가지로 하이포택시 연구도 처음에는 신기하지만 설명하기 어려운 결과들 때문에 많이 힘들었지만, 이를 이해하기 위해 여러 시도를 거듭한 끝에 전혀 새로운 성장 개념과 이론을 만들었다는 점에서 큰 자부심을 느낍니다. 이 연구가 앞으로 제 연구의 10년을 이끌 또 하나의 중요한 전환점이 될 것이라고 기대합니다.
항상 학생들에게 본인이 떠올린 아이디어는 전 세계 누구라도 생각할 수 있으니, 아이디어가 생기면 남보다 먼저 과감히 시도해야 한다고 강조합니다. 하지만 진짜 새로운 아이디어는 대개 실패한 실험이나 설명되지 않는 예외적인 결과를 끝까지 물고 늘어질 때 나옵니다. 그런 ‘이상한 데이터’를 버리지 말고 이해될 때까지 붙들고 고민하다 보면, 누구도 예상하지 못한 발견으로 이어질 수 있습니다. 그래서 저는 “예상과 다른 연구 결과에서 세기의 발견을 놓치는 실수는 있어도, 그 연구 과정에 실패는 없다”고 말하고 싶습니다. 또 혼자만의 생각만으로는 창의적인 아이디어를 내기 어렵습니다. 여러 사람이 치열하게 토론하며 서로의 관점을 부딪치고 확장하는 집단지식과 협업이야말로, 인공지능 시대에 인간이 보여줄 수 있는 가장 강력하고 훌륭한 대응 방식이라고 생각합니다.
인공지능 시대를 선도하기 위해서는 “좋은 알고리즘(학계)”과 “좋은 하드웨어(기업)”가 함께 가야 합니다. 이를 위해 학계는 원천 원리를 깊이 파고드는 동시에, 산업계와 꾸준히 소통하며 실제로 필요한 문제를 잘 이해해야 합니다. 산업계는 학계의 아이디어를 빠르게 시제품과 공정으로 옮길 수 있는 테스트베드를 제공하고, 사회는 이런 도전이 실패하더라도 다시 시도할 수 있는 분위기를 만들어 주어야 합니다. 저는 대학 연구실이 이 세 가지를 잇는 다리 역할을 할 수 있다고 생각합니다. 학생들이 기업과 함께 프로젝트를 수행하고, 현장의 엔지니어들이 학교에 와서 강연과 공동 연구를 하는 문화가 더 활성화되면 좋겠습니다.
연구자로서 가장 행복한 순간은, 학생들이 자신의 아이디어로 실험을 설계하고, 제가 예상하지 못한 새 결과를 가져왔을 때입니다. 때로는 학생들이 어떤 결과를 가져올까 부푼 마음에 기대되기도 합니다. 그 연구 결과를 학생들과 논의하면서 새로운 연구 아이디어나 예상치 못한 결과를 설명할 수 있는 이론을 발견했을 때, 연구에 대한 진정한 즐거움을 느낄 수 있습니다. 또, 졸업 후 산업체나 학계에서 각자의 자리에서 성장해 가는 제자들의 모습을 볼 때 큰 보람을 느낍니다. 연구 성과도 중요하지만, 함께 일한 사람들이 성장하고 행복한 삶을 살아가는 것도 연구자의 중요한 성과라고 생각합니다.
가장 힘든 점은 “불확실성을 견디는 일”인 것 같습니다. 많은 시간을 들였는데도 결과가 전혀 나오지 않거나, 겨우 얻은 좋은 결과조차 학계에서 인정받기까지 오랜 시간이 걸리기도 합니다. 실험이 몇 달씩 진전이 없을 때도 있고, 애써 준비한 연구 제안이 연구비 지원을 받지 못해 접어야 했던 적도 있으며, 다른 연구자들이 제 연구의 가치를 잘 이해하지 못해 논문이 여러 번 거절된 경험도 있습니다. 이런 상황이 반복되면 자연스럽게 “내가 하는 이 연구가 정말 의미가 있는가?”, “다른 연구자들에게 어떤 가치를 줄 수 있을까?”, “정말 산업이나 사회에 쓰일 수 있을까?”와 같은 질문이 마음속에 쌓이면서 스스로를 흔들어 놓기도 합니다.
그럼에도 가장 힘든 순간은 사실 학생들이 좌절할 때입니다. 열심히 연구한 학생이 결과가 잘 나오지 않거나 논문이 계속 거절되면서 자신감을 잃고 힘들어하는 모습을 볼 때, 지도교수로서 마음이 가장 무겁습니다. 예전에 제가 겪었던 어려움과 시행착오를 떠올리며 최대한 옆에서 버팀목이 되어 주려고 합니다. 결국 중요한 것은 학생들이 “연구자로서의 성장”과 “졸업 이후의 진로” 모두에서 희망을 가질 수 있도록 도와주는 일이라고 생각합니다.
장기적으로는 “실리콘 이후의 반도체 플랫폼을 우리 손으로 설계하고 구현하는 것”이 목표입니다. 10년 후에는, 하이포택시를 포함한 2차원 물질 성장 기술과, 이를 이용한 소자·시스템 설계가 한 연구실 안에서 유기적으로 연결된 모습을 그리고 있습니다. 실험과 이론, 공정과 설계가 한 팀에서 이루어지는 종합 반도체 연구실을 만들고 싶습니다. 그렇게 해서 우리나라에서도 세계적인 수준의 원천 반도체 기술과 인력을 스스로 키워낼 수 있다는 것을 보여주고 싶습니다.
어렸을 때부터 사물을 분해해 보고, 왜 이렇게 생겼는지 궁금해 하는 성격이었습니다. 특별히 과학자가 되겠다고 생각한 순간이 있다기보다, 좋아하는 과목과 재미있는 실험을 따라가다 보니 자연스럽게 과학자의 길을 걷게 되었습니다. 미래의 과학자를 꿈꾸는 학생들에게 “속도보다 방향이 더 중요하다”고 말해주고 싶습니다. 남들보다 빨리 가는 것보다, 내가 정말 알고 싶고 해결하고 싶은 질문을 찾는 것이 먼저입니다. 또, 과학은 혼자 하는 일이 아니라는 점도 기억했으면 합니다. 함께 고민해 줄 친구와 선배, 후배가 있다면 어려운 순간도 함께 이겨낼 수 있습니다.