양자 컴퓨터의 오류 정정 기술이 폭발적으로 성장하는 이유 (FOOM)

안녕하세요, 8년차 개발자 김테크입니다. 평소에는 백엔드 서버의 안정성이나 데이터베이스의 무결성을 이야기하지만, 오늘은 조금 더 근원적인 하드웨어, 바로 양자 컴퓨터에 대한 흥미로운 소식을 가져왔습니다.

개발자로서 우리는 시스템의 스케일업이 언제나 선형적이지 않다는 것을 잘 압니다. 어느 순간 임계점을 넘으면 성능이 폭발적으로 증가하거나, 반대로 병목이 생겨 멈추기도 하죠. 최근 양자 컴퓨터 분야에서 오류 정정(Quantum Error Correction, QEC) 기술이 바로 이 폭발적인 성장, 일명 FOOM 단계에 진입했다는 분석이 있어 이를 제 관점에서 쉽게 풀어보려 합니다.

먼저 데이터부터 살펴보겠습니다. UCSB와 구글의 연구팀은 지난 10년간 큐비트(Qubit)를 사용하여 고전적인 비트(0 또는 1) 정보를 얼마나 오래 유지할 수 있는지 실험해왔습니다.

• 2014년, 9개의 물리 큐비트를 사용했을 때 정보 유지 시간(반감기)은 겨우 100마이크로초였습니다.

• 2021년, 21개 큐비트로 3밀리초를 달성했습니다.

• 2023년, 51개 큐비트로 300밀리초까지 늘렸죠.

여기까지만 보면 "음, 기술이 발전하고 있구나" 정도입니다. 그런데 2024년의 데이터가 충격적입니다. 59개 큐비트를 사용했을 때 반감기가 무려 2시간으로 늘어났습니다. 밀리초 단위에서 갑자기 시간 단위로 점프한 것입니다.

도대체 무슨 일이 일어난 걸까요? 이를 설명하는 모델이 바로 초지수적(Superexponential) 성장입니다.

양자 오류 정정 코드의 수명(L)은 대략적으로 물리 큐비트 수(q)에 대해 지수적으로 증가합니다. 그런데 기술 발전으로 인해 우리가 칩에 넣을 수 있는 물리 큐비트의 수 자체도 매년 지수적으로 늘어나고 있습니다(마치 무어의 법칙처럼요). 지수 함수 위에 또 지수가 올라가니, 그래프는 초반에는 아주 미미하게 움직이는 정체기(Lull)를 겪다가, 어느 순간 수직에 가깝게 폭발(FOOM)하는 형태를 띠게 됩니다. 우리는 지금 그 폭발의 초입에 서 있는 셈입니다.

하지만 개발자 입장에서 더 흥미로운 건 이론보다 실제 트러블슈팅 과정입니다. 이론상으로는 계속 성장해야 하지만, 실제로는 현실의 벽(Hurdle)에 부딪혀 성장이 멈추곤 합니다.

예를 들어, 2023년 실험에서는 우주선(Cosmic Rays, 우주에서 날아오는 방사선)이 칩 전체에 충격을 주어 수명을 300밀리초로 제한했습니다. 이는 마치 서버에 메모리 누수가 없어도 전원이 불안정하면 가용성에 한계가 오는 것과 비슷합니다. 연구진은 2024년에 이 문제를 해결하기 위한 엔지니어링을 적용했고, 그 결과 수명이 1만 배 가까이 늘어났습니다. 즉, 특정 버그(물리적 제약)를 해결하자마자 억눌려 있던 이론적 성능이 폭발한 것입니다.

지금까지의 이야기는 비트 플립 오류(0이 1로 바뀌는 것)를 막는 Repetition Code에 대한 것이었습니다. 진정한 양자 컴퓨터를 위해서는 위상 오류(Phase Flip)까지 막는 Surface Code가 필요합니다. 이는 훨씬 복잡하지만, 기본 원리는 같습니다.

현재 Surface Code 실험에서도 물리 큐비트 수를 늘리면 논리적 오류율이 급격히 줄어드는 현상이 관측되고 있습니다. 지금은 오류율이 0.1% 수준이지만, 물리 큐비트를 4배 늘릴 때마다 오류율은 기하급수적으로 줄어들어, 이론상으로는 수백억 년 동안 정보를 유지할 수도 있게 됩니다.

물론 배선 문제나 발열 제어 같은 인프라 레벨의 도전 과제들은 여전히 남아 있습니다. 하지만 논리적 큐비트(Logical Qubit)의 품질이 물리적 큐비트를 넘어서기 시작했다는 것은 분명한 신호입니다.

향후 5년 내에 큐비트의 품질 장벽이 무너질 것이라는 예측이 나오고 있습니다. 지난 30년간 굳건했던 장벽이 무너지는 순간, 우리가 상상만 했던 양자 컴퓨팅의 시대가 "FOOM" 하고 찾아올지도 모릅니다. 백엔드 개발자로서, 언젠가 양자 프로세서를 위한 API를 호출하는 날이 올지 기대가 됩니다.