소버린 AI가 중요한 이유

어느 날 아침, Fable이 사라졌다.

미국 정부가 국가안보를 이유로 Fable 5와 Mythos 5에 외국 국적자의 접근을 막으라고 했다. 그 지시를 맞추는 과정에서 결국 전 세계 모든 사용자의 Fable이 그냥 비활성화됐다. 다른 Anthropic 모델은 멀쩡하다. 우리가 뭘 잘못한 것도 아니고, 모델이 고장 난 것도 아니다. 그런데 어느 날 아침, 업무의 핵심 도구가 갑자기 사라졌다.

이게 어떤 느낌인지는 겪어 봐야 안다. 시스템이 죽은 것도, 요금을 안 낸 것도 아니다. 어제까지 멀쩡하던 도구가 내가 어쩔 수 없는 이유로 오늘 멈춘다. 그 감각이 며칠을 따라다녔고, 그래서 생각을 정리해 적어 둔다.

이유는 '탈옥 가능성', 증거는 구두뿐이었다

정부가 든 사유는 특정 모델의 탈옥(jailbreak) 가능성이었다. Anthropic은 그 정도 수준의 능력이라면 GPT-5.5 같은 다른 공개 모델에서도 널리 된다고 반박했다. 정작 정부가 내놓은 건 구두 증거뿐이었다.

옳고 그름은 더 지켜봐야 한다. 하지만 분명한 사실은 하나다. 우리가 통제할 수 없는 이유로, 어제까지 쓰던 SOTA 모델이 꺼졌다.

똑똑함은 켜져 있을 때나 의미가 있다.

아무리 앞선 모델도 접근이 끊기면 그날 업무에서는 0이 된다. 성능 비교표 맨 윗줄에 있든 말든, 오늘 켜지지 않으면 소용이 없다. 모델을 고르는 기준에서 성능이 1번이라고 믿었는데, 그 앞에 더 큰 변수가 있었던 셈이다.

AI는 이제 도구가 아니라 공급망이다

이번 일로 또렷해진 게 있다. AI는 더 이상 도구가 아니라 공급망이다.

모델은 외부 정책과 수출통제에 묶인다. 클라우드는 리전과 계약, 계정 정책에 묶인다. 데이터는 어디에 보관하느냐, 나중에 들여다볼 수 있느냐에 묶인다. 부품 하나가 막히면 라인 전체가 서는 공장과 똑같다.

그동안 우리는 AI를 그냥 빌려 쓰는 전기쯤으로 봤던 것 같다. 콘센트에 꽂으면 늘 거기 있는 것. 아니었다. 빌린 것은 빌려준 쪽 사정으로 언제든 회수된다.

소버린 AI는 '국산 모델'이 아니다

소버린 AI라고 하면 다들 국산 모델 하나 만들자는 구호로 받아들인다. 본질은 다르다. 통제 가능한 AI 운영체제에 대한 이야기다.

질문은 네 개로 압축된다. 접근권을 내가 쥐고 있는가. 데이터가 내 손에 있는가. 한 모델이 사라져도 다른 걸로 갈아탈 수 있는가. 무슨 일이 있었는지 나중에 들여다볼 수 있는가.

모델 한 개 더 갖는 게 핵심이 아니다. 누가 갑자기 꺼버려도 계속 굴러가는 구조를 갖느냐가 핵심이다. 그래서 이건 사회운동이나 멋진 구호가 아니다. 공급망의 문제이고, 당장 우리의 먹고사는 문제로 이어진다.

빌려 쓰는 시대에서, 운영하는 시대로

거창하게 시작할 필요는 없다. AI에 의존하는 업무와 민감한 데이터를 목록으로 만든다. 모델별로 데이터를 어디까지 내보낼지 기준을 정한다. 대체 모델과 장애 대응 경로를 미리 준비한다. 로그와 감사, 권한 체계로 운영한다. 평소엔 쓸데없어 보이다가, 진짜로 꺼졌을 때 비로소 고마워지는 것들이다.

시대가 한 칸 넘어갔다. AI를 빌려 쓰는 시대에서, AI를 운영하는 시대로. 빌려 쓰는 쪽은 빌려준 쪽 사정에 흔들리고, 운영하는 쪽만 자기 일을 지킨다.

풀링포레스트에서 우리는 업무시스템과 ERP, 그 안에 들어가는 AI를 만든다. 고객의 하루를 떠받치는 일이라 이번 사건은 남의 이야기가 아니었다. 우리가 어떤 모델 위에 고객의 하루를 얹어 두었는지, 그게 사라지면 무슨 일이 벌어지는지 다시 점검했다.

질문은 하나로 남는다. 내일 이 모델이 사라져도, 우리 일은 계속 굴러갈 수 있는가.