신규 AI 칩은 1년마다인데, 건물은 3년? 모듈러가 답인 이유

IT 업계의 고인물 아니 이제는 화석 직전인 30년 차 베테랑입니다. 제가 처음 코딩하던 시절에는 데이터센터라고 하면 으리으리한 빌딩에 유리창 하나 없이 에어컨만 빵빵하게 틀어놓은 요새 같은 곳이었어요. 그런데 요즘 돌아가는 꼴을 보니 정말 세상이 무섭게 변하고 있네요. 요즘 가장 뜨거운 감자가 뭐라고 생각하시나요. 역시 AI와 그 AI를 뒷받침하는 데이터센터입니다.  특히 요즘은 이 데이터센터를 빌딩 짓듯 만드는 게 아니라 공장에서 제품처럼 찍어온다고들 하더군요. 바로 모듈러 데이터센터 이야기입니다.

 

섹션1. 모듈러 데이터센터가 대체 뭐길래 다들 난리일까요

프리팹 모듈러 데이타 센터 겉모습 by Vertiv

쉽게 설명해 드릴게요. 우리가 흔히 보는 아파트는 현장에서 시멘트 붓고 철근 올려서 몇 년씩 걸려 짓잖아요. 그런데 요즘 유행하는 모듈러 주택은 공장에서 방이랑 거실을 다 만들어서 트럭에 싣고 온 뒤 현장에서 레고처럼 딱딱 맞추면 끝납니다. 데이터센터도 똑같아요. 서버가 들어갈 랙, 전기를 공급할 배전반, 열을 식힐 냉각 장치를 각각의 상자 모듈 안에 미리 다 때려 넣고 공장에서 테스트까지 끝낸 뒤에 현장으로 배달하는 방식입니다.

이게 왜 핵심 가치를 가질까요. 첫째도 속도 둘째도 속도입니다. 엔비디아의 젠슨 황 형님이 요즘 칩 나오는 주기를 2년에서 1년으로 줄이겠다고 선언했잖아요. 칩은 매년 새로 나오는데 그거 꽂을 데이터센터 짓는 데 3년씩 걸리면 칩이 도착했을 때는 이미 구식 장비가 되는 꼴입니다. 그래서 공장에서 미리 만들어와서 몇 달 만에 뚝딱 설치하는 모듈러 방식이 AI 시대의 생존 전략이 된 겁니다.

섹션 2.  2007년의 썬 마이크로시스템즈와 뼈아픈 추억

사실 이 모듈러 이야기가 나오면 제가 꼭 꺼내는 추억의 이름이 있습니다.

바로 썬 마이크로시스템즈입니다. 2007년에 이 형님들이 프로젝트 블랙박스라는 걸 발표했을 때 업계가 정말 뒤집어졌거든요. 컨테이너 박스 하나에 데이터센터 기능을 다 넣었다고 하니 다들 기함했죠. 그런데 솔직히 말씀드리면 그때는 너무 앞서갔습니다. 스마트폰도 제대로 없던 시절에 그런 이동형 센터가 왜 필요하겠어요.

제가 당시 기획자로서 지켜본 바로는 기술은 혁신적이었지만

시장이 따라오질 못했습니다. 결국 썬은 오라클에 인수되는 운명을 맞이했죠. 하지만 그들이 뿌린 씨앗이 지금 AI 광풍을 만나 꽃을 피우고 있는 겁니다. 블랙박스 같은 컨테이너형 모델은 이제 특수 목적을 넘어 표준이 되어가고 있으니까요. 선구자의 길은 늘 이렇게 외롭지만 나중에 누군가는 그 혜택을 입기 마련입니다.

섹션 3. 이야기. 컨테이너를 넘어 프리팹으로 진화하는 현장

요즘은 단순히 컨테이너 박스 하나 던져놓는 수준을 넘어섰습니다. 여기서 프리팹 즉 프리패브리케이티드라는 용어가 등장합니다.각 구성 요소를 기능별로 쪼개서 최적화한 프리패브리케이티드 즉 프리팹 방식으로 완전히 진화했거든요. 프리팹은 쉽게 말해 공장에서 건물의 각 파트를 미리 정밀하게 제작해 오는 방식입니다. 어떤 모듈은 전력만 담당하고 어떤 모듈은 냉각만 전담하며 또 다른 모듈은 서버만 꽉 채우는 식이죠. 현장에서는 이 기능별 모듈들을 마치 거대한 레고 블록을 맞추듯 연결해서 하나의 거대한 데이터센터 단지를 완성합니다.

그러면 왜 프리팹이 AI 시대의 진정한 구원투수일까요? 이 프리팹 방식의 진짜 무서운 점은 바로 유연한 설계와 확장성입니다. 옛날 컨테이너 방식은 서버가 늘어나면 컨테이너를 또 하나 가져다 놓는 게 전부였지만 프리팹은 다릅니다. 우리 집 거실을 넓히고 싶으면 거실 모듈을 더 붙이고 주방이 좁으면 주방 모듈을 교체하는 것처럼 데이터센터도 전력이 부족하면 전력 모듈만 쏙 추가하면 끝납니다.

특히 요즘처럼 엔비디아 칩이 뿜어내는 열기가 용광로 수준인 시대에는 냉각 시스템의 정밀함이 생명입니다. 프리팹 방식은 공장의 깨끗하고 정밀한 환경에서 액체 냉각 배관을 미리 다 짜서 가져오기 때문에 현장에서 대충 파이프 연결하다가 물바다가 될 걱정을 획기적으로 줄여줍니다. 단순한 박스를 넘어 거대한 집합체를 조립하는 지능형 시스템으로 거듭난 것이죠.

결국 프리팹 데이터센터는 속도와 품질이라는 두 마리 토끼를 다 잡으려는 업계의 절박함이 만들어낸 결과물입니다. 이제 데이터센터는 짓는 것이 아니라 조립하는 시대로 완전히 넘어왔습니다. 혹시 여러분도 무언가 거대한 프로젝트를 준비하고 있다면 처음부터 완벽한 성을 쌓으려 하지 마세요. 프리팹처럼 핵심 기능을 모듈화하고 필요할 때마다 붙여나가는 유연함을 갖추는 것이 필요합니다.

섹션4. 체급별 맞춤 전략

먼저 올인원 컨테이너 방식을 살펴볼까요. 이건 말 그대로 컨테이너 박스 하나에 4대 구성 요소(섹션 5)를 몽땅 집어넣은 형태입니다. 좁은 공간에 두뇌와 심장 에어컨 관리실까지 다 구겨 넣었으니 얼마나 알차겠어요. 주로 소규모 엣지 컴퓨팅이나 연구소 혹은 재난 현장처럼 이동성이 중요한 곳에서 빛을 발합니다.

그냥 트럭에 실어 가져가서 전원만 꽂으니 바로 가동됩니다. 하지만

All in one Datacenter, by Dell

 

덩치가 작다 보니 확장에 한계가 있고 내부가 꽉 차 있어서 수리 한 번 하려면 거의 요가 수준의 유연성이 필요하다는 단점은 애교로 봐줘야 합니다.

반면 AI 시대의 진정한 주인공은 하이퍼스케일용 거대 집합체라고 할 수 있고  요즘 뜨는 AI 전용 데이터센터들은 거대 집합체 방식을 선택합니다. 전문 용어로는 스키드나 프리팹 시스템이라고 부르죠. 이건 올인원처럼 박스 하나에 다 넣는 게 아니라 전력은 전력대로 냉각은 냉각대로 거대한 모듈을 따로 만듭니다. 예를 들어 전력 모듈 하나가 웬만한 컨테이너보다 크고 냉각 설비만 모아둔 모듈도 빌딩 한 층 수준이죠.

이런 덩치 큰 녀석들을 현장에서 조립해서 하이퍼스케일급 데이터센터를 완성하는 겁니다. 왜 이렇게 번거롭게 따로 만드냐고요. 바로 효율과 용량 때문입니다. 수만 개의 GPU가 돌아가는 곳에서는 올인원 박스 수천 개를 놓는 것보다 거대한 전력 모듈 하나가 관리하기 훨씬 편하고 강력하거든요. 마치 개별 에어컨 수백 대를 트는 것보다 거대한 중앙 냉방 시스템 하나가 효율적인 것과 같은 이치입니다.

그럼 어떤 방식을 골라야 할까요. 만약 필요 서비스가 사용자와 가까운 곳에서 빠르게 응답해야 하는 자율주행이나 스마트 팩토리라면 올인원이 정답입니다. 고민할 것도 없어요. 하지만 엔비디아 칩을 수천 개 박아 넣고 거대 언어 모델을 학습시켜야 하는 대형 프로젝트라면 무조건 거대 집합체 방식으로 가야 합니다. 초기 비용은 좀 더 들지 몰라도 장기적인 유지보수와 전력 효율 면에서 비교가 안 되니까요. 덩치 큰 형님들이 괜히 따로따로 모듈을 만드는 게 아니라는 사실을 명심하세요.

색션 5. 4대 구성 요소

자, 이제 본격적으로 알맹이를 파헤쳐 볼까요? 모듈러 데이터센터라는 거대한 레고 성을 쌓으려면 딱 네 가지 핵심 블록이 필요합니다. 30년 현장 짬밥으로 요약하자면, 이건 마치 우리 몸의 장기들을 기능별로 박스에 나눠 담는 것과 비슷해요. 하나라도 삐끗하면 전체가 멈춰버리는 아주 중요한 녀석들이죠.

1. IT 모듈 (생각하는 두뇌와 심장)

여기가 바로 돈 냄새가 가장 진하게 나는 곳입니다.   엔비디아의

귀하신 GPU 서버들이 층층이 들어앉아 있는 공간이죠. 수십억 원을 호가하는 서버들이 고속 도로 같은 광케이블로 촘촘하게 엮여 있습니다.

베테랑의 조언: 예전엔 그냥 랙만 잘 세우면 됐는데, 요즘 AI 서버는 워낙 무거워서 바닥 하중 설계가 핵심이에요. 랙 하나가 웬만한 경차 무게보다 무거우니까요.

2. 전력 모듈 (멈추지 않는 에너지원)

데이터센터의 생명은 안정적인 전기 공급입니다. 1초라도 전기가 끊기면

Power Supply for Datacenter, vertiv

그 비싼 AI 연산 데이터가 공중분해 되거든요. 정전이 되어도 배터리로 즉시 버텨주는 무정전 전원 장치(UPS)와 전기를 골고루 나눠주는 배전반이 들어있습니다.

베테랑의 조언: AI 칩은 전기를 엄청나게 먹는 하마입니다. 좁은 모듈 안에서 열을 덜 받으면서도 고출력을 낼 수 있는 고밀도 전력 설계가 이 박스의 자존심이죠.

 

3. 냉각 모듈 (열기를 식히는 에어컨과 혈관)

AI 시대의 모듈러 센터에서 가장 공을 많이 들이는 부분입니다. 칩이 머리에

냉각 모듈, Vertiv

불이 나도록 일을 하니, 옆에서 계속 얼음찜질을 해줘야 하거든요. 과거엔 시원한 바람(공랭식)만 불어줬지만, 이제는 액체 냉각 파이프를 서버 근처까지 직접 연결합니다.

베테랑의 조언: 모듈 내부의 공기 흐름을 1도 단위로 제어하는 게 기술이에요. 공장에서 배관을 미리 다 짜오기 때문에 현장에서 물 샐 걱정 없이 깔끔하게 연결하는 게 프리팹 냉각 모듈의 묘미입니다.

 

4. 제어 및 보안 모듈 (든든한 파수꾼)

마지막으로 이 모든 걸 감시하고 지키는 관리실입니다. 불이 나면 장비가

데이터 센터 토탈 제어, Vertiv

상하지 않도록 가스를 뿌리고, 센서를 통해 전력량과 온도를 실시간으로 체크합니다.

베테랑의 조언: 요즘은 사람이 상주하지 않아도 스마트폰으로 센터 상태를 다 봅니다. 원격으로 제어되는 보안 도어와 지능형 센서들이 이 좁은 모듈을 철통같이 지켜주죠.

 

섹션 6. 마무리

아이디어로 가성비 측면에서 컨테이너만으로 대규모 데이터센터를 짓겠다는 이야기가 종종 들립니다. 이렇게 짓겠다는 건, 비유하자면 캠핑용 텐트 수천 개를 이어 붙여서 아파트를 만들겠다는 것과 비슷하거든요. 30년 현장 짬밥으로 볼 때, 이건 아주 위험한 도박입니다. 왜 그런지 아주 뼈아픈 현실 이야기를 해드릴게요.

1. 하늘 무서운 줄 모르는 기후 변화와 컨테이너의 비명

여러분, 요즘 여름 날씨 보셨죠? 이건 그냥 더운 게 아니라 칩들이 녹아내릴 듯한 폭염입니다. 대규모 센터를 건물이라는 보호막 없이 깡통 컨테이너만으로 길바닥에 펼쳐놓으면, 그 직사광선을 그대로 다 받아내야 합니다. 컨테이너 외벽 온도가 올라가면 내부 냉각 장비는 24시간 풀가동해도 모자라고, 결국 전기료 폭탄은 물론이고 비싼 AI 서버들이 단체로 파업을 선언하게 됩니다.

비는 또 어떻고요. 기록적인 폭우가 쏟아질 때 컨테이너 사이사이에 물이 차거나 습기가 스며들면, 수십억 원짜리 장비들이 순식간에 고철로 변합니다. 제가 예전에 서버실로 쓰던 곳에서 장마철에 물이 새서 서버 메인보드가 단체로 사망하는 걸 보고 눈물을 흘렸던 기억이 나네요. 건물이라는 단단한 외피가 없으면 기후 변화라는 거대한 파도 앞에 속수무책일 수밖에 없습니다.

2. 유지보수하다가 길거리 전시회 열 일 있나요

더 치명적인 건 유지보수 문제입니다. 컨테이너는 내부 공간이 워낙 좁아서 서버 하나를 빼내거나 부품을 갈려면 문을 활짝 열어야 합니다. 그런데 밖에서는 폭우가 쏟아지거나 황사 미세먼지가 휘날리고 있다면 어떨까요? 문을 여는 순간 우리 센터의 소중한 심장부가 외부 오염물질에 그대로 노출됩니다.

이건 보안 측면에서도 재앙입니다. 길가는 사람 누구나 우리 회사의 핵심 자산인 서버 뒷모습을 구경할 수 있게 되니까요. 30년 차 개발자로서 말씀드리는데, 서버실은 자고로 어둡고 서늘하며 아무나 들여다볼 수 없는 은밀한 곳, 아무도 쉽게 드나들 수 없는 곳이어야 합니다. 컨테이너 방식은 이런 기본적인 물리적 보안과 환경 제어에서 태생적인 한계를 가질 수밖에 없죠.

3. 법 앞에서 작아지는 컨테이너의 운명

마지막으로 법적인 문제입니다. 소방법이나 건축법이 생각보다 훨씬 까다롭거든요. 수천 대의 서버가 돌아가는 곳은 불이 났을 때를 대비한 소방 설비가 완벽해야 하는데, 컨테이너는 화재 발생 시 불길을 막아주는 방화 구획 설정이 정말 어렵습니다. 소방관님들이 검사 나오시면 고개를 절레절레 흔드실 거예요.

대규모 데이터 센터 시설은 보안 규정도 엄격해서 국가 중요 시설급으로 관리되어야 하는 경우도 많은데, 깡통 컨테이너는 그 기준을 통과하기가 하늘의 별 따기입니다. 결국 나중에는 규제 맞추느라 돈을 더 쓰게 되는 배보다 배꼽이 더 큰 상황이 벌어지죠. 그래서 요즘 똑똑한 기획자들은 컨테이너를 직접 노출하기보다는, 공장에서 만든 프리팹 모듈을 튼튼한 건물 껍데기 안에 집어넣는 하이브리드 방식을 선택하는 겁니다.

마무리하며.

30년 선배의 마지막 경고

겉보기에 힙하고 빨라 보인다고 해서 다 좋은 기술은 아닙니다. 특히 데이터센터처럼 멈추지 말아야 할 인프라는 가장 보수적으로 접근해야 하죠. 날씨 무서운 줄 모르고 규제 우습게 알다가 한순간에 공든 탑이 무너지는 걸 저는 수없이 봐왔습니다. 여러분은 부디 튼튼한 지붕 아래에서 마음 편히 서버를 돌리시길 바랍니다.