"토큰은 이 시대의 새로운 데이터 요금과도 같으며, 통신사 수준의 비즈니스 모델입니다." Horizon AI의 쑤옌저(蘇彥哲) CEO는 팟캐스트 '블랙스완 아카데미'(黑天鵝學院) EP286(전체 영상)에서, 젠슨 황(Jensen Huang)이 거듭 강조해온 토큰 경제를 이 한마디로 정리했습니다. 이 글은 컴퓨팅 파워 공급의 최전선에 선 그가 본 몇 가지 수치와 현실을 비용, 규모, 그리고 대만의 위치라는 관점에서 정리한 것입니다.
토큰: 기술 용어에서 기본 요금으로
오늘날 다수의 사람이 '컴퓨팅 파워'의 존재를 느끼지 못하는 것은 아직 그것을 쓰지 않기 때문입니다. 그러나 시간축을 앞으로 밀어보면, 스마트폰 속 앱의 절반이 뒤에서 AI 기능을 돌리고 저마다 구독료를 물게 될 때, 그 요금의 본질은 토큰입니다. 통신사에 내는 월정액의 뒤에 기지국과 대역폭이 있는 것과 같습니다.
차이는 사용자가 더 이상 토큰이 무엇인지 알 필요가 없다는 점에 있습니다. 오늘날 자신이 몇 MB의 데이터를 썼는지 신경 쓰는 사람이 없는 것과 마찬가지입니다. 한 기술의 과금 단위가 업계 은어에서 기본 요금으로 바뀔 때, 공급 측을 쥔 역할은 통신사 수준의 비즈니스 모델을 갖습니다. 전 세계 자금이 AI 인프라로 몰려드는 것이 바로 이 때문입니다.
'충분한' 대만 컴퓨팅 파워의 진실
직관에 반하는 사실이 있습니다. 대만의 컴퓨팅 파워는 현시점에서 충분합니다. 다만 그 이유는 공급이 과잉이어서가 아니라 수요가 아직 깨어나지 않았기 때문입니다.
해외에서는 새로운 관리 문화가 나타나고 있습니다. 기업이 엔지니어에게 매월 일정량 이상의 컴퓨팅 파워를 소비하도록 요구하고, 이를 'AI로 업무 흐름을 최적화하고 있다'는 명확한 지표로 삼는 것입니다. 1인당 월 약 210만 원(NT$5만)이라는 숫자를 내거는 기업도 있습니다. 반면 대만에서는 다수의 사람이 AI에 참여하는 방식이 여전히 소셜미디어에서 '좋아요'를 누르고 숏폼을 공유하는 데 머물러 있습니다. AI 에이전트를 일상 업무에 적용한 사람은 기술 업계에서도 소수입니다.
이 격차는 문화적인 것입니다. 중국 시장의 치열한 경쟁은 기업으로 하여금 '격차를 벌릴 기회가 있으면 전력으로 뛰어드는' 태도를 갖게 했고, 바이트댄스, 바이두, 알리바바, 텐센트는 저마다 독자적인 대규모 모델과 에이전트 서비스를 내놓았습니다. 대만은 상대적으로 편안하고 관망의 비용은 낮아 보입니다. 그러나 수요 문화가 일단 따라오면, 그리고 그것은 지금 따라오고 있습니다, 대만의 공급 조건에서 충분함은 빠르게 빠듯함으로 바뀝니다.
컴퓨팅 센터 한 곳의 실제 구축 비용
외부에서 AI 데이터센터에 품는 인상은 흔히 '비싸다'는 한마디에 그칩니다. 실제 비용 구조는 다음과 같습니다. 아래 수치는 모두 대만 시장을 기준으로 합니다.
- 경제적 단위는 32대입니다. 8대나 16대를 지어도 냉각 시스템, 배관, 바닥 하중, 예비 공간 같은 기초 공사의 비용 차이는 아주 작습니다. 그래서 일정 규모에 도달해야 비로소 효율이 나오며, 현재 업계는 일반적으로 GPU 서버 32대를 한 단위로 봅니다.
- 주 장비가 큰 비중을 차지합니다. 신세대 B300은 1대당 약 6억 3,000만
7억 6,000만 원(NT$1,500만1,800만)이며, 전세대 H200/B200은 약 4억 2,000만 원(NT$1,000만)입니다. 32대를 구축하면 부지 전체로 약 **250억 원(NT$6억)**부터 시작하고, 약 1MW의 전력 용량 안에 들어갑니다. - 시설 공사는 여기에 약 1.5배가 더해집니다. 고밀도 구성으로 추산하면 1MW급의 완전한 구축은 약 630억
760억 원(NT$15억18억)에 달할 수 있고, 20MW 규모의 사업지는 총투자액이 구성에 따라 US$3억11억(약 4,100억1조 5,000억 원)까지 올라갈 수 있습니다.
규모의 격차는 한층 더 놀랍습니다. 대만 북부의 신설 부지는 5MW가 정책상 상한이며 업계는 이미 이를 한계로 봅니다. 반면 미국 동종 업계가 이야기하는 것은 1GW, 2GW로, 그 사이에는 수백 배의 격차가 있습니다. 지난해 미국 GTC 기간에 팀은 현지에서 임차할 수 있는 컴퓨팅 클러스터를 찾으려 했으나, 관련 데이터센터 사업자가 모두 만실이어서 단 1대도 남아 있지 않았습니다.
전력·투자·소버린 AI의 교착
대만의 소버린 AI(주권 AI) 논의에는 구조적 모순이 있습니다. 소버린 AI는 데이터가 대만 국내에 머물기를 요구하고, 그러려면 충분한 국내 데이터센터가 필요합니다. 그러나
- 전력 제약으로 단일 부지를 크게 지을 수 없습니다.
- 부지가 크지 않으면 투자자는 규모의 효과를 보지 못해 투자에 뛰어들지 못합니다.
- 데이터센터가 부족하면 대형 수주를 받아낼 수 없습니다. 시장에서는 이미 650대를 5년 계약으로 빌리려는 수요가 나타났으나, 대만에서는 이를 감당할 부지를 찾지 못했습니다.
- 그래서 기업은 연산을 해외에 둘 수밖에 없고, 데이터도 그에 따라 나갑니다.
교착은 한 바퀴를 돌아 출발점으로 되돌아옵니다. 대만의 컴퓨팅 파워 사업자 대부분이 해외 진출을 택하는 것도 이로써 설명됩니다. 일본에는 세제와 전력 보조가 있고, 말레이시아는 전기 요금이 저렴해 대형 사업지에 적합하며, 한국과 베트남은 수요의 힘이 강합니다. 대만이 잘하는 것은 컴퓨팅 파워의 '뿌리', 곧 엔지니어링 역량, 공급망 관계, 운영 노하우를 국내에 내리고, 규모는 전 세계에 두는 것입니다.
기업을 위한 시사점: 인프라를 기다리지 말고 수요 역량부터
다수 기업에게 이 수치들의 의미는 '자체 데이터센터를 지어야 하는가'(대다수는 짓지 말아야 합니다)가 아니라 시점의 판단에 있습니다. 컴퓨팅 파워의 가격과 취득 문턱은 지금, 수요 문화가 폭발하기 직전의 창(窓) 안에 있습니다.
지금부터 AI를 업무 흐름에 적용하는 기업은 공급이 충분한 상황에서의 가격과 서비스 유연성을 누립니다. 대만의 수요 측이 전면적으로 깨어날 때, 줄을 서는 것은 여러분입니다. 같은 사업을 하는 두 회사 중 먼저 움직인 쪽은 더 낮은 비용으로 업무를 최적화합니다. 이 시대에 작은 기업이 짧은 기간에 큰 기업을 앞지르는 일은 실제로 일어날 수 있고, 이미 일어난 바 있습니다.
Horizon AI는 KONST 그룹의 생성형 AI 도입 파트너입니다. 그룹이 컴퓨팅 파워와 인프라에서 가진 강점을, 기업이 실제로 활용할 수 있는 AI 도입으로 바꿔냅니다. 평가부터 맞춤형 개발, 시스템 연동, 운영·거버넌스까지 한 팀이 끝까지 책임집니다. 무료 AI 도입 진단을 신청하세요 →
자주 묻는 질문
토큰 경제란 무엇이며, 왜 토큰을 데이터 요금에 비유합니까?
AI 모델의 추론은 한 번마다 토큰으로 계측되고 과금됩니다. AI를 업무 흐름에 내장한 애플리케이션이 늘어날수록, 토큰 소비는 과거의 통화 시간이나 모바일 데이터 사용량과 닮아갑니다. 사용자는 구독료를 내고, 그 뒤에서는 컴퓨팅 파워가 계속 소비됩니다. 토큰 공급을 쥔 역할은 통신사에 가까운 비즈니스 모델을 가집니다.
대만의 AI 컴퓨팅 파워는 과잉입니까, 부족합니까?
단기적으로는 충분해 보이지만, 본질은 수요 측이 아직 따라오지 못한 데 있습니다. 다수 기업은 여전히 AI 콘텐츠에 '좋아요'와 공유를 누르는 단계에 머물러 있고, AI를 실제 업무 흐름에 적용하는 비율은 해외보다 훨씬 낮습니다. 수요 문화가 채워지면 대만의 전력과 부지 제약상 공급은 빠르게 빠듯해집니다.
자체 AI 컴퓨팅 센터를 구축하는 문턱은 대략 어느 정도입니까?
현재 주류 구성으로 추산하면 GPU 서버 32대가 비용 효율이 가장 좋은 기본 단위입니다. 신세대 기종은 1대당 약 6억 3,000만~7억 6,000만 원(NT$1,500만~1,800만)이며, 냉각·배관·바닥 하중·전력 등의 기초 공사를 더하면 부지 전체로 약 250억 원(NT$6억)부터 시작하고 약 1MW의 전력 용량이 필요합니다.
전력 부족은 대만의 소버린 AI 발전에 어떤 영향을 미칩니까?
소버린 AI의 전제는 데이터가 국내에 머무는 것이며, 이를 뒷받침할 만큼의 국내 데이터센터가 필요합니다. 전력 제약으로 대규모 데이터센터를 짓지 못하고 투자자도 뛰어들지 못하므로, 기업은 연산을 해외에 두게 됩니다. 데이터도 그에 따라 국외로 나가고, 소버린 AI는 발판을 잃습니다.