컴퓨팅 파워 공급과 기업 도입의 최전선에 3년간 서서, 어떤 산업이 실제로 비용을 집행했고 어떤 산업이 개념검증(PoC)만 한 채 사라졌는지를 지켜봤습니다. 데이터는 거짓말을 하지 않습니다. 이 글은 Horizon AI 대표 쑤옌저(Darren Su)가 『블랙 스완 아카데미』(Black Swan Academy) EP286 인터뷰(전체 영상, 중국어)에서 공유한 최전선의 관찰을 정리한 것입니다.
빠르게 도입되는 세 산업, 공통점은 '눈에 보이는 데이터'
전자상거래·마케팅이 가장 먼저 도입에 나섰습니다. 비즈니스 구조 곳곳에 소재 제작, 광고 집행 최적화, 전환율처럼 측정 가능한 단계가 있습니다. AI 도구를 도입한 뒤의 변화가 곧바로 숫자로 나타납니다. 의사결정이 빠르고 건당 금액이 작아 첫 사용자 그룹으로 적합합니다.
의료·바이오는 적합도가 가장 높은 산업입니다. 제약 공정의 모든 단계는 법규에 따라 완전한 기록이 요구되어 디지털화 수준이 태생적으로 높습니다. 명확한 최적화 과제만 제시되면 반드시 대응하는 도구가 있습니다. 실제 사례를 하나 들겠습니다. 한 바이오 기업은 다섯 가지 성분의 최적 배합비를 찾아야 했습니다. 과거에는 전통적 연산으로 천천히 계산하는 방법밖에 없었고, AI 도입 후 컴퓨팅 파워 지출은 한때 월 약 1억 1,000만 원(NT$260만)에 달했습니다. 더 합리적인 컴퓨팅 파워 비용 구조를 통해 같은 작업이 **월 약 2,150만 원(NT$50만)**으로 내려갔습니다. 비용 부담이 크고 시간이 곧 돈인 바이오 업계에서 한두 달 일찍 답을 얻는 가치는 컴퓨팅 파워 청구서를 훨씬 뛰어넘습니다.
금융업의 수요는 고도로 세분화되어 있으면서도 명확합니다. 퀀트 트레이딩 팀은 해외에서 찾은 전략 아이디어를 컴퓨팅 파워로 백테스트하고, 은행은 거래 상태 식별과 이상거래 방지 리스크 관리에 AI를 도입하며, 고객센터는 AI 상담을 도입합니다. 과제마다 전문 서비스 제공사가 움직이고 있습니다.
세 산업의 공통점은 이렇습니다. 물어야 할 것은 '그 산업이 AI에 적합한가'가 아니라 **'그 산업이 데이터로 최적화를 볼 수 있는가'**입니다. AI는 부가가치 도구이며 산업을 가리지 않습니다. 가리는 것은 명확한 과제가 있는가입니다.
데이터가 어지러운 것은 시작하지 않을 이유가 아님
'우리 데이터가 아직 정리되지 않았다'는 가장 흔한 관망의 핑계입니다. 특히 진료 기록과 종이 장표가 뒤섞인 의료 같은 현장에서 두드러집니다. 그러나 실상은 이렇습니다. 데이터 정제와 라벨링은 어렵지 않고, 다만 번거로울 뿐입니다. 필요한 것은 인력과 프로세스이지 천재가 아닙니다. 성숙한 방식은 도입 파트너가 전문 데이터 처리 팀이나 협력사(예: 물류 전표나 진료 기록 인식을 전문으로 다루는 시스템 업체)를 배치해 이 번거로운 작업을 외부에 맡기는 것입니다. 이것이 프로젝트 전체를 가로막게 두어서는 안 됩니다.
성패의 최대 변수, 예산이 아닌 조직 문화
같은 도구, 같은 예산이라도 도입 결과는 크게 달라집니다. 가장 큰 변수는 조직 문화입니다.
5~10명 규모의 소수 정예 기업은 도입이 매우 빠릅니다. 회의 테이블 맞은편에 앉은 사람이 곧 결재권자이기 때문입니다. 오늘 논의하고 다음 주에 본격 운영에 들어갑니다. 반면 대기업은 장기적인 동반이 필요합니다. 부서가 많고 계층이 많으며 상장사의 거버넌스 요건까지 있어 모든 단계가 커뮤니케이션 비용입니다. 어느 쪽이 낫고 못하고의 문제가 아니라, 도입 전략이 달라야 한다는 뜻입니다. 작은 기업은 속도로 밀어붙이고, 큰 기업은 먼저 사내 추진 역할을 맡을 부서를 찾아 하나의 성공 사례로 다른 부서를 설득해야 합니다.
시장 전체의 온도도 달라지고 있습니다. 첫해에는 많은 기업이 PoC를 한 뒤 후속이 없었습니다. 쓰기 불편해서가 아니라 과제를 아직 정리하지 못했기 때문입니다. 지난해 하반기부터 수요가 뚜렷하게 명확해졌지만, 동시에 급격하게 양극화되었습니다. 무슨 일이 있어도 일단 손대지 않는 기업군과, 단맛을 본 뒤 자원을 늘려 성과를 키우는 기업군입니다. 같은 사업을 하는 두 회사 중 먼저 움직인 한 곳이 더 낮은 비용으로 업무를 최적화해 짧은 시간에 앞질러 갑니다. 이는 지금 시대에 실제로 일어나고 있는 일입니다.
올바른 시작점, 21만 원으로 43만 원 절감 후 확대
많은 AI 도입 제안은 첫마디부터 약 2,150만 원(NT$50만), 4,300만 원(NT$100만)대 견적으로 시작합니다. 기업에 자금이 없는 것은 아니지만, 몹시 두려워합니다. 과거에 이 비용을 투입했다가 실패한 적이 있다면 더욱 그렇습니다.
더 합리적인 경로는 최소 비용으로 먼저 AI의 이점을 체감하는 것입니다. 우선 월 약 21만 원(NT$5,000) 규모의 플랜으로 명확한 한 가지 프로세스의 최적화를 검증하고, '21만 원(NT$5,000)을 써서 43만 원(NT$1만)을 절감한다'는 것을 직접 체감한 뒤 2단계인 컴퓨팅 파워 확장으로 넘어갑니다. 3단계가 비로소 보안, 데이터 정착, 자체 구축 환경에 대한 논의입니다. 이 3년 여정의 각 단계는 앞 단계에서 검증된 가치로 뒷받침되어야 합니다.
또 하나 자주 간과되는 사실이 있습니다. AI의 가치는 축적됩니다. 데이터를 시스템에 계속 공급할수록 방안의 정확도는 높아지고 전환 비용도 커집니다. 즉 도입 파트너를 고를 때 중요한 것은 누구의 제안서가 가장 아름다운가가 아니라, 3년 뒤에도 고객사의 운영 회의에 앉아 있을 사람이 누구인가입니다.
Horizon AI는 KONST 그룹 산하의 기업용 생성형 AI 도입 파트너입니다. 그룹이 보유한 컴퓨팅 파워와 인프라의 강점을, 기업이 실제로 활용할 수 있는 생성형 AI 도입 방안으로 전환합니다. 평가부터 맞춤 개발, 시스템 통합, 운영·거버넌스까지 한 번에 책임집니다. 무료 AI 도입 진단 예약하기 →
자주 묻는 질문
어떤 산업이 우선적으로 AI를 도입하기에 적합한가요?
디지털화 수준이 높고 데이터가 잘 갖춰진 산업일수록 빠르게 나아갑니다. 전자상거래·마케팅은 성과 데이터의 폐루프가 짧고, 의료·바이오는 기록 문화가 잘 갖춰져 모든 단계에 대응하는 AI 도구가 있으며, 금융업은 퀀트 트레이딩·이상거래 방지·고객 상담에서 수요가 명확합니다. 공통점은 데이터로 보이는 최적화입니다.
기업의 AI 도입이 실패하는 가장 흔한 원인은 무엇인가요?
첫해에 PoC를 한 뒤 후속이 없는 것입니다. 도구가 쓰기 불편해서가 아니라, 기업이 아직 과제를 명확히 정리하지 못했고 시장의 사례도 충분하지 않았기 때문입니다. 그다음으로 많은 원인은 조직 문화입니다. 인원과 부서가 많을수록 도입 저항이 커지고 더 긴 동반 기간이 필요합니다.
AI 도입의 첫 예산은 어느 정도로 잡아야 하나요?
대부분의 기업이 생각하는 것보다 훨씬 작아도 됩니다. 합리적인 시작은 월 수십만 원(NT$ 수천) 규모의 플랜으로 명확한 한 가지 프로세스의 최적화 효과를 검증하는 것입니다. '21만 원(NT$5,000)을 써서 43만 원(NT$1만)을 절감한다'는 것을 체감한 뒤, 컴퓨팅 파워·보안·자체 환경 구축 논의로 점진적으로 확대합니다. 처음부터 약 2,150만 원(NT$50만), 4,300만 원(NT$100만)의 대형 방안에 투입하는 것은 필요 이상으로 위험이 큽니다.
회사 데이터가 뒤죽박죽인데 AI를 도입할 수 있나요?
가능하며, 오히려 그것이 일반적입니다. 데이터 라벨링과 정제의 논리는 어렵지 않고, 다만 번거로워 인력이 필요할 뿐입니다. 성숙한 도입 파트너는 전문 데이터 정리 팀이나 협력사를 배치해 종이 문서·장표·비정형 데이터를 처리합니다. 시작하지 않을 이유가 되어서는 안 됩니다.