← 回文章列表

共享 GPU 是什麼?「GPU 租賃」新創康斯特,如何吸引全球 10 萬名客戶?

5 分鐘閱讀

原文刊載於 數位時代/創業小聚

新聞稿KONSTGlows.ai

隨著 AI 發展,「共享 GPU」的概念被越來越多人提及,包含心元資本投資的 Inference.ai、去年完成 A 輪的 GMI Cloud,現在又有一家新創加入戰局。

康斯特科技宣布完成數千萬美元募資,包含台灣知名的能源、科技大廠及知名資安企業參與,將在亞洲、北美和歐洲擴建算力中心,打造全球覆蓋的雲端運算網路,以滿足不同行業的多樣化需求。康斯特科技同時要在 3 年內蓋 10 座採用潔淨能源與高效技術、符合 ESG 的算力中心,推動科技與永續的共生發展。

不過,康斯特科技僅僅成立 2 年的時間,有什麼底氣挑戰這個重資本的賽道?

從挖礦轉型到 AI 運算,康斯特科技瞄準中小型客戶

在 GPU 難求的時代,作為一個剛成立不久的新創要購買 GPU 並提供租賃服務可謂難如登天,康斯特科技之所以有辦法,其實是一次「歪打正著」。

2017 年,康斯特科技的共同創辦人暨執行長蔡明志、共同創辦人暨市場長張永旭就購買了大量 GPU 和伺服器進行比特幣挖礦,直到 2022 年加密貨幣的熊市來臨,兩人開始思考下一步。

「我們有很多礦產跟伺服器,當時就在想是要獲利了結還是進行轉型,」張永旭說,「當時認識的一位美國礦主說,他想轉往 AI 運算的應用,我們才開始研究 AI。」

不過,蔡明志和張永旭的專業背景是硬體資源,但是 AI 運算必須牽涉到雲端服務等軟體能力,因此倆人又找上另一位曾經在雲端服務大廠有多年經驗的夥伴加入團隊,不僅補齊了軟體能力,還直接帶來現成的客戶。

「對我們來說最挑戰的其實是資金,尤其是我們做基礎建設,隨便一座算力中心都要(新台幣)3,000 萬元,當時沒人知道算力是什麼。」蔡明志說,2023 年 6 月,團隊先在板橋一家餐廳的民宅樓上搭建起 AI 運算中心當作第一個試驗的小案場,和當時的客戶一邊確認需求、一邊開發產品 Glows.ai,最終才在 2024 年 1 月成立公司。

蔡明志表示,近幾年模型越來越大越來越複雜,中小型企業無法買那麼貴的伺服器,硬體規格也越來越複雜,所以康斯特科技瞄準的就是這些開發終端應用產品的中小型應用級客戶,以跟市場其他服務作出區隔。

Glows.ai:3 大特色功能極大化運算效率

除了客戶選擇,康斯特科技另一個強調的差異點是市場定位。蔡明志表示,康斯特科技不是單純的「算力租賃公司」,而是調用算力的開發工具。簡單來說,就是要讓整個租用算力的流程更加順暢。

使用雲端算力的中小型企業,需要建立運算環境、選擇模型、估算並租用算力等等步驟,然而每一項工作都需要專才,最常遇到的狀況就是不清楚需要多少算力而錯估租用量,以及運算資料轉移的速度不夠快。

康斯特科技自己建立算力中心、廠房、雲系統、GPU 管理,因此產品 Glows.ai 在算力調度、資料儲存、遷移、環境建立等方面都不會有過多的摩擦問題。具體來說,Glows.ai 具有 3 個特色功能:

  1. 鏡像檔(Image): 康斯特科技已經將底層架構跟適配模型都完成了,客戶只要選擇模型,而不用先手動建立開發環境。
  2. 暫存開發進度(Snapshot): 開發過程可能會有需要暫停的時候,使用暫存功能就可以暫時停止繼續租用算力,為客戶節省小部分開發成本。
  3. 自動彈性伸縮能力(Tripods): Tripods 系統可以自動依照客戶在終端實際的算力需求動態擴展計算資源,確保 AI 任務以最佳性能運行,客戶無需再重新申請算力。

張永旭進一步解釋,由於 Glows.ai 的資源虛擬化技術(hyper container)擁有比別人高至少 2 倍的運算效率,算力分割也可以比別人更細緻,例如只需要 2 張 4090 就可以跑 70B 的 Llama 模型,「所以我們一張 GPU 可以賺的可能也是別人的至少 2 倍。」

完成數千萬美元募資,加快國際市場佈局

目前康斯特科技以「每秒用量」為單位收費,例如 4090 一小時 0.65 美元、H100 一小時 3.5 美元,累積遍佈歐美亞的註冊客戶超過 10 萬。

作為一個僅 30 人的團隊,康斯特科技如何迅速找到來自全球的客戶?「我們是技術團隊,所以採取產品導向的市場推廣策略,例如從開發者社群開始發布消息、舉辦黑客松活動,利用開發者社群病毒式行銷,再來就是找代理商。」蔡明志說。

隨著客戶越來越多,這次獲得的數千萬美元募資就是關鍵的資源,除了在亞洲、北美和歐洲擴建算力中心,打造全球覆蓋的雲端運算網,也會新增業務部門尋找新人才加入團隊,且會和投資人一起開發潔淨能源算力服務發展永續 AI 運算。

蔡明志也透露,隨著算力中心擴建,今年的年營收預估有機會達到新台幣 10 億元,「我們做的是基礎建設,希望可以跟生態系一起共好。」

在同輪融資的對外聲明中,蔡明志進一步表示:「台灣在半導體與 AI 領域擁有無可比擬的硬體優勢,我們的使命是將這些台灣專業技術推向全球。我們已在台灣建設多座超算中心,且德州超算中心正於建設中,預計康斯特將在 2025 年全力進軍美國市場。未來,算力即國力。」

延伸報導:DIGITIMES〈康斯特科技完成千萬美元融資 提供 AI 產業一站式算力及開發解決方案〉


未來智慧(Horizon AI)是 KONST 集團旗下的企業 AI 導入夥伴——把集團在算力與基礎建設上的優勢,轉化為企業真正用得上的 AI 導入方案:從評估、客製開發、系統整合到維運治理,一站承接。預約一次免費的 AI 導入診斷 →

先從一次免費的 AI 導入診斷開始

一小時,盤點你的資料、系統與場景,給你一份可執行的 AI 導入藍圖。

預約免費診斷