中文
 

Follow us 

Hot Topic
Market News
Events & Promo
Career Tips
Education News
Health & Life
神雲科技於 SC26 展出全棧基礎設施,擴展代理式 AI應用
PRNewswire

神雲科技於 SC26 展出全棧基礎設施,擴展代理式 AI應用

Publish date: 17 Nov 2026

Follow us

Stay updated on the job market

Popular Articles

【首富發聲】本港出生率陷全球最低!去年新生兒急跌15.4%,馬斯克預言:若不改變將很快消失
【首富發聲】本港出生率陷全球最低!去年新生兒急跌15.4%,馬斯克預言:若不改變將很快消失
【打工仔減肥必睇】返工越耐越肥?盤點6個辦公室致肥壞習慣!踢走「過勞肥」全攻略
【打工仔減肥必睇】返工越耐越肥?盤點6個辦公室致肥壞習慣!踢走「過勞肥」全攻略
【35歲後的頂級財富】港人公認人生贏家10大清單:你做到幾多個?
【35歲後的頂級財富】港人公認人生贏家10大清單:你做到幾多個?
【QS亞洲大學排名】港5大學強勢列入10強!港大蟬聯亞洲榜首,城大超中大首登全港第二
【QS亞洲大學排名】港5大學強勢列入10強!港大蟬聯亞洲榜首,城大超中大首登全港第二
【天氣轉涼】天文台:今晚急跌明早最低16度!新界溫差極大,打工仔出門必備「洋蔥式著法」
【天氣轉涼】天文台:今晚急跌明早最低16度!新界溫差極大,打工仔出門必備「洋蔥式著法」

芝加哥2026年11月17日 /美通社/ -- 全球高效能伺服器解決方案領導者神達控股股份有限公司(股票代號:3706)子公司神雲科技(MiTAC Computing Technology Corp.),今日於 SC26 展會中揭曉其全方位的 AI 基礎設施生態系。神雲科技位於第 4615 號攤位,以「全棧基礎設施,擴展AI代理式應用(Scaling Agentic AI. Built on Full-Stack Infrastructure)」為主題,展示全棧創新技術如何克服企業部署 AI 時所面臨的運算、散熱與資料傳輸瓶頸。隨著代理式 AI 帶動推論工作負載呈指數級暴增,擴展基礎設施所需的已不僅是單純的 GPU 算力。透過與 AMD、Canonical、DDN、Intel、NVIDIA 及 Rafay 等夥伴的戰略合作,神雲科技提供具備高度擴充性的 AI 工廠(AI Factory)架構,完美結合高密度液冷、解耦推論(Disaggregated Inference)以及端到端(End-to-End)的資源調度管理。

神雲科技於 SC26 展出全棧基礎設施 擴展代理式 AI應用
神雲科技於 SC26 展出全棧基礎設施 擴展代理式 AI應用

「擴展代理式 AI 需要的是具備凝聚力的基礎設施,而非零散的系統,」神雲科技總經理黃承德(Rick Hwang)表示。「神雲科技提供全棧基礎設施解方,實現永續發展的 AI 工廠。」

開創解耦 AI 推論引擎 (Disaggregated AI Inference Engine)

神雲科技與 Skymizer 攜手合作,共同打造一款創新的推論架構。該架構將高度消耗算力的「Prefill(預填)」階段交由 GPU 處理,並將高度消耗記憶體的「Decode(解碼)」階段分配給 Skymizer 的 HTX301 加速卡。此一架構旨在讓企業能針對不同階段的工作負載進行精準的資源配置,同時確保模型推論能維持在地端(On-premises)運行。

此提案配置結合了兩大伺服器平台:

  • Prefill 階段: 採用 8U 氣冷規格的 MiTAC G8825Z5,搭載 AMD EPYC™ 9575F 或 9755 處理器與 AMD Instinct™ MI350X GPU,專責處理 Prefill 運算,並透過高速網路將產生的 Key-Value (KV) Cache 傳輸至 Decode 伺服器。
  • Decode 階段: 採用 4U 氣冷規格的 MiTAC G4520G6,搭載 Intel® Xeon® 6 處理器,並配置 8 張 Skymizer HTX301-4S 加速卡。每張卡具備 256 GB 記憶體,透過 8 組 PCIe 插槽提供高達 2 TB 的聚合加速器記憶體空間。

透過上述協作,MiTAC G4520G6 Decode 伺服器旨在於地端環境運行如 Kimi K3(具備 2.8 兆參數的大型語言模型)這類超大型模型,進而驅動複雜且具備深度推理(Deep-reasoning)能力的代理式 AI 工作負載。歡迎造訪活動專頁以了解更多資訊。

統籌全棧軟體生態系

具備擴充性的 AI 工廠需要極具凝聚力的軟體生態系。在基礎安全性方面,Canonical Ubuntu 提供經過認證的作業系統層,確保無縫部署與企業級的穩定度。整合 DDN Infinia 解決方案,確保海量資料流能以超低 I/O 延遲進行處理,避免加速器陷入無資料可算的閒置窘境。在此基礎上,神雲與 Rafay 合作,賦能企業具備動態的 GPU 即服務(GPUaaS)調度能力,在分散式工作負載中高效分配 GPU 資源,消除閒置算力並將投資報酬率(ROI)最大化。而將整個生態系緊密結合的,是神雲科技自主研發的 MiCoreView™ 軟體,這是一款全方位的 POD 管理解決方案,可提供深度的遙測與監控數據(Telemetry),並為整個資料中心帶來統一的視覺化監控能力。

透過機櫃級創新展示多元化 AI 基礎設施

奠基於 AMD 董事長暨執行長蘇姿丰博士(Dr. Lisa Su)上個月在 OCP 全球高峰會上宣布的願景,神雲科技正與 AMD 合作開發 Helion 代理式 AI 機櫃(Helion Agentic AI Rack)。這款專為次世代機櫃級代理式架構打造、即將推出的 ORv3 44OU Helion 解決方案,將能在開源軟體堆疊中擴展至高達 32,768 個 AMD Zen 6 CPU 核心,賦能超大規模(Hyperscale)資料中心與企業環境智能地分配複雜工作負載,並將每瓦Agent運算效率(Agents-per-watt efficiency)推向極致。

在 SC26 展會現場,神雲科技亦同步展示三款專為現代工作負載打造的機櫃級創新產品:

  • 52U 高密度 AI 液冷機櫃: 整合 12 台 MiTAC G4826Z5 伺服器與 96 顆 AMD Instinct™ MI355X GPU,此解決方案的 GPU 密度較傳統部署方式高出 50%。
  • 先進液冷機櫃: 神雲科技與 ZutaCore 合作展示了一項概念驗證(PoC),將 G4826Z5 伺服器導入無水兩相直接液冷(Waterless Two-Phase DLC)技術。利用冷卻液在晶片表面直接氣化的特性,可支援超過 4,000W 的熱設計功耗(TDP)與大於 250W/cm² 的熱通量(Heat flux),實現低至 1.03 的年化部分電源使用效率(pPUE)。
  • 高效能儲存機櫃: 專為在無 I/O 瓶頸下供應 Agentic AI 資料所設計,神雲科技的儲存機櫃搭載 DDN Infinia 智能 AI 資料平台,採用 7 台 1U 規格的 GC68C-B8056 儲存伺服器,能為連續不斷的資料流提供超高吞吐量與低延遲效能。

以全面的伺服器平台擴充基礎設施

除了機櫃級架構外,神雲科技亦提供全面的伺服器平台,滿足企業客製化的部署需求:

AI 伺服器

  • G4827Z6: 4U 模組化企業級 AI 伺服器,採用 NVIDIA MGX 架構與 AMD EPYC™ 9006 SP7 處理器。可完美搭配 NVIDIA RTX PRO 4500 與 6000 Blackwell Server Edition GPU,因應多元的推論工作負載。
  • G2610Z6: 緊湊型 2U 邊緣 GPU 伺服器,搭載 AMD EPYC™ 9006 SP8 處理器。能與 NVIDIA RTX PRO 4500 及 6000 Blackwell Server Edition GPU 無縫整合,將強大的 AI 算力推向邊緣端。
  • TN85-B8261: 雙插槽平台,支援 AMD Instinct™ MI350P PCIe 加速卡,能為特定應用提供極致高效的 AI 加速。

企業級伺服器

  • R1917GC: 作為邊緣資料中心的調度大腦,這款 1U 管理伺服器無須內建 GPU,即能透過 NVIDIA Vera 與 NVIDIA Grace CPU 來協調複雜的叢集運算。
  • R1610Z6: 在高密度的 1U 機箱內搭載 AMD EPYC™ 9006 SP8 處理器,為雲原生(Cloud-native)工作負載提供毫不妥協的單插槽效能。

多節點伺服器

  • M2810Z6: 2U2N 多節點伺服器,搭載 AMD EPYC™ 9006 SP7 處理器,專為軟體定義超融合基礎設施(HCI)最佳化運算密度。
  • C2611Z6: 專為 OCP ORv3 機櫃設計的液冷多節點伺服器,搭載 AMD EPYC™ 9006 SP8 處理器。在小巧的 2OU 尺寸中整合了四個運算節點,每節點支援 16 組 DDR5-8000 RDIMM 插槽與 OCP 3.0 擴充,是高密度液冷基礎設施的理想選擇。

歡迎與會者於 11 月 17 日至 19 日期間,蒞臨美國芝加哥 McCormick Place 會展中心第 4615 號神雲科技攤位參觀。 了解更多:

關於神雲科技(MiTAC Computing Technology Corp.)

神雲科技股份有限公司(MiTAC Computing Technology Corp.)為神達控股集團(MiTAC Holdings)旗下子公司,憑藉自 1990 年代以來的深厚產業經驗,提供多元、節能高效的伺服器解決方案。專注於人工智慧(AI)、高效能運算(HPC)、雲端運算及邊緣計算,神雲科技採用嚴謹的方法,確保不僅在單機(Barebone)層級,更重要的是在系統與機櫃層級,皆能達到無與倫比的品質,充分發揮卓越效能與系統整合。這項對品質的承諾,使神雲科技在業界獨樹一幟。神雲科技為超大規模數據中心、HPC 及 AI 應用,提供量身打造的解決方案,確保最佳效能與高擴展性。

神雲科技擁有全球布局與端到端的服務能力,涵蓋研發、製造到全球技術支援,提供靈活且高品質的解決方案,以滿足企業的多元化需求。憑藉 AI 及液冷技術的最新發展,以及 Intel DSG 與 TYAN 伺服器產品的整合,神雲科技致力於打造兼具創新、效率與可靠性的伺服器技術與產品,助力企業迎接未來挑戰。

官方網站:https://www.mitaccomputing.com/

AMD、AMD 商標、EPYC™、AMD Instinct™ 及其組合,均為 Advanced Micro Devices, Inc. 的商標。

Follow us

Stay updated on the job market

Popular Articles

【首富發聲】本港出生率陷全球最低!去年新生兒急跌15.4%,馬斯克預言:若不改變將很快消失
【首富發聲】本港出生率陷全球最低!去年新生兒急跌15.4%,馬斯克預言:若不改變將很快消失
【打工仔減肥必睇】返工越耐越肥?盤點6個辦公室致肥壞習慣!踢走「過勞肥」全攻略
【打工仔減肥必睇】返工越耐越肥?盤點6個辦公室致肥壞習慣!踢走「過勞肥」全攻略
【35歲後的頂級財富】港人公認人生贏家10大清單:你做到幾多個?
【35歲後的頂級財富】港人公認人生贏家10大清單:你做到幾多個?
【QS亞洲大學排名】港5大學強勢列入10強!港大蟬聯亞洲榜首,城大超中大首登全港第二
【QS亞洲大學排名】港5大學強勢列入10強!港大蟬聯亞洲榜首,城大超中大首登全港第二
【天氣轉涼】天文台:今晚急跌明早最低16度!新界溫差極大,打工仔出門必備「洋蔥式著法」
【天氣轉涼】天文台:今晚急跌明早最低16度!新界溫差極大,打工仔出門必備「洋蔥式著法」

Hottest Tags

#馬斯克
#Elon Musk
#香港出生率
#少子化危機
#出生人口下跌
#生育津貼
#人口老化
#育兒成本
#打工仔減肥
#過勞肥
#辦公室致肥習慣
#寫字樓減肥

Contact Us
Notice
Back to Top
We use cookies to enhance your experience on our website. Please read and confirm your agreement to our Privacy Policy and Terms and Conditions before continue to browse our website. Read and Agreed