AI電信：領先的策略性增長與創新
電信產業正迎向關鍵時期，而電信類企業在推動數位轉型和經濟增長方面各自具有獨特優勢。透過打造強大的AI基礎設施，電信業者可為許多垂直領域（包括從醫療保健到金融業）提供先進的AI服務，帶來新的收入來源，並促進跨產業合作。
Supermicro攜手NVIDIA提供專為電信企業量身打造的AI基礎設施，助力強化營運效率、網路管理和顧客體驗。我們的解決方案可幫助電信業者透過AI技術實現策略性增長，進一步在不斷變化的數位經濟環境中成為領先企業。
「自2024年到2033年，全球AI技術在電信市場將以41.4%的CAGR持續增長，而應用範圍包括網路安全、最佳化、顧客分析、虛擬協助和自我診斷」
「90%的電信業高階主管表示，他們的組織目前正在接觸或採用AI技術——包括從測試、實驗到全面部署的階段 」
主權AI 基礎設施的AI 工廠
利用尖端AI服務提升電信網絡
- 開拓電信業新收入來源
- 主權，安全AI 關鍵應用平台
- 分散式、低延遲AI 推理
- 端到端基礎架構解決方案
AI 工廠使電信公司能夠利用專門的設備來增強其網路。 AI 基礎設施，支持國家AI 各項舉措，並為企業用戶提供安全、高效能的解決方案。
SK Telecom執行長Ryu Young-sang表示：「與AI資料中心領域的業界領先企業合作，將助力SK Telecom成為全球性的AI公司。透過攜手Supermicro和Lambda，SK Telecom的AI資料中心業務可望在今年內取得意義非凡的成果。」
IBM董事長暨執行長Arvind Krishna表示：「我堅信每個國家都應該擁有一些AI主權技術，包括AI大型語言模型。政府需要支援國家的AI運算中心建置，並針對特定用例建立通用資料集。」
透過邊緣AI和6G研究實現5G變現
充分發揮 5G 潛力，推動6G 創新
- 5G邊緣貨幣化
- AI RAN
- AI 6G研發
- 邊緣運算
電信業者可透過先進的邊緣運算和沉浸式體驗技術，整合AI、創造新營收來源，以及以強化連線能力，進而實現5G變現與加速6G創新。
「根據GSMA，網路平均佔營運商能源使用量的90%，其中 RAN 佔 80% 以上。調查中 97% 的高階主管認為，採用更高層級的自主網路將可優化能源使用，同時降低組織內的碳排放量」
秦飛表示：「我們設計6G網路時，會在空中介面（Air Interface）以及6G網路管理設計中運用AI的技術。6G網路會自我訓練、自我學習，逐漸更加強大6」。
重新構想呼叫中心
透過AI強化客戶體驗
- 自動查詢處理
- 增強型代表支持
- 無縫全通路體驗
- B2B服務拓展
AI聯絡中心可重塑客戶互動模式、優化營運，並提供進階支援，成為內部和B2B產品的重要資產。
「通訊服務供應商專注透過生成式AI技術強化以客戶為中心的服務。其中，聊天機器人是最廣泛的應用案例，而63%選擇此項應用的受訪者表示已將該技術落實正常運行階段。」
62%的顧客表示更傾向選擇客服聊天機器人，而不會等待人工客服1。
精簡的網路營運
透過AI自動化來最佳化效率
- 自動化維護
- 自優化網絡
- 5G增強
- 預測分析
AI解決方案可透過自動化維護和最佳化資源管理，簡化網路作業、提升效率並改善服務品質。
「透過生成式AI提高效率和生產力，是目前最高的價值驅動因素。41%的通訊服務供應商認為生成式AI可協助員工實現更快、更高品質的產出」。
在2023年，37%的受訪者正投入網路預測性維護，而34%的受訪者正投入網路規劃與營運（包括 RAN）2。
61%的電信業者希望在2028年達到條件式自治網路（Autonomous Network）或更高的技術，以即時感應環境變化，並在特定網域中根據外部環境最佳化並調整運行模式，進而實現意圖導向式閉環管理3。
用於商業洞察的預測分析
透過AI改變商業智慧
- 高級客戶洞察
- 營運效率
- B2B服務拓展
- 客製化解決方案
AI預測分析可讓電信業者深入洞察客戶、提升營運效率，並將有價值的服務延伸至 B2B 客戶，進而推動業務成功與創新。
「42%的電信企業受訪者正在測試運行或已建立起部分/完整的自治網路，以了解訂閱者流失/行為，進而採取相應措施以保留顧客」
「我已看到AI技術如何提高顧客關懷營運的生產力，以及創造新服務，包括個人化顧客體驗、目標行銷活動和自動化客服聊天機器人4。」
主權AI 電信基礎設施
作為AI 隨著數位經濟格局的重塑，電信業者迎來了一個戰略機遇，可以透過轉型成為主權互聯網的賦能者來開拓新的收入來源。 AI 基礎設施。擁有全球AI 基礎設施支出預計將大幅成長，企業和政府迫切需要安全、合規、低延遲的平台來實現營運。 AI 大規模。
電信營運商憑藉其基礎設施、數據管理和邊緣運算能力，在滿足此需求方面具有獨特的優勢。透過實現區域性互聯互通，電信業者能夠更好地滿足這項需求。 AI 透過工廠和分散式推理，營運商可以提供高性能、自主的AI 服務業－將自身定位為新興事物的核心AI以數位經濟為驅動。
下載關於主權的論文AI 如需了解更多信息，請聯繫電信部門：
電信AI 工廠解決方案
Supermicro的AI Factory Solutions 與 NVIDIA 合作，為電信業者提供完整的交鑰匙平台，以建立其自主網路。 AI 基礎設施。採用全端式、NVIDIA認證的系統， AI 工廠整合了高性能GPU、Spectrum-X網路、儲存和AI 用於在邊緣和區域資料中心快速部署的軟體。
Supermicro AI 領先的營運商利用工廠來提供安全、低延遲的GPU即服務和主權AI 為企業、政府和國家計劃提供能力—確保完全的資料控制和合規性。
SYS-E403-13E-FRN2T
| 機身尺寸（mm）高 × 寬 × 深 | 117.3 × 266.7 × 406.4 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 5885（Llama v2 7B）ɸd LLM吞吐量（每GPU的Token量/秒） |
應用案例：
| |
| GPU 支援 |
|
SYS-111E-F(D)WTR
| 機身尺寸（mm）高 × 寬 × 深 | 43 × 437 × 429 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 5885（Llama v2 7B）ɸeLLM吞吐量（每GPU的Token量/秒） |
應用案例：
| |
| GPU 支援 |
|
SYS-221HE-FTNR(D)
| 機身尺寸（mm）高 × 寬 × 深 | 89 × 437 × 574 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 2335 (Llama v2 70B)*cLLM 吞吐量(每 GPU 代幣/秒) |
應用案例：
| |
| GPU 支援 |
|
ARS-111GL-NHR
| 機身尺寸（mm）高 × 寬 × 深 | 44 × 440 × 940 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 3401 (Llama v2 70B)ɸaLLM 吞吐量(每 GPU 代幣/秒) |
應用案例：
| |
| GPU 支援 |
|
SYS-421GE-TNHR2-LCC
| 機身尺寸（mm）高 × 寬 × 深 | 174 × 449 × 842 |
|---|---|
| 散熱方式 | 液冷 |
| 主要規格 | 3269 (Llama v2 70B) ɸ bLLM 吞吐量(每GPU的Token量/秒) 資料中心集群：
|
應用案例：
| |
| GPU 支援 |
|
SYS-821GE-TNHR
| 機身尺寸（mm）高 × 寬 × 深 | 356 × 437 × 843 |
|---|---|
| 散熱方式 | 氣冷 |
| 主要規格 | 3269 (Llama v2 70B) ɸ bLLM 吞吐量(每GPU的Token量/秒) 資料中心集群：
|
應用案例：
| |
| GPU 支援 |
|
- 輸入長度 = 128，輸出長度 = 128，批次大小 = 256
- 輸入長度 = 128，輸出長度 = 128，批次大小 = 最大值
- TP = 1，搭載1x GH100
- TP = 2，搭載2x H100
- TP = 1，搭載1x H100 NVL
- TP = 1，搭載1x L40S
- TP = 1，搭載1x L40
