AI電信：領先的策略性增長與創新
電信產業正迎向關鍵時期，而電信類企業在推動數位轉型和經濟增長方面各自具有獨特優勢。透過打造強大的AI基礎設施，電信業者可為許多垂直領域（包括從醫療保健到金融業）提供先進的AI服務，帶來新的收入來源，並促進跨產業合作。
Supermicro攜手NVIDIA提供專為電信企業量身打造的AI基礎設施，助力強化營運效率、網路管理和顧客體驗。我們的解決方案可幫助電信業者透過AI技術實現策略性增長，進一步在不斷變化的數位經濟環境中成為領先企業。
「自2024年到2033年，全球AI技術在電信市場將以41.4%的CAGR持續增長，而應用範圍包括網路安全、最佳化、顧客分析、虛擬協助和自我診斷」
「90%的電信業高階主管表示，他們的組織目前正在接觸或採用AI技術——包括從測試、實驗到全面部署的階段 」
主權AI 基礎設施的AI 工廠
以尖端AI 功能提升資料中心的地位
- 針對AI訓練與推論最佳化的資料中心
- 安全基礎設施
- 針對國家與地方文化最佳化的AI模型
- 擴展的數據中心能力
AI工廠可讓電信企業以特定的AI基礎設施強化資料中心，支援國家型AI專案，並為多種產業提供安全、高效能的解決方案。
SK Telecom執行長Ryu Young-sang表示：「與AI資料中心領域的業界領先企業合作，將助力SK Telecom成為全球性的AI公司。透過攜手Supermicro和Lambda，SK Telecom的AI資料中心業務可望在今年內取得意義非凡的成果。」
IBM董事長暨執行長Arvind Krishna表示：「我堅信每個國家都應該擁有一些AI主權技術，包括AI大型語言模型。政府需要支援國家的AI運算中心建置，並針對特定用例建立通用資料集。」
透過邊緣AI和6G研究實現5G變現
最大化5G潛能與推動6G創新
- 5G邊緣貨幣化
- AI 6G研發
- 收入機會
- 邊緣運算
電信業者可透過先進的邊緣運算和沉浸式體驗技術，整合AI、創造新營收來源，以及以強化連線能力，進而實現5G變現與加速6G創新。
根據GSMA數據，網路平均佔營運商能源消耗的90%，其中無線接取網路（RAN）更佔總消耗量的80%以上。調查顯示，97%的高階主管認為採用更高層級的自主網路能優化能源使用，同時降低企業內部碳排放量。
秦飛表示：「我們設計6G網路時，會在空中介面（Air Interface）以及6G網路管理設計中運用AI的技術。6G網路會自我訓練、自我學習，逐漸更加強大6」。
重新構思聯絡中心
透過AI強化客戶體驗
- 自動化查詢處理
- 強化代表支援
- 無縫全通路體驗
- B2B服務擴展
AI聯絡中心可重塑客戶互動模式、優化營運，並提供進階支援，成為內部和B2B產品的重要資產。
「通訊服務供應商專注透過生成式AI技術強化以客戶為中心的服務。其中，聊天機器人是最廣泛的應用案例，而63%選擇此項應用的受訪者表示已將該技術落實正常運行階段。」
62%的顧客寧可使用客服聊天機器人，也不願等待真人客服人員接聽。
精簡化網路運作
透過AI自動化來最佳化效率
- 自動化維護
- 自優化網路
- 5G 增強
- 預測性分析
AI解決方案可透過自動化維護和最佳化資源管理，簡化網路作業、提升效率並改善服務品質。
「透過生成式AI提高效率和生產力，是目前最高的價值驅動因素。41%的通訊服務供應商認為生成式AI可協助員工實現更快、更高品質的產出」。
2023年，37%的受訪者正在投資網路預測性維護，34%則投資於網路規劃與營運（包含無線接取網路）。
至2028年，61%的電信業者期望至少實現具備條件的自主網絡，該網絡能感知即時環境變化，並在特定網絡領域中優化及調整運作以適應外部環境，從而實現基於意圖的閉環管理³。
預測分析：商業洞察的關鍵
透過AI改變商業智慧
- 進階客戶洞察
- 營運效率
- B2B服務擴展
- 客製化解決方案
AI預測分析可讓電信業者深入洞察客戶、提升營運效率，並將有價值的服務延伸至 B2B 客戶，進而推動業務成功與創新。
42%的電信業者受訪者正在試行或已部分/全面部署自主網絡，藉此掌握用戶流失率與行為模式，並採取矯正措施以留住客戶。
「我已看到AI技術如何提高顧客關懷營運的生產力，以及創造新服務，包括個人化顧客體驗、目標行銷活動和自動化客服聊天機器人4。」
AI工廠如何為電信企業創造新商機
電信業者可透過加速型運算基礎設施擴大資料中心，進而支援生成式AI模型和實現製造智慧化。這種新型資料中心即為AI工廠，可為地方政府、企業和新創強化生成式AI訓練和推論性能。
深入了解電信企業如何透過Supermicro與NVIDIA的全堆疊產生式AI平台，在不斷變化的市場中發掘新商機。
加入我們的線上研討會，與Supermicro NVIDIA 的業界專家共同探討：
- 什麼是AI工廠？
- AI工廠可為電信企業帶來什麼機會？
- 案例：電信企業成為AI雲端供應商
- Supermicro與NVIDIA可為主權AI工廠供應商提供的支援
SYS-E403-13E-FRN2T
| 尺寸（毫米） 高 × 寬 × 深 | 117.3 × 266.7 × 406.4 |
|---|---|
| 冷卻 | 空氣 |
| 主要功能 | 5885（Llama v2 7B）ɸd LLM吞吐量（每GPU的Token量/秒） |
使用案例：
| |
| GPU支援 |
|
SYS-111E-F(D)WTR
| 尺寸（毫米） 高 × 寬 × 深 | 43 × 437 × 429 |
|---|---|
| 冷卻 | 空氣 |
| 主要功能 | 5885（Llama v2 7B）ɸeLLM吞吐量（每GPU的Token量/秒） |
使用案例：
| |
| GPU支援 |
|
SYS-221HE-FTNR(D)
| 尺寸（毫米） 高 × 寬 × 深 | 89 × 437 × 574 |
|---|---|
| 冷卻 | 空氣 |
| 主要功能 | 2335 (Llama v2 70B)*cLLM 吞吐量(每 GPU 代幣/秒) |
使用案例：
| |
| GPU支援 |
|
ARS-111GL-NHR
| 尺寸（毫米） 高 × 寬 × 深 | 44 × 440 × 940 |
|---|---|
| 冷卻 | 空氣 |
| 主要功能 | 3401 (Llama v2 70B)ɸaLLM 吞吐量(每 GPU 代幣/秒) |
使用案例：
| |
| GPU支援 |
|
SYS-421GE-TNHR2-LCC
| 尺寸（毫米） 高 × 寬 × 深 | 174 × 449 × 842 |
|---|---|
| 冷卻 | 液體 |
| 主要功能 | 3269 (羊駝 v2 70B)ɸbLLM 吞吐量(每GPU每秒處理的代幣數量) 資料中心叢集：
|
使用案例：
| |
| GPU支援 |
|
SYS-821GE-TNHR
| 尺寸（毫米） 高 × 寬 × 深 | 356 × 437 × 843 |
|---|---|
| 冷卻 | 空氣 |
| 主要功能 | 3269 (羊駝 v2 70B)ɸbLLM 吞吐量(每GPU每秒處理的代幣數量) 資料中心叢集：
|
使用案例：
| |
| GPU支援 |
|
- 輸入長度 = 128，輸出長度 = 128，批次大小 = 256
- 輸入長度 = 128，輸出長度 = 128，批次大小 = 最大值
- TP = 1，搭配 1x GH100
- TP = 2，配備 2x H100
- TP = 1，配備 1x H100 NVL
- TP = 1，配備 1x L40S
- TP = 1，配備 1x L40