邊緣端是指運算處理程序位置很靠近資料來源 (包括感測器、裝置或終端使用者) 的環境，而非透過傳統AI程序中常見的中心化系統。邊緣端環境可實現高度個人化體驗，例如快餐店的不同菜單推薦，同時也可大幅節省資料傳輸頻寬。
Supermicro與NVIDIA提供的Edge AI解決方案，可透過預先整合的元件，以及最佳化的硬體與軟體，優化即時處理的部署。
即時的
在資料分析、監測、預測性維護或個人化領域，邊緣AI將可幫助您因應相關業務需求
不間斷
離線處理與推論可在遠端或未連線的環境中不間斷地運行
個人化
透過生成式AI，以更自然、更吸引人的方式了解和回應顧客偏好，進而打造新穎的體驗
邊緣AI：雙項核心技術
在邊緣部署AI可實現兩種不同但互補的目的：預測式AI和生成式AI。預測性AI是分析引擎，可透過歷史數據來預測未來的模式。
另一方面，生成式AI是一種創意催化劑，可透過底層資料模式產生新資訊，實現創新與打造個人化體驗。
零售
透過預測式AI實現零售轉型
- 資產保護
- 自主購物
- 需求預測
- 推薦與高度個人化
在零售業，預測式AI正推動資產保護機制轉型。透過分析模式和識別潛在威脅，AI系統可為零售商提供預防的解決方案，進一步減少損失並強化商店安全性。
相關的運算程序需要在邊緣端運行，以實現有效且即時的反應機制。
產品用例
SYS-E403-14B-FRN2T
這款Box-Sized的系統搭載強大的Intel® Xeon® 6系列處理器，並可支援數個GPU 卡，可用於店面和後端的AI應用。
SYS-112B-FWT
這款1U、極短機身的系統可部署在空間有限的環境。此系統搭載了Intel® Xeon® 6 CPU，並可支援GPU，能運行店面與後端的AI應用。
AS-1115S-FWTRT
這款1U、極短機身的系統可部署在空間有限的環境。此系統搭載了AMD EPYC™ 8004 CPU，並可支援GPU，能運行店面與後端的AI應用。
SYS-212B-FN4TP
專為邊緣AI推論打造的2U短機身機架式系統，能夠處理多種輸入資料格式。此系統可搭配Intel® Xeon® 6系列處理器，以及可擴充式PCIe配置。
SYS-322GA-NR
此3U GPU最佳化伺服器可同時支援多種推理工作負載，包括分析影片串流，或在顯示型資訊站中渲染虛擬人像。
快速服務餐廳
協助餐廳保持競爭優勢
- 支援語音功能的點餐機
- 食品品質和營運效率
- 預測與庫存
快速服務餐廳正在擁抱生成式 AI 來轉變其客戶體驗。由生成式 AI 驅動的語音點餐機提供個人化互動，以自然且引人入勝的方式理解並回應客戶的偏好。
生成式 AI 可以在自助服務機中即時提供額外銷售與搭配建議，或是提供宛如真人般的客服體驗。當結合能從客戶會員卡歷史紀錄中學習的預測式 AI 時，隨後的每次造訪都能提供更深入的個人化設定與更愉悅的互動體驗。
產品用例
SYS-E302-12D-4C
強大、輕巧的無風扇伺服器。此伺服器搭載了Intel® Xeon® D處理器，適用於不受控制空間內（如餐廳廚房）的應用。
SYS-E302-12A-4C
輕巧、高能效的無風扇伺服器。此伺服器搭載了低功率Intel® Atom®處理器，適用於不受控制空間內（如餐廳廚房）的應用。
SYS-E302-13AD
輕巧的無風扇伺服器。此伺服器搭載了Intel® Core™處理器，可在不受控制的空間內（如餐廳廚房）運行邊緣工作負載。
SYS-E100-13AD-E
這款緊湊的無風扇伺服器搭載了強大的Intel® Core™處理器，可輕鬆安裝至Drive-Thru模組、餐點選單看板，並可運行例行性店面管理作業。
SYS-112B-FWT
這款1U極短機身系統搭載了高效能Intel® Xeon® 6系列處理器，並提供對GPU的支援，可部署在空間有限的受控環境內。
AS-1115S-FWTRT
這款1U極短機身系統搭載了高效能AMD EPYC™ 8004系列處理器，並提供對GPU的支援，可部署在空間有限的受控環境內。
製造業
優化端到端的製造挑戰
- 員工健康與安全
- 自動化品質檢測
- 減少技術員工流失
製造業正透過預測式AI因應最重要且最昂貴的挑戰之一：工作場所安全。各家企業將邊緣AI硬體連接至閉路監視器（CCTV）、機台和作業軟體的資料來源，以針對潛在危險進行即時預測性分析。
另一個重要的應用是自動化品質檢測，如透過持續對汽車零件生產線進行影像監測，並將資料傳輸至預測式AI系統，就能為品質控制提供即時洞察，大幅降低不良品的機率。
產品用例
SYS-112B-FWT
此系統可支援Intel® Xeon® 6系列處理器以及GPU，能在製造流程內運行AI自動化品質檢測。
AS-1115S-FWTRT
此系統可支援AMD EPYC™ 8004系列處理器以及GPU，能在製造流程內運行AI自動化品質檢測。
SYS-212B-FN4TP
此系統可支援Intel® Xeon® 6系列處理器以及GPU，能透過電腦視覺與預測式AI確保工作場所安全。
醫療保健與醫療設備
協助那些致力於協助他人提供最高品質照護的人士
- 病患安全與看護
- 診斷影像
- 導引
在醫療保健領域，預測式AI逐漸被應用在診斷影像，試圖藉由增強專家來提高醫療診斷的準確性與效率。
生成式AI在醫院的應用則是導覽——可提升病患與訪客體驗的應用。AI數位資訊站與前台服務可引導訪客熟悉複雜的醫院佈局，並透過壁掛式螢幕提供指示與資訊，而這些螢幕會依據訪客動態而更新，或是將最新資訊傳送至行動裝置。
產品用例
SYS-112B-FWT
高效能1U極短機身系統，可支援GPU以及AI應用，包括在數位資訊站提供導覽，以提升醫院的訪客體驗。
SYS-212B-FN4TP
2U短機身機架式系統，可支援Intel® Xeon® 6系列處理器和PCIe配置，並能處理多種輸入數據格式，進而運行包括病患安全和監測的邊緣AI推論應用。
SYS-222HE-FTN
支援雙Intel® Xeon® 6系列處理器，以及數組擴充或GPU卡，可運行如預測分析、診斷和個人化醫療等的嚴苛型應用
SYS-322GA-NR
此3U平台是為醫療保健與醫學應用而設計的GPU最佳化伺服器，可同時支援多種推論工作負載，包括診斷、影像分析與風險評估。
智慧化空間
提升人與人之間以及人與環境之間的互動方式
- 人潮與停車場管理
- 提升安全性
- 出入口管控
- 交通管控
智慧空間（如場館和體育場）正採用預測式 AI 來進行人潮與停車管理。透過分析即時資料，這些系統能有效管理人流與停車後勤，在提升安全性的同時，亦能優化整體的客戶體驗。
產品用例
運輸
讓物流與車輛運行更安全、更高效且永續
- 路線優化
- 預測式維護
- 交通管控
海港、機場、公路和鐵路等運輸系統的最佳化涉及大量資料的分析。這些資料包括交通資訊、天氣預報或基於電腦視覺的智慧型攝影機資料。若要確保對這些資料進行無延誤式的處理，需要透過專門的硬體在邊緣端運行AI和IT工作負載。
產品用例
小型
SYS-E300-13AD
| 機身尺寸（mm）高 × 寬 × 深 | 43.0 × 264.8 × 225.8 |
|---|---|
| 主要的預測式功能 | 支援最高8個串流的AI電腦視覺1 |
| 每秒最高可達2,000個自動語音辨識（ASR）樣本2 | |
| 主要的生產式功能 | LLM最高可達80億個參數 |
| 以每~1張圖像/4-5秒的速度，透過穩定擴散（Stable Diffusion）模型產生圖像與影片 | |
| GPU 支援 |
|
中型
SYS-110D-20C-FRAN8TP 3
| 機身尺寸（mm）高 × 寬 × 深 | 43.0 × 437.0 × 399.0 |
|---|---|
| 主要的預測式功能 | 支援最高16個串流的AI電腦視覺1 |
| 每秒最高可達6,000個自動語音辨識（ASR）樣本2 | |
| 主要的生產式功能 | LLM最高可達240億個參數 |
| 以每2秒 ~1 張圖像的速度，透過穩定擴散模型生成圖像與影片 | |
| GPU 支援 |
|
大型
SYS-E403-14B-FRN2T
| 機身尺寸（mm）高 × 寬 × 深 | 117.3 × 266.7 × 406.4 |
|---|---|
| 主要的預測式功能 | 支援最高32個串流的AI電腦視覺1 |
| 每秒最高可達22,000個自動語音辨識（ASR）樣本2 | |
| 主要的生產式功能 | LLM最高可達480億個參數 |
| 以每秒 ~1-2 張圖像的速度，透過穩定擴散模型生成圖像與影片 | |
| GPU 支援 |
|
特大型
SYS-222HE-(F)TN
| 機身尺寸（mm）高 × 寬 × 深 | 88.9 × 436.9 × 574.0 |
|---|---|
| 主要的預測式功能 | 每GPU可支援最高48個串流的AI電腦視覺1 |
| 每組GPU可處理最高每秒32,000個自動語音辨識（ASR）樣本2 | |
| 主要的生產式功能 | LLM最高可達800億個參數 |
| 以每秒 ~3 張圖像的速度，透過穩定擴散模型生成圖像與影片 | |
| GPU 支援 |
|
- 基於使用類似EfficientNet-B4的影像分類模型，並取決於影片串流壓縮和系統上的其他工作負載
- 基於使用類似QuartzNet的ASR模型
- 其他型號包括SYS-110D-4C-FRAN8TP 、 SYS-110D-8C-FRAN8TP 、 SYS-110D-14C-FRAN8TP和SYS-110D-16C-FRAN8TP。
Supermicro + NVIDIA：一系列解決方案
邊緣AI應用是基於穩固且具高度連結性的架構。Supermicro與NVIDIA的技術合作實現了整合CPU、GPU與最佳化記憶體的全面性架構，並結合了Supermicro系統所具有的廣泛應用型結構技術。
這項堆疊技術可確保AI模型的大規模部署達到最高效率和效能。中介軟體（Middleware）解決方案能確保系統的強大性能，並使系統智慧化協作，以及容易地被整合至既有的工作流程。
安全性、儲存和網路是此架構的核心要素，可確保資料完整性，且不使傳輸受到影響。這提供了一個可擴充式的解決方案架構，讓終端使用者能充分發揮邊緣AI和邊緣運算的最大潛在性能。
