AI ACCELERATOR CARD— 邊緣與端側推論解決方案

台灣組裝生產 接受硬體訂製

依客戶的模型、主機與部署條件,討論適合的 AI 晶片平台、板卡型態及系統配置;從硬體規劃到模型適配,建立符合邊緣與端側應用需求的推論方案。

  • 台灣組裝生產
  • 硬體訂製
  • 模型適配
  • 邊緣推論
GOLDTOWN AI 加速卡,HHHL 單槽位,PCIe Gen5 ×16
產品實拍 — PRODUCT PHOTO

32/64GB

LPDDR5X

記憶體依需求配置

128路

最多解碼

1080p@30fps

20路

最多編碼

1080p@30fps

72W

最大功耗

依專案配置確認

01核心能力 / CORE CAPABILITIES

從板卡配置,走向實際部署

以台灣組裝生產作為產品服務主軸,結合客戶的應用目標規劃板卡方案。需求討論涵蓋目標設備、安裝空間、記憶體配置及散熱條件,讓生產配置與部署需求保持一致。

01

台灣組裝生產

以台灣組裝生產作為產品服務主軸,結合客戶的應用目標規劃板卡方案。需求討論可涵蓋目標設備、安裝空間、記憶體配置及散熱條件,讓生產配置與部署需求保持一致。

02

硬體訂製服務

接受硬體訂製需求,可依專案討論晶片平台、主機板與板卡型態、記憶體與散熱機構整合。客製項目及可行範圍,依選定晶片、整機條件與專案規格確認。

03

模型適配與部署

以實際工作負載為起點,討論模型格式、精度與部署條件;從模型適配到驗證項目,讓模型需求對上可執行的硬體配置。

適用需求 / WHO IT'S FOR

方案面向需要將模型部署至設備端、整合多路影像處理,或依既有主機條件規劃 AI 擴充的客戶。可評估大語言模型、搜尋/廣告/推薦、電腦視覺與語音轉寫等模型方向,並依工作負載討論適配方式。

  • 邊緣雲
  • 智慧一體機
  • 智慧工作站
  • 終端 AI 盒子

02硬體訂製 / HARDWARE CUSTOMIZATION

硬體訂製,從需求開始

硬體訂製從應用需求出發。先釐清模型、輸入資料及部署設備,再討論板卡配置與整機整合條件;將需求轉為可評估的項目,便於確認方案範圍。

01

晶片平台與板卡型態

可依演算法需求與主機條件討論 AI 晶片平台及主機板與板卡型態。先確認目標模型、所需計算精度與機箱限制,再評估可行的板卡配置。

02

記憶體與精度需求

提供 32 GB 或 64 GB LPDDR5X 配置。可依模型規模、執行時記憶體與同時請求量討論選型;容量及精度支援依選定方案確認。

03

系統互連與擴充

參考介面為 PCIe Gen5 ×16。整合前需確認主機的插槽、電氣通道、安裝位置與系統支援條件,並評估與既有設備的配置方式。

04

散熱與機構整合

可討論風冷或金屬傳導散熱方案,連同機箱氣流、接觸面與安裝結構一併評估。實際散熱形式及機構尺寸依專案配置確認。

05

功耗與安裝條件

以最大功耗 72 W、HHHL 單槽位與重量 300 g 為參考,檢視供電、空間、固定方式及散熱條件,確認目標主機是否適合安裝。

06

安全與保護需求

方案支援 ECC 保護與安全加密能力。可於需求階段提出資料保護與系統安全需求,具體功能及支援方式依晶片與專案配置確認。

建議討論流程 / SUGGESTED PROCESS

  1. 01

    需求溝通

    釐清應用、模型及目標設備。

  2. 02

    可行性評估

    評估硬體配置與適配條件。

  3. 03

    方案確認

    確認規格、範圍及驗證項目。

03模型與部署 / MODEL ADAPTATION & DEPLOYMENT

讓模型需求,對上部署條件

模型適配以實際工作負載為起點。以下列出可討論的應用方向與需求資料,便於規劃硬體配置及評估適配可行性;個別模型的支援情況與執行表現,依平台及實際測試確認。

01

大語言模型

需求方向
文字助理、知識問答或內容生成。
建議資料
模型版本、模型格式、輸入長度與精度需求。
評估重點
上下文長度、記憶體用量、同時請求與回應延遲。
02

搜尋/廣告/推薦

需求方向
搜尋排序、廣告或推薦系統推論。
建議資料
特徵輸入、模型格式、批次大小及更新方式。
評估重點
處理吞吐量、回應延遲及資料介面整合。
03

電腦視覺

需求方向
影像辨識、物件偵測或視覺分析。
建議資料
影像格式、解析度、影格率、串流數與模型。
評估重點
編解碼、前後處理與推論的整體負載。
04

語音轉寫

需求方向
音訊轉文字與語音內容處理。
建議資料
語言、音訊格式、串流或批次處理方式。
評估重點
音訊長度、同時請求、輸出精度與延遲目標。

部署場景與整合條件

依目標設備條件評估,確認可安裝、可供電及可散熱。

  • 邊緣雲Edge Cloud

    確認主機擴充、負載量、供電與散熱條件。

  • 智慧一體機All-in-One AI Systems

    評估機箱空間、安裝結構及整機散熱規劃。

  • 智慧工作站AI Workstations

    確認 PCIe 插槽與板卡空間,配合本機模型需求選型。

  • 終端 AI 盒子On-Device AI Boxes

    先確認是否具備相容擴充介面、足夠供電與散熱能力。

需求討論時,建議一併確認模型框架或格式、輸入輸出規格、所需運算子與目標驗證資料。上述場景為需求規劃方向,具體適配項目依專案確認。

04技術規格 / TECHNICAL SPECIFICATIONS

完整規格,清楚選型

以下為 AI 加速卡方案的參考規格。各項支援能力及配置組合,依選用晶片、主機板與板卡設計與專案需求確認。

AI 加速卡參考規格
No. 規格項目 參考參數 選型說明
01 計算精度 FP32、FP16、BF16、INT8 依晶片及模型適配方案確認
02 記憶體 32 / 64 GB LPDDR5X 依模型與系統需求選配
03 影像解碼 最多 128 路 1080p@30fps 實際能力依格式、碼率與負載而異
04 影像編碼 最多 20 路 1080p@30fps 實際能力依格式、碼率與負載而異
05 介面 PCIe Gen5 ×16 確認主機插槽與系統整合條件
06 ECC 保護 支援 依方案配置確認
07 安全能力 支援安全加密 功能及支援方式依專案確認
08 最大功耗 72 W 配合供電及散熱條件評估
09 散熱設計 風冷/金屬傳導散熱 實際散熱形式依配置確認
10 外形 HHHL 單槽位 確認主機安裝空間及固定方式
11 重量 300 g 依交付配置確認
01

精度與記憶體,先對應模型需求

先確認模型所需精度及可接受誤差,再評估模型權重、執行時記憶體與同時請求量。採用低精度模型時,可一併討論模型轉換與精度驗證方式;32 GB/64 GB 的選擇需對應實際模型與使用情境。

02

影像路數,連同完整工作負載評估

最多 128 路解碼及最多 20 路編碼,均以 1080p@30fps 為規格條件。實際能力需結合影像格式、碼率與工作負載評估;編解碼能力不等同於相同路數的完整 AI 分析能力。

03

導入前,確認整機與適配條件

確認主機插槽、安裝空間、供電與散熱後,再綜合模型適配需求討論方案。可先提供目標配置及驗證標準,便於釐清硬體訂製範圍、模型適配內容與後續評估項目。

各項數值為方案參考規格;選型時應同時確認模型需求、主機相容性與實際配置。圖片為產品外觀展示,外形及散熱形式依交付方案確認。

05聯絡 / CONTACT

從需求開始,
討論可實際導入的方案。

歡迎交流您的硬體規格、模型及部署需求。

台灣組裝生產 × 接受硬體訂製

業務聯絡 / CONTACT

夏小姐

159 8987 6699
來電洽詢

來電時可先說明模型、目標主機與部署條件,便於安排討論。

ASSEMBLED IN TAIWAN HARDWARE CUSTOMIZATION