新聞資訊

通過新聞資訊，了解更多不一樣的 T-CHIP

AIBOX 產(chǎn)品矩陣：支持主流大模型的私有化部署，滿足個(gè)性化 AI 應(yīng)用需求

2025-06-26 11:15

813

AIBOX 系列產(chǎn)品具備高性能、低功耗、環(huán)境適應(yīng)性強(qiáng)等特點(diǎn)，算力覆蓋 6-157 TOPS，通過搭配多樣化深度學(xué)習(xí)算法，體積小巧，能夠支持主流大模型的私有化部署，為多個(gè)智慧行業(yè)進(jìn)行數(shù)字化賦能。

目前 Firefly 共推出 9款 AIBOX 產(chǎn)品，通過不同的算力、能效、外觀等，適配不同行業(yè)的應(yīng)用場景。

Firefly × NVIDIA

搭載 NVIDIA 原裝 Jetson Orin 系列核心模組，適配各種性能和價(jià)位的加速計(jì)算功能，算力最高可達(dá) 157 TOPS；同時(shí)支持 NVIDIA 軟件生態(tài)。憑著強(qiáng)勁的算力性能、卓越的能效和輕松的開發(fā)體驗(yàn)，滿足各種自主應(yīng)用的需求。

Firefly × Rockchip

搭載瑞芯微旗艦級 AIoT 芯片，采用大小核構(gòu)架，最高主頻可達(dá) 2.4 GHz，為高性能計(jì)算和多任務(wù)處理提供了強(qiáng)大的硬件支持，同時(shí)該系列具備低功耗、長續(xù)航等工業(yè)特性，適配工業(yè)級應(yīng)用場景的需求。

Firefly × SOPHON

該系列搭載 SOPHON 系列的 AI 處理器，具有極高性價(jià)比。其中 AIBOX-1684X 算力可達(dá) 32 TOPS，支持主流編程框架、視頻編解碼，可應(yīng)用于云端及邊緣計(jì)算應(yīng)用的人工智能推理。

全面的人工智能私有化部署

AIBOX 系列大部分可支持現(xiàn)代主流大模型私有化部署，如 Gemma 系列、Llama 系列、ChatGLM 系列、Qwen 系列等大型語言模型。

支持 CNN、RNN、LSTM 等傳統(tǒng)網(wǎng)絡(luò)架構(gòu)
支持 Caffe、TensorFlow、PyTorch、MXNet 等多種深度學(xué)習(xí)框架，并且支持自定義算子開發(fā)
支持 Docker 容器化管理技術(shù)，方便進(jìn)行鏡像部署

支持視頻編解碼

AIBOX 系列基本支持視頻編解碼，最高可支持 8K@60fps 視頻解碼和 8K@30fps 視頻編碼，支持同編同解，高分辨率及多通道解碼能力，讓大模型快速獲取視頻中的信息，為模型訓(xùn)練和推理提供更豐富的數(shù)據(jù)，提高視覺分析精度，加速算法訓(xùn)練和優(yōu)化。

全金屬外殼，高效散熱

配置工業(yè)級全金屬外殼，鋁合金結(jié)構(gòu)導(dǎo)熱，頂蓋外殼側(cè)面采用條幅格柵設(shè)計(jì)，保證外部空氣流通，高效散熱，保障在高溫運(yùn)行狀態(tài)下的運(yùn)算性能和穩(wěn)定性，滿足工業(yè)級的應(yīng)用需求。

廣泛的應(yīng)用場景

廣泛適用于智能監(jiān)控、AI 教學(xué)、算力服務(wù)、邊緣計(jì)算、大模型私有化部署、數(shù)據(jù)安全和隱私保護(hù)等場景。