AIBOX-1684X支持主流大模型私有化部署，算力高達(dá)32TOPS，同時(shí)也支持CNN、RNN、LSTM等傳統(tǒng)網(wǎng)絡(luò)架構(gòu)，支持TensorF NNX和Darknet等深度學(xué)習(xí)架構(gòu)，并支持自定義算子開發(fā)。支持Docker容器化管理技術(shù)。適用于智能監(jiān)控、AI教學(xué)、算力服務(wù)、邊緣計(jì)算、大模型私有化部署、數(shù)據(jù)安全和隱私保護(hù)等場景。

全面的人工智能私有化部署

語言大模型

支持Transformer架構(gòu)下超大規(guī)模參數(shù)模型，如LLaMa2、ChatGLM、Qwen等大型語言模型的私有化部署。

視覺大模型

支持ViT、Grounding DIN0、SAM等視覺大模型的私有化部署。

AI繪畫

支持AIGC領(lǐng)域的Stable DiffusionV1.5圖像生成模型的私有化部署。

傳統(tǒng)網(wǎng)絡(luò)架構(gòu)

支持CNN、RNN、LSTM等傳統(tǒng)網(wǎng)絡(luò)架構(gòu)。

深度學(xué)習(xí)框架

支持多種深度學(xué)習(xí)框架，包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet，并支持自定義算子開發(fā)。

Docker容器化

支持Docker容器化管理技術(shù)，可方便的進(jìn)行鏡像部署。

32TOPS超高算力AI處理器

搭載SOPHON算能AI處理器BM1684X，擁有八核ARM Cortex-A53，最高主頻2.3GHz，采用12nm工藝制程；擁有高達(dá)32Tops（INT8）算力，或16TFLOPS（FP16/BF16）算力、或2Tops（FP32）高精度算力，支持主流編程框架，可廣泛應(yīng)用于云端及邊緣應(yīng)用的人工智能推理。

多路視頻AI處理性能

最高支持32路1080P H.264/H.265的視頻解碼，32路1080P高清視頻全流程處理（解碼+AI分析），滿足視頻流人臉檢測、車牌識(shí)別等各類AI應(yīng)用場景的需求。

強(qiáng)大的網(wǎng)絡(luò)通訊能力

支持雙路1000Mbps以太網(wǎng) ，高速穩(wěn)定的網(wǎng)絡(luò)通訊方式，滿足不同應(yīng)用場景需求。

高效散熱，工藝精美

配置工業(yè)級(jí)全金屬外殼，鋁合金結(jié)構(gòu)導(dǎo)熱，頂蓋外殼側(cè)面采用條幅格柵設(shè)計(jì)，保證外部空氣流通，高效散熱，保障在高溫運(yùn)行狀態(tài)下的運(yùn)算性能和穩(wěn)定性。頂蓋采用多孔六邊形設(shè)計(jì), 簡潔美觀。整機(jī)小巧精致，運(yùn)行穩(wěn)定，滿足各種工業(yè)級(jí)的應(yīng)用需求。

國產(chǎn)化定制，產(chǎn)品自主可控

可實(shí)現(xiàn)100%國產(chǎn)化硬件方案定制，技術(shù)完全自主可控，工業(yè)級(jí)產(chǎn)品質(zhì)量，穩(wěn)定的供貨周期，滿足各種行業(yè)的需求。

完善的開發(fā)資料

提供配套的源代碼、教程、技術(shù)資料和開發(fā)工具，讓開發(fā)變得更加簡單方便。

廣泛的應(yīng)用場景

廣泛適用于智能監(jiān)控、AI教學(xué)、算力服務(wù)、邊緣計(jì)算、大模型私有化部署、數(shù)據(jù)安全和隱私保護(hù)等場景。