國(guó)產(chǎn) AI 大模型 DeepSeek 以出色的性價(jià)比和高效的模型技術(shù)，迅速成為全球 AI 關(guān)注的焦點(diǎn)。Firefly 開源團(tuán)隊(duì)率先實(shí)現(xiàn) AIBOX 系列產(chǎn)品對(duì) DeepSeek-R1 的全面適配。

R1 模型性能數(shù)據(jù)

DeepSeek-R1 在后訓(xùn)練階段大規(guī)模使用了強(qiáng)化學(xué)習(xí)技術(shù)，在僅有極少標(biāo)注數(shù)據(jù)的情況下，極大提升了模型推理能力，目前基于開源的 R1 模型具有 1.5B-70B 可選，這些蒸餾模型更合適進(jìn)行本地部署在端側(cè)使用，用于各行各業(yè)的項(xiàng)目落地。

AIBOX 實(shí)機(jī)演示

Firefly 開源團(tuán)隊(duì)對(duì) DeepSeek-R1 系列的蒸餾模型進(jìn)行移植，完成 AIBOX 系列產(chǎn)品對(duì) DeepSeek-R1 的全面適配，以下是實(shí)機(jī)演示：

通過視頻可以看出 DeepSeek-R1-Distill-Qwen-1.5B 在深度思考階段思路清晰，并給出準(zhǔn)確回答。同時(shí)，從硬件性能方面看，AIBOX在推理階段高達(dá)到29.187 token/s，能夠?qū)崿F(xiàn)準(zhǔn)確、快速的 AI 對(duì)話。

模型實(shí)測(cè)情況

以下是 AIBOX 產(chǎn)品的實(shí)測(cè)結(jié)果：

DeepSeek-R1 產(chǎn)品體驗(yàn)

AIBOX 系列產(chǎn)品具備高性能、低功耗、環(huán)境適應(yīng)性強(qiáng)等特點(diǎn)，算力覆蓋 6-157 TOPS，通過搭配多樣化深度學(xué)習(xí)算法，為多個(gè)智慧行業(yè)進(jìn)行數(shù)字化賦能，AIBOX 全系列產(chǎn)品已在 Firefly 官方平臺(tái)上線，立即體驗(yàn)屬于自己的本地化 DeepSeek！