91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

手把手教你在RK3588上部署Deepseek:從編譯到排錯全指南

jf_44130326 ? 來源:Linux1024 ? 2026-02-03 15:40 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

嵌入式AI開發(fā)中,將Deepseek大模型部署到RK3588瑞芯微高性能SoC)是實現(xiàn)邊緣端智能應(yīng)用的關(guān)鍵需求。但很多開發(fā)者會卡在編譯配置、依賴沖突等環(huán)節(jié)。本文基于實際操作流程,詳細(xì)講解直接在RK3588板子上編譯Deepseek可執(zhí)行程序的完整步驟,包含CMake配置、代碼上傳、常見報錯解決,幫你避開所有。

wKgZPGkam2qAf6CtAADas1qFFh4871.png

本文將圍繞以下4部分展開:

1.部署前必備準(zhǔn)備(硬件/軟件/工具)

2.核心配置:CMakeLists.txt解析與修改

3.分步操作:代碼上傳編譯報錯解決

4.編譯成功驗證與總結(jié)

一、部署前準(zhǔn)備:確認(rèn)這些必需品

在開始操作前,先確保你的環(huán)境滿足以下條件,避免后續(xù)反復(fù)返工:

類型

具體要求

硬件

RK3588開發(fā)板(已刷入Linux系統(tǒng),如Linaro-Alip),確保有SSH連接或串口訪問權(quán)限

軟件源碼

Deepseek部署可執(zhí)行程序源碼包(含main.cc、CMakeLists.txtlib庫目錄)

依賴庫

內(nèi)置librkllmrt.soRKLLM推理庫)、libgomp.soOpenMP支持庫)

編譯工具

板子自帶aarch64-linux-gnu-gcc/g++(需確認(rèn)路徑與版本,本文用GNU 10.2.1

先通過以下命令驗證系統(tǒng)編譯工具是否可用(若有輸出則正常):

# 查看GCC版本gcc --version# 查看G++版本g++ --version# 確認(rèn)工具鏈路徑(本文默認(rèn)路徑為/usr/bin/)whichaarch64-linux-gnu-gcc

二、核心配置:修改CMakeLists.txt

CMakeLists.txt是編譯的指揮文件,需根據(jù)RK3588環(huán)境調(diào)整工具鏈路徑、依賴庫引用與安裝配置。以下是完整配置代碼及關(guān)鍵參數(shù)解析:

wKgZPGkam2qAHhmSAAFekJ35HLA905.png

# 1. 最低CMake版本要求(需≥3.8,避免語法不兼容)cmake_minimum_required(VERSION 3.8)# 2. 項目名稱(自定義,建議含硬件標(biāo)識)project(xsc_deepseek_rkllm_demo)# 3. C++標(biāo)準(zhǔn)配置(固定C++11,適配多數(shù)嵌入式環(huán)境)set(CMAKE_CXX_STANDARD 11)set(CMAKE_CXX_STANDARD_REQUIRED ON)# 4. 工具鏈路徑配置(關(guān)鍵!需與RK3588實際路徑匹配)set(TOOLCHAIN_DIR /usr) # 工具鏈根目錄set(CMAKE_CXX_COMPILER${TOOLCHAIN_DIR}/bin/aarch64-linux-gnu-g++) # C++編譯器set(CMAKE_C_COMPILER${TOOLCHAIN_DIR}/bin/aarch64-linux-gnu-gcc)  # C編譯器# 5. 源碼目錄與頭文件路徑(指定Deepseek源碼根目錄,引入RKLLM頭文件)set(CMAKE_SOURCE_DIR /data/xsc_deepseek)include_directories(${CMAKE_SOURCE_DIR}/lib/librkllm_api/include/)# 6. 依賴庫配置(鏈接RKLLM推理庫與OpenMP庫)set(RKLLM_RT_LIB${CMAKE_SOURCE_DIR}/lib/librkllm_api/librkllmrt.so) # RKLLM核心庫set(GOMP_LIB${CMAKE_SOURCE_DIR}/lib/libgomp/libgomp.so)       # OpenMP并行庫# 7. 生成可執(zhí)行程序(指定源碼文件main.cc,輸出程序名xsc_deepseek_demo)add_executable(xsc_deepseek_demo main.cc)# 8. 鏈接依賴庫(將程序與RKLLM、OpenMP庫關(guān)聯(lián),缺一不可)target_link_libraries(xsc_deepseek_demo${RKLLM_RT_LIB}${GOMP_LIB})# 9. 安裝配置(指定編譯產(chǎn)物的輸出目錄,方便后續(xù)調(diào)用)set(CMAKE_INSTALL_PREFIX${CMAKE_SOURCE_DIR}/install/xsc_deepseek_rkllm_demo)install(TARGETS xsc_deepseek_demo DESTINATION ./) # 安裝可執(zhí)行程序install(DIRECTORY rkllm_model DESTINATION ./)   # 安裝模型文件夾

關(guān)鍵提醒:若你的工具鏈路徑、源碼目錄與本文不同,需同步修改第45、69行的路徑參數(shù),這是后續(xù)編譯成功的基礎(chǔ)!

三、分步操作:從代碼上傳到編譯排錯

這部分是實操核心,我們按上傳編譯解決報錯的順序逐步推進(jìn),所有命令均來自實際RK3588終端操作。

步驟1:將代碼上傳到RK3588/data路徑

先通過SSHU盤將Deepseek源碼壓縮包(xsc_deepseek.zip)傳到RK3588/data目錄,然后執(zhí)行解壓命令,查看目錄結(jié)構(gòu)是否完整:

# 進(jìn)入/data目錄cd/data# 解壓源碼包unzip xsc_deepseek.zip# 進(jìn)入解壓后的目錄,查看文件列表cdxsc_deepseekls

正常情況下,ls會輸出以下文件/目錄(確認(rèn)無缺失):

build-linux.sh CMakeLists.txt lib main.cc rkllm_model

其中:

?lib/:存放librkllmrt.solibgomp.so依賴庫

?rkllm_model/Deepseek模型文件目錄

?build-linux.sh:編譯腳本

?main.cc:核心業(yè)務(wù)代碼

步驟2:執(zhí)行編譯腳本,解決3類常見報錯

直接運(yùn)行編譯腳本可能會遇到權(quán)限、時間戳、依賴庫3類問題,我們逐個解決:

報錯1“bash: ./build-linux.sh:權(quán)限不夠

原因:編譯腳本沒有可執(zhí)行權(quán)限

解決命令:給腳本賦最高權(quán)限(777表示讀//執(zhí)行權(quán)限全開)

chmod777 ./build-linux.sh# 重新執(zhí)行編譯腳本./build-linux.sh

報錯2警告:文件"../../main.cc"的修改時間在未來14665332秒后

原因RK3588系統(tǒng)時間與文件修改時間不匹配(可能是板子斷網(wǎng)后時間錯亂)

解決命令:手動同步系統(tǒng)時間(本文示例時間為2025090218:28,可根據(jù)實際修改)

# 設(shè)置系統(tǒng)時間(格式:年-月-日 時秒)date-s"20250902 1800"# 重新執(zhí)行編譯腳本./build-linux.sh

報錯3“undefined reference to pthread_getaffinity_np@GLIBC_2.32”

原因:自帶的libgomp.so版本與RK3588GLIBC2.32版本)不兼容

解決步驟

1.先找到系統(tǒng)中兼容的libgomp.so路徑(RK3588默認(rèn)在/usr/lib/gcc/aarch64-linux-gnu/10/

2.替換源碼目錄中舊的libgomp.so

具體命令:

# 1. 查找系統(tǒng)中所有l(wèi)ibgomp.so路徑find .././ -name libgomp.so# 輸出會包含:../../usr/lib/gcc/aarch64-linux-gnu/10/libgomp.so(這是兼容版本)# 2. 替換源碼lib目錄下的舊庫(覆蓋兩個路徑,確保編譯時引用正確)cp../../usr/lib/gcc/aarch64-linux-gnu/10/libgomp.so ../../usr/lib/libgomp/libgomp.socp../../usr/lib/gcc/aarch64-linux-gnu/10/libgomp.so ../../userdata/xsc_deepseek/lib/libgomp/libgomp.so# 3. 再次執(zhí)行編譯腳本,此時無報錯./build-linux.sh

步驟3:確認(rèn)編譯成功

當(dāng)終端輸出以下信息時,說明編譯與安裝完成:

--Configuringdone--Generatingdone--Buildfiles have been written to:/userdata/xsc_deepseek/build/build_linux_aarch64[50%]LinkingCXXexecutable xsc_deepseek_demo[100%]Builttarget xsc_deepseek_demoInstallthe project...--Installconfiguration:""--Installing:/data/xsc_deepseek/install/xsc_deepseek_rkllm_demo/./xsc_deepseek_demo--Setruntime path of"/data/xsc_deepseek/install/xsc_deepseek_rkllm_demo/./xsc_deepseek_demo"to""--Installing:/data/xsc_deepseek/install/xsc_deepseek_rkllm_demo/./rkllm_model

可通過以下命令驗證產(chǎn)物:

# 進(jìn)入安裝目錄cd/data/xsc_deepseek/install/xsc_deepseek_rkllm_demo# 查看文件(應(yīng)包含可執(zhí)行程序和模型目錄)ls輸出如下即正常:xsc_deepseek_demo rkllm_model

四、總結(jié):部署關(guān)鍵要點與后續(xù)建議

本次在RK3588上部署Deepseek的核心是本地編譯+依賴適配,總結(jié)3個關(guān)鍵注意點,幫你避免重復(fù)踩坑:

1.CMake配置是基礎(chǔ):工具鏈路徑、頭文件目錄、依賴庫必須與RK3588實際環(huán)境匹配,尤其是TOOLCHAIN_DIRRKLLM_RT_LIB的路徑不能錯;

2.報錯解決有規(guī)律:權(quán)限問題用chmod,時間問題用date -s,依賴庫問題用查找系統(tǒng)兼容庫+替換的思路;

3.驗證步驟不能少:編譯后一定要到install目錄確認(rèn)可執(zhí)行程序和模型目錄是否存在,為后續(xù)運(yùn)行模型做好準(zhǔn)備。

如果后續(xù)需要運(yùn)行Deepseek模型,只需在安裝目錄執(zhí)行./xsc_deepseek_demo即可(需確保模型配置正確)。若你在操作中遇到其他問題,歡迎在評論區(qū)留言討論!

wKgZPGkam2qAGVptAABfl6oqU1U653.png ?


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 嵌入式
    +關(guān)注

    關(guān)注

    5198

    文章

    20434

    瀏覽量

    333880
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3644

    瀏覽量

    5175
  • DeepSeek
    +關(guān)注

    關(guān)注

    2

    文章

    835

    瀏覽量

    3249
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    分享 |迅為基于RK3588開發(fā)板部署測試DeepSeek模型

    分享 |迅為基于RK3588開發(fā)板部署測試DeepSeek模型
    的頭像 發(fā)表于 02-18 14:26 ?2433次閱讀
    分享 |迅為基于<b class='flag-5'>RK3588</b>開發(fā)板<b class='flag-5'>部署</b>測試<b class='flag-5'>DeepSeek</b>模型

    ATK-DLRK3588開發(fā)板deepseek-r1-1.5b/7b部署指南

    DeepSeek這樣的國產(chǎn)大模型部署RK3588上時,由于RK3588的強(qiáng)大性能支持,同樣的模型規(guī)??梢缘玫礁鼜?qiáng)大的推理能力、實時性能以及
    發(fā)表于 02-14 16:33

    添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略

    實踐筑牢了硬件根基。 DeepSeek 模型部署:兩種路徑,各顯神通 RK3588 開發(fā)板上部署
    發(fā)表于 02-14 17:42

    RK3588開發(fā)板上部署DeepSeek-R1大模型的完整指南

    擴(kuò)展規(guī)劃、嵌入式適配等技術(shù)維度的突破。 RK3588作為瑞芯微推出的旗艦級芯片,憑借多核異構(gòu)計算能力以及強(qiáng)大的CPU、GPU和NPU性能,成為嵌入式AI應(yīng)用的理想平臺。DeepSeek
    發(fā)表于 02-27 16:45

    手把手教你寫批處理-批處理的介紹

    手把手教你寫批處理-批處理的介紹
    發(fā)表于 10-25 15:02 ?69次下載

    美女手把手教你如何裝機(jī)(中)

    美女手把手教你如何裝機(jī)(中) 再來是硬碟的部份,這款機(jī)殼還不錯,可以旋轉(zhuǎn)支架~
    發(fā)表于 01-27 11:14 ?1633次閱讀

    美女手把手教你如何裝機(jī)(下)

    美女手把手教你如何裝機(jī)(下) 接著下來就是今天的重頭戲,開核蘿!~
    發(fā)表于 01-27 11:16 ?3167次閱讀

    手把手教你安裝Quartus II

    本章手把手把教你如何安裝 Quartus II 軟件 ,并將它激活 。此外 還有USB -Blaster下載器的驅(qū)動安裝步驟 。
    發(fā)表于 09-18 14:55 ?9次下載

    手把手教你如何開始DSP編程

    手把手教你如何開始DSP編程。
    發(fā)表于 04-09 11:54 ?13次下載
    <b class='flag-5'>手把手</b><b class='flag-5'>教你</b>如何開始DSP編程

    手把手教你學(xué)LabVIEW視覺設(shè)計

    手把手教你學(xué)LabVIEW視覺設(shè)計手把手教你學(xué)LabVIEW視覺設(shè)計手把手教你學(xué)LabVIEW視
    發(fā)表于 03-06 01:41 ?3540次閱讀

    手把手教你學(xué)FPGA仿真

    電子發(fā)燒友網(wǎng)站提供《手把手教你學(xué)FPGA仿真.pdf》資料免費(fèi)下載
    發(fā)表于 10-19 09:17 ?2次下載
    <b class='flag-5'>手把手</b><b class='flag-5'>教你</b>學(xué)FPGA仿真

    RK3588開發(fā)板上部署并測試DeepSeek模型

    DeepSeek免費(fèi)向全球開發(fā)者開放,加速了AI技術(shù)普及。 ? RK3588性能優(yōu)勢 RK3588作為一款高性能AI芯片,采用了8nm LP 制程,搭載八核處理器,四核GPU以及6TOPS算力的NPU,依靠
    的頭像 發(fā)表于 02-09 09:36 ?3593次閱讀
    <b class='flag-5'>在</b><b class='flag-5'>RK3588</b>開發(fā)板<b class='flag-5'>上部署</b>并測試<b class='flag-5'>DeepSeek</b>模型

    實戰(zhàn)案例 | 眺望RK3588 RKLLM部署DeepSeek-R1流程

    前言:RK3588上部署Deepseek有兩種方法,分別是使用Ollama工具部署和使用瑞芯微官方的RKLLM量化
    的頭像 發(fā)表于 02-12 08:31 ?7614次閱讀
    實戰(zhàn)案例 | 眺望<b class='flag-5'>RK3588</b> RKLLM<b class='flag-5'>部署</b><b class='flag-5'>DeepSeek</b>-R1<b class='flag-5'>全</b>流程

    瑞芯微RKNPU開發(fā)指南環(huán)境搭建性能優(yōu)化,一文搞定邊緣AI部署

    的輕量化 NPU,都需要通過RKNN SDK實現(xiàn)模型部署。今天這篇文章,我們就從 SDK 核心組件、開發(fā)流程、進(jìn)階優(yōu)化避坑指南手把手
    的頭像 發(fā)表于 02-06 16:35 ?1718次閱讀
    瑞芯微RKNPU開發(fā)<b class='flag-5'>全</b><b class='flag-5'>指南</b>:<b class='flag-5'>從</b>環(huán)境搭建<b class='flag-5'>到</b>性能優(yōu)化,一文搞定邊緣AI<b class='flag-5'>部署</b>

    RK3588 CPU?隔離:AB/非?AB?系統(tǒng)雙方案適配實戰(zhàn)

    方案 ,兩套方案代碼均完整可直接套用,核心差異僅在于 代碼集成路徑與函數(shù)調(diào)用時機(jī) ,且均支持通過vendor_storage動態(tài)配置隔離核心,無需反復(fù)編譯固件,重啟即可生效。下文將從隔離原理、適用場景、雙方案實現(xiàn)、動態(tài)配置、效果驗證維度展開,
    的頭像 發(fā)表于 02-09 07:12 ?208次閱讀
    <b class='flag-5'>RK3588</b> CPU?隔離:AB/非?AB?系統(tǒng)雙方案適配實戰(zhàn)