自從模型廣場(chǎng)上新后,有不少朋友來(lái)咨詢小助手如何開(kāi)啟模型的推理部署,今天,小助手就以Stable Diffusion WebUI為例,教大家如何捷智算平臺(tái)開(kāi)啟模型的推理部署。
Web UI模型詳細(xì)部署教程
進(jìn)入捷智算,在菜單欄找到【模型廣場(chǎng)】就可以看到上新的模型~

一、選擇模型類型
根據(jù)自己興趣的模型點(diǎn)擊【推理部署】,我們找到StableDiffusionWebUI點(diǎn)擊【推理部署】。
二、購(gòu)買容器
選擇需要的GPU卡及分區(qū),然后點(diǎn)擊【啟動(dòng)實(shí)例】

也可以在購(gòu)買容器頁(yè)面點(diǎn)擊【模型鏡像】,選擇需要的模型鏡像,進(jìn)入部署好模型的容器。

三、打開(kāi)jupyter文檔
創(chuàng)建實(shí)例運(yùn)行成功后點(diǎn)擊【更多操作】-【查看信息】,獲取并復(fù)制jupyter密碼


獲取密碼后點(diǎn)擊jupyter,輸入復(fù)制的密碼


就可以進(jìn)去到模型的jupyter文件頁(yè)面啦~例如選的是Stable diffusion模型,則點(diǎn)擊Stable Diffusion文件夾

四、啟動(dòng)模型
點(diǎn)擊模型啟動(dòng)ipynb格式文件,按教程點(diǎn)擊點(diǎn)擊上方 ?? 按鍵直接運(yùn)行
點(diǎn)擊Restart,重啟內(nèi)核運(yùn)行
看到顯示URL鏈接就說(shuō)明模型啟動(dòng)成功啦~

五、配置外網(wǎng)端口并外網(wǎng)打開(kāi)
要留意一下哦!模型廣場(chǎng)web的一般是鏈接是0.0.0.0:8801,但是只能在內(nèi)網(wǎng)打開(kāi)(也就是不能在您自己的電腦打開(kāi)模型鏈接的意思),如果想外網(wǎng)分享鏈接,需要申請(qǐng)端口開(kāi)放。返回控制臺(tái),點(diǎn)擊【更多操作】-【設(shè)置端口】

內(nèi)網(wǎng)端口輸入8801,點(diǎn)擊【確認(rèn)】,就會(huì)生成一個(gè)外網(wǎng)端口

再次點(diǎn)擊設(shè)置端口,就可以看到生成的外網(wǎng)端口,比如20403

這樣就可以在外網(wǎng)打開(kāi)
如果看到遠(yuǎn)程地址是183.47.51.183,那你就可以在自己的電腦瀏覽器輸入【183.47.51.183:20403】打開(kāi)Web UI使用界面。

打開(kāi)后,大家就可以在SD的世界里暢玩啦~記得先去找小助手薅羊毛,再來(lái)推理部署
-
AI
+關(guān)注
關(guān)注
91文章
39844瀏覽量
301505 -
人工智能
+關(guān)注
關(guān)注
1817文章
50103瀏覽量
265527 -
模型
+關(guān)注
關(guān)注
1文章
3755瀏覽量
52125
發(fā)布評(píng)論請(qǐng)先 登錄
大模型推理服務(wù)的彈性部署與GPU調(diào)度方案
LLM推理模型是如何推理的?
AI端側(cè)部署開(kāi)發(fā)(SC171開(kāi)發(fā)套件V3)2026版
Termux手機(jī)攝像頭采集圖像/視頻流 部署 YOLO 模型推理
本地部署Stable Diffusion實(shí)現(xiàn)AI文字生成高質(zhì)量矢量圖片應(yīng)用于電子商務(wù)
什么是AI模型的推理能力
本地部署openWebUI + ollama+DeepSeek 打造智能知識(shí)庫(kù)并實(shí)現(xiàn)遠(yuǎn)程訪問(wèn)
基于米爾瑞芯微RK3576開(kāi)發(fā)板部署運(yùn)行TinyMaix:超輕量級(jí)推理框架
如何在魔搭社區(qū)使用TensorRT-LLM加速優(yōu)化Qwen3系列模型推理部署
大模型推理顯存和計(jì)算量估計(jì)方法研究
邊緣計(jì)算中的機(jī)器學(xué)習(xí):基于 Linux 系統(tǒng)的實(shí)時(shí)推理模型部署與工業(yè)集成!
基于RK3576開(kāi)發(fā)板的RKLLM大模型部署教程
詳解 LLM 推理模型的現(xiàn)狀
中科馭數(shù)高性能網(wǎng)卡產(chǎn)品 成就DeepSeek推理模型網(wǎng)絡(luò)底座
如何開(kāi)啟Stable Diffusion WebUI模型推理部署
評(píng)論