91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

對話系統(tǒng)最原始的實現方式 檢索式對話

深度學習自然語言處理 ? 來源:深度學習自然語言處理 ? 作者:深度學習自然語言 ? 2020-09-25 17:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

對話系統(tǒng)可以說是NLP領域目前已知最扎實的落地場景了,整個流程都脫離不了NLP的核心作用,而且整個流程涉及NLP的大量任務,因此大量的研究都圍繞著對話系統(tǒng)來開展,也因此產生了很多很有意義的新方法。而檢索式對話作為對話系統(tǒng)最原始的實現方式,又蘊涵著什么有意思的東西,我們來看看。

什么是對話系統(tǒng)

對話從來就不是一個簡單的任務,這是一個涉及理解、生成、交互等多個方向技術的綜合實體。

理解:需要理解對方輸出的內容,只有這樣才能給與正確的回應。

生成:基于理解的內容,給出合適的結果。

交互:在多輪對話上,需要記錄跟蹤整個對話過程中涉及的內容。

要同時完成這么多任務,相必是非常復雜的,同時場景上的復雜性,客服、語音助手、閑聊等,也造就了對話系統(tǒng)的復雜性,最終成為了NLP里面一個重要的研究抓手和目標。

檢索式對話

檢索式對話按照個人理解應該是最為經典的解決方案,把一個對話問題抽象為一個搜索問題,大量早期的對話系統(tǒng)都是用這種解決方案來實現的,甚至在現在,一些簡單的對話任務,都可以用它來簡單實現,可以說是工業(yè)界最喜歡的一種實現方式了。簡單地說,整個檢索式對話的流程可以用這個流程來表示:

query理解->檢索召回->相似度排序

沒錯,看著就是搜索的流程,對句子進行理解,理解后到數據庫里面進行召回,召回以后再進行相似度排序找到最佳答案。既然流程被拆解,那我們來看看每一步里面都會做什么東西。

query理解

簡單的說,其實就是去理解用戶輸入的內容說的是啥,一般的自然語言理解主要關心的是這么幾個技術細節(jié):

意圖和話題。即用戶談論的是哪個領域的事情,從而剖析用戶期待對話系統(tǒng)返回的是什么。這個問題常被當成分類問題來處理,用分類規(guī)則或者是方法來進行意圖識別。一旦抽象成分類問題大家就應該大概理解了,就是fastext、textcnn之類的玩意了。

槽位和實體。我們需要知道用戶需要什么,需要抽取用戶的具體實體,這個經常被抽象為序列標注問題,此時CRF、BILSTM-CRF之類的方法就是基操了。

當然,也有一些工程上會把它抽象化,只是轉化為向量或者矩陣,下游用矩陣進行搜索。

總之,query理解這塊,主要是為了解析用戶說的內容,去理解他的語義,這樣我們才能為用戶找到合適的答案。

檢索召回

召回這塊,按照搜索的操作,就是拿著我們提取的槽位和實體,甚至是我們解析的向量和矩陣,根據意圖和話題放到搜索引擎里面去檢索,搜索引擎中有倒排索引,直接拿著關鍵詞就能找到對應的內容。

然而,問題其實不在怎么檢索召回,而是在于召回的內容怎么來。相比搜索引擎,對話系統(tǒng)的內容可能更加不結構化,同時可得性由于特定需求其實并不好得,例如淘寶的客服,每家店的商品性質各不相同,很難需要召回的結果,有正確答案的就更難了,所以,常用的方式有這幾種:

對高頻問題進行編輯,然后統(tǒng)一維護管理。數白了就是人編。

基于一些模板進行組裝生成。

利用文本生成的方式進行處理。

相似度排序

一般地,根據用戶最簡單的query,往往能召回很多可能比較好的答案,此時我們要選擇最優(yōu)的給用戶。衡量最優(yōu)的標準之一就是相似度,語義相似度就是最為經典或者說基本的相似度衡量方式,當然搜索領域的ctr(不是點擊率)、cqr、BM25等,這些非?;镜脑?。

對經典的語義相似度,就要說2013年的DSSM了,這個模型可謂是開了語義相似度雙塔結構的先河。

優(yōu)缺點和應用場景

說完了具體的流程,然后再說說檢索式對話的優(yōu)點和應用場景。

先談談優(yōu)點吧。

應該是這么多種對話實現方式中對樣本依賴最低的。

實現成本低,初版本實現速度快,后續(xù)拓展

三段處理,可控性強。

因為這些優(yōu)點,檢索式對話在工程上被廣泛應用。

客服機器人。尤其是淘寶的場景,這里有非常專業(yè)的內容,例如用戶會問浴缸的長寬高,會問電腦的配置等等,這些用檢索式非常方便。

問答類對話。例如小猿搜題之類的,還有一些百科類的問答,雖然不知道具體公司的操作,但是用檢索式的確會非常方便。

對話系統(tǒng)初版本。即使是很多開放域,第一版本的構造都會嘗試檢索式對話的架構。

當然了,檢索式對話這套實現方案還是有很大的局限性,因此才會有很多項目嘗試做一些別的做法,先聊聊缺點:

答案相對固定,靈活性不足,在一些閑聊場景,會非常困難。如,用戶問一句,你好,后面有很多答案都是合理的。

任務型的對話,在各種語音助手,小度、siri之類的很常見,一些引導用戶完成任務的工作,對話機器人是需要做一個主動帶節(jié)奏的角色,檢索式基本辦不到。

多輪對話。在檢索式對話基礎上,單輪對話升級為多輪對話其實是存在明顯的天花板,成本也比較高,雖然已經有一些相關的操作,如Multi-view、SMN之類的,但是實現的難度還是會有些高。

小結

小結一下,檢索式對話作為對話系統(tǒng)一個經典的技術,非常有必要學習和探究,今天大概講了一些流程和概述,也希望大家有所收獲。

責任編輯:xj

原文標題:【對話】對話系統(tǒng)經典:檢索式對話

文章出處:【微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉載請注明出處。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • nlp
    nlp
    +關注

    關注

    1

    文章

    491

    瀏覽量

    23280
  • 對話系統(tǒng)

    關注

    0

    文章

    7

    瀏覽量

    2308

原文標題:【對話】對話系統(tǒng)經典:檢索式對話

文章出處:【微信號:zenRRan,微信公眾號:深度學習自然語言處理】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    煙絲喂送的‘翻譯官’:EtherCAT與DeviceNet匯川伺服的無縫對話

    煙絲喂送的‘翻譯官’:EtherCAT與DeviceNet匯川伺服的無縫對話” 在煙草制絲生產線中,煙絲喂送系統(tǒng)堪稱“大動脈”——它需要將制絲車間產出的煙絲連續(xù)、穩(wěn)定地輸送到卷煙機。近期,我負責了
    的頭像 發(fā)表于 02-25 14:46 ?89次閱讀
    煙絲喂送的‘翻譯官’:EtherCAT與DeviceNet匯川伺服的無縫<b class='flag-5'>對話</b>”

    供熱系統(tǒng)“全劇通”!疆鴻智能DEVICENET/MODBUS RTU神仙對話指南

    供熱系統(tǒng)“全劇通”!疆鴻智能DEVICENET/MODBUS RTU神仙對話指南 在規(guī)模宏大的工業(yè)園區(qū)內,集中供熱系統(tǒng)如同城市的血脈,其穩(wěn)定與高效直接關乎生產動能與能源成本。傳統(tǒng)供熱監(jiān)控常面臨一個
    的頭像 發(fā)表于 01-29 13:43 ?140次閱讀
    供熱<b class='flag-5'>系統(tǒng)</b>“全劇通”!疆鴻智能DEVICENET/MODBUS RTU神仙<b class='flag-5'>對話</b>指南

    疆鴻智能PROFINET轉DEVICENET的車間對話:網關重塑AGV控制流

    導引車(AGV)負責車身部件的準時化輸送。其核心控制系統(tǒng)采用西門子S7-1500系列PLC作為中央調度大腦,然而,車間內部分關鍵搬運AGV的核心驅動控制器僅支持DEVICENET通信協(xié)議。如何讓支持PROFINET的主流PLC與這些DEVICENET設備實現無縫
    的頭像 發(fā)表于 01-07 14:16 ?189次閱讀

    AI教父Hinton對話云天勵飛陳寧

    ,圍繞算力效率、AI 向善與普惠未來展開了一場高密度對話。對話由硅谷著名計算機科學家、硅谷高創(chuàng)會大會主席吳軍博士主持。
    的頭像 發(fā)表于 12-03 14:04 ?694次閱讀

    思必馳任務型對話算法通過國家備案

    近日,國家網信辦公開發(fā)布第十四批境內深度合成服務算法備案信息,思必馳任務型對話算法正式通過備案。這是思必馳第八項通過備案的算法,進一步鞏固了在對話人工智能領域的技術與合規(guī)優(yōu)勢。
    的頭像 發(fā)表于 11-20 10:33 ?886次閱讀

    世界互聯網大會:“六小龍”烏鎮(zhèn)對話思考AI和未來

    ?? ? 千年烏鎮(zhèn),青石板路蜿蜒,一場探討人工智能前沿技術與發(fā)展走向的對話在此進行。 ??2025年世界互聯網大會烏鎮(zhèn)峰會主論壇于11月7日在浙江烏鎮(zhèn)舉行,“六小龍烏鎮(zhèn)對話”成為關注焦點。今年初,以
    的頭像 發(fā)表于 11-08 17:42 ?3326次閱讀
    世界互聯網大會:“六小龍”烏鎮(zhèn)<b class='flag-5'>對話</b>思考AI和未來

    拉夫勞倫攜手微軟推出對話AI應用購物助手Ask Ralph

    拉夫·勞倫攜手微軟,推出由Microsoft Azure OpenAl(國際版)驅動的對話AI應用購物助手“Ask Ralph”,旨在重塑數字購物體驗。該工具能理解用戶自然語言提問,提供高度個性化
    的頭像 發(fā)表于 10-13 15:45 ?684次閱讀

    廣和通發(fā)布端側情感對話大模型FiboEmo-LLM

    9月,廣和通正式發(fā)布自主研發(fā)的端側情感對話大模型FiboEmo-LLM。該模型專注于情感計算與自然語言交互融合,致力于為AI玩具、智能陪伴設備等終端場景提供“情感理解-情感響應”一體化能力,推動終端人工智能向更具人性化、情感化的方向演進。
    的頭像 發(fā)表于 09-26 13:37 ?1901次閱讀

    【應用方案】“會呼吸”的洗衣機:艾為燈語?讓光與你“對話

    你是否想過,洗衣機會用光的語言與您對話?當科技被賦予溫度,最日常的洗衣時刻也開始有了詩意。艾為燈語助力智能家電系列,讓洗衣機從冰冷的金屬外殼中蘇醒,用光的語言與你溫柔對話。這不是一次簡單的功能升級
    的頭像 發(fā)表于 09-11 18:56 ?841次閱讀
    【應用方案】“會呼吸”的洗衣機:艾為燈語?讓光與你“<b class='flag-5'>對話</b>”

    米爾RK3576部署端側多模態(tài)多輪對話,6TOPS算力驅動30億參數LLM

    RK3576 給出了首個可量產的答案:一套完整的多模態(tài)交互對話解決方案。 RK3576 多模態(tài)純文字:自我介紹 如今,“端側能否獨立運行圖文多輪對話” 已不再是技術疑問,而是工程實現問題。RK3576
    發(fā)表于 09-05 17:25

    對話電網、指揮儲能的雙向計量電能表

    對話電網、指揮儲能的雙向計量電能表
    的頭像 發(fā)表于 04-27 17:35 ?815次閱讀
    能<b class='flag-5'>對話</b>電網、指揮儲能的雙向計量電能表

    單次、多次對話與RTC對話AI交互模式,如何各顯神通?

    在這個充滿無限可能的AI時代,這些奇妙場景正逐步走進我們的生活。你可曾想象過,有一天家里的智能設備會化身相聲演員,和你幽默對答?或者,你的玩具能像知心好友一樣,陪你暢聊心事?單次對話、多次對話
    的頭像 發(fā)表于 04-02 18:18 ?2317次閱讀
    單次、多次<b class='flag-5'>對話</b>與RTC<b class='flag-5'>對話</b>AI交互模式,如何各顯神通?

    能和Ai-M61模組對話了?手搓一個ChatGPT 語音助手

    實現與 Ai對話。 同時 安信可即將推出一款AI大模型對話開發(fā)板 超小尺寸 敬請期待! 準備工作 (一)硬
    的頭像 發(fā)表于 03-12 11:57 ?1.2w次閱讀
    能和Ai-M61模組<b class='flag-5'>對話</b>了?手搓一個ChatGPT 語音助手

    科技云報到:從鸚鵡學舌到靈魂對話,AI的「人話革命」

    科技云報到:從鸚鵡學舌到靈魂對話,AI的「人話革命」
    的頭像 發(fā)表于 03-11 14:26 ?698次閱讀

    摩爾線程Round Attention優(yōu)化AI對話

    摩爾線程科研團隊發(fā)布研究成果《Round Attention:以輪次塊稀疏性開辟多輪對話優(yōu)化新范式》,該方法端到端延遲低于現在主流的Flash Attention推理引擎,kv-cache 顯存占用節(jié)省55%到82% 。
    的頭像 發(fā)表于 03-06 09:39 ?1068次閱讀
    摩爾線程Round Attention優(yōu)化AI<b class='flag-5'>對話</b>