一、語(yǔ)言表征學(xué)習(xí) Language Representation Learning

通過(guò)自監(jiān)督語(yǔ)言模型預(yù)訓(xùn)練的語(yǔ)言表征學(xué)習(xí)已經(jīng)成為許多NLP系統(tǒng)的一個(gè)組成部分。傳統(tǒng)的語(yǔ)言建模不利用文本語(yǔ)料庫(kù)中經(jīng)常觀察到的實(shí)體事實(shí)，如何將知識(shí)整合到語(yǔ)言表征中已引起越來(lái)越多的關(guān)注。

二、知識(shí)圖譜語(yǔ)言模型（KGLM）：通過(guò)選擇和復(fù)制實(shí)體來(lái)學(xué)習(xí)并呈現(xiàn)知識(shí)。

ERNIE-Tsinghua：通過(guò)聚合的預(yù)訓(xùn)練和隨機(jī)Mask來(lái)融合信息實(shí)體。

K-BERT：將領(lǐng)域知識(shí)注入BERT上下文編碼器。

ERNIE-Baidu：引入了命名實(shí)體Mask和短語(yǔ)Mask以將知識(shí)集成到語(yǔ)言模型中，并由ERNIE 2.0通過(guò)持續(xù)的多任務(wù)學(xué)習(xí)進(jìn)一步改進(jìn)。

KEPLER：為了從文本中獲取事實(shí)知識(shí)，通過(guò)聯(lián)合優(yōu)化將知識(shí)嵌入和Mask語(yǔ)言建模損失相結(jié)合。

GLM：提出了一種圖引導(dǎo)的實(shí)體Mask方案來(lái)隱式地利用知識(shí)圖譜。

CoLAKE：通過(guò)統(tǒng)一的詞-知識(shí)圖譜和改進(jìn)的Transformer編碼器進(jìn)一步利用了實(shí)體的上下文。

BERT-MK：與K-BERT模型類似，更專注于醫(yī)學(xué)語(yǔ)料庫(kù)，通過(guò)知識(shí)子圖將醫(yī)學(xué)知識(shí)集成到預(yù)訓(xùn)練語(yǔ)言模型中。

Petroni等人：重新思考語(yǔ)言模型的大規(guī)模訓(xùn)練和知識(shí)圖譜查詢，分析了語(yǔ)言模型和知識(shí)庫(kù)，他們發(fā)現(xiàn)可以通過(guò)預(yù)訓(xùn)練語(yǔ)言模型獲得某些事實(shí)知識(shí)。

三、問(wèn)答 Question Answering

基于知識(shí)圖譜的問(wèn)答（KG-QA）用知識(shí)圖譜中的事實(shí)回答自然語(yǔ)言問(wèn)題。基于神經(jīng)網(wǎng)絡(luò)的方法表示分布式語(yǔ)義空間中的問(wèn)題和答案，有些方法還進(jìn)行符號(hào)知識(shí)注入以進(jìn)行常識(shí)推理。

Single-fact QA：以知識(shí)圖譜為外部知識(shí)源，simple factoid QA或single-fact QA是回答一個(gè)涉及單個(gè)知識(shí)圖譜事實(shí)的簡(jiǎn)單問(wèn)題。

Dai等人：提出了一種條件聚焦神經(jīng)網(wǎng)絡(luò)，配備聚焦修剪以減少搜索空間。

BAMnet：使用雙向注意機(jī)制對(duì)問(wèn)題和知識(shí)圖譜之間的雙向交互進(jìn)行建模。盡管深度學(xué)習(xí)技術(shù)在KG-QA中得到了廣泛應(yīng)用，但它們不可避免地增加了模型的復(fù)雜性。

Mohammed等人：通過(guò)評(píng)估有和沒(méi)有神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)單KG-QA，發(fā)現(xiàn)復(fù)雜的深度模型（如LSTM和GRU等啟發(fā)式算法）達(dá)到了最先進(jìn)的水平，非神經(jīng)模型也獲得了相當(dāng)好的性能。

多跳推理（Multi-hop Reasoning）：處理復(fù)雜的多跳關(guān)系需要更專門的設(shè)計(jì)才能進(jìn)行多跳常識(shí)推理。結(jié)構(gòu)化知識(shí)提供了信息豐富的常識(shí)，這促進(jìn)了最近關(guān)于多跳推理的符號(hào)空間和語(yǔ)義空間之間的常識(shí)知識(shí)融合的研究。

Bauer等人：提出了多跳雙向注意力和指針生成器（pointer-generator）解碼器，用于有效的多跳推理和連貫的答案生成，利用來(lái)自ConceptNet的relational path selection和selectively-gated注意力注入的外部常識(shí)知識(shí)。

Variational Reasoning Network(VRN)：使用reasoning-graph嵌入進(jìn)行多跳邏輯推理，同時(shí)處理主題實(shí)體識(shí)別中的不確定性。

KagNet：執(zhí)行concept recognition以從ConceptNet構(gòu)建模式圖，并通過(guò)GCN、LSTM和hierarchical path-based attention學(xué)習(xí)基于路徑的關(guān)系表示。

CogQA：結(jié)合了implicit extraction和explicit reasoning，提出了一種基于BERT和GNN的認(rèn)知圖模型，用于多跳QA。

四、推薦系統(tǒng) Recommender Systems

將知識(shí)圖譜集成為外部信息，使推薦系統(tǒng)具備常識(shí)推理能力，具有解決稀疏問(wèn)題和冷啟動(dòng)問(wèn)題的潛力。通過(guò)注入實(shí)體、關(guān)系和屬性等知識(shí)圖譜的輔助信息，許多方法致力于使用基于嵌入的正則化模塊以改進(jìn)推薦效果。

collaborative CKE：通過(guò)平移KGE模型和堆疊自動(dòng)編碼器聯(lián)合訓(xùn)練KGE、文本信息和視覺(jué)內(nèi)容。

DKN：注意到時(shí)間敏感和主題敏感的新聞文章由大量密集的實(shí)體和常識(shí)組成，通過(guò)知識(shí)感知CNN模型將知識(shí)圖譜與多通道word-entity-aligned文本輸入相結(jié)合。但是，DKN不能以端到端的方式進(jìn)行訓(xùn)練，因?yàn)樗枰崆皩W(xué)習(xí)實(shí)體嵌入。

MKR：為了實(shí)現(xiàn)端到端訓(xùn)練，通過(guò)共享潛在特征和建模高階項(xiàng)目-實(shí)體交互，將多任務(wù)知識(shí)圖譜表示和推薦相關(guān)聯(lián)。

KPRN：雖然其他工作考慮了知識(shí)圖譜的關(guān)系路徑和結(jié)構(gòu)，但KPRN將用戶和項(xiàng)目之間的交互視為知識(shí)圖譜中的實(shí)體關(guān)系路徑，并使用LSTM對(duì)路徑進(jìn)行偏好推斷以捕獲順序依賴關(guān)系。

PGPR：在基于知識(shí)圖譜的user-item交互上執(zhí)行reinforcement policy-guided的路徑推理。

KGAT：在entity-relation和user-item圖的協(xié)作知識(shí)圖譜上應(yīng)用圖注意力網(wǎng)絡(luò)，通過(guò)嵌入傳播和基于注意力的聚合對(duì)高階連接進(jìn)行編碼。

總而言之，基于知識(shí)圖的推薦本質(zhì)上是通過(guò)在知識(shí)圖譜中嵌入傳播與多跳來(lái)處理可解釋性。

五、文本分類和特定任務(wù)應(yīng)用程序 Text Classification and Task-Specific Applications

知識(shí)驅(qū)動(dòng)的自然語(yǔ)言理解（NLU）是通過(guò)將結(jié)構(gòu)化知識(shí)注入統(tǒng)一的語(yǔ)義空間來(lái)增強(qiáng)語(yǔ)言表征能力。最近成果利用了明確的事實(shí)知識(shí)和隱含的語(yǔ)言表征。

Wang等人：通過(guò)加權(quán)的word-concept嵌入，通過(guò)基于知識(shí)的conceptualization增強(qiáng)了短文本表征學(xué)習(xí)。

Peng等人：集成了外部知識(shí)庫(kù)，以構(gòu)建異構(gòu)信息圖譜，用于短社交文本中的事件分類。

在精神衛(wèi)生領(lǐng)域，具有知識(shí)圖譜的模型有助于更好地了解精神狀況和精神障礙的危險(xiǎn)因素，并可有效預(yù)防精神健康導(dǎo)致的自殺。

Gaurs等人：開發(fā)了一個(gè)基于規(guī)則的分類器，用于知識(shí)驅(qū)動(dòng)的自殺風(fēng)險(xiǎn)評(píng)估，其中結(jié)合了醫(yī)學(xué)知識(shí)庫(kù)和自殺本體的自殺風(fēng)險(xiǎn)嚴(yán)重程度詞典。

情感分析與情感相關(guān)概念相結(jié)合，可以更好地理解人們的觀點(diǎn)和情感。

SenticNet：學(xué)習(xí)用于情感分析的概念原語(yǔ)，也可以用作常識(shí)知識(shí)源。為了實(shí)現(xiàn)與情感相關(guān)的信息過(guò)濾。

Sentic LSTM：將知識(shí)概念注入到vanilla LSTM中，并為概念級(jí)別的輸出設(shè)計(jì)了一個(gè)知識(shí)輸出門，作為對(duì)詞級(jí)別的補(bǔ)充。

對(duì)話系統(tǒng) Dialogue Systems

問(wèn)答（QA）也可以被視為通過(guò)生成正確答案作為響應(yīng)的單輪對(duì)話系統(tǒng)，而對(duì)話系統(tǒng)考慮對(duì)話序列并旨在生成流暢的響應(yīng)以通過(guò)語(yǔ)義增強(qiáng)和知識(shí)圖譜游走來(lái)實(shí)現(xiàn)多輪對(duì)話。

Liu等人：在編碼器-解碼器框架下，通過(guò)知識(shí)圖譜檢索和圖注意機(jī)制對(duì)知識(shí)進(jìn)行編碼以增強(qiáng)語(yǔ)義表征并生成知識(shí)驅(qū)動(dòng)的響應(yīng)。

DialKG Walker：遍歷符號(hào)知識(shí)圖譜以學(xué)習(xí)對(duì)話中的上下文轉(zhuǎn)換，并使用注意力圖路徑解碼器預(yù)測(cè)實(shí)體響應(yīng)。

通過(guò)形式邏輯表示的語(yǔ)義解析是對(duì)話系統(tǒng)的另一個(gè)方向。

Dialog-to-Action：是一種編碼器-解碼器方法，通過(guò)預(yù)定義一組基本動(dòng)作，它從對(duì)話中的話語(yǔ)映射可執(zhí)行的邏輯形式，以在語(yǔ)法引導(dǎo)解碼器的控制下生成動(dòng)作序列。

六、醫(yī)學(xué)和生物學(xué) Medicine and Biology

知識(shí)驅(qū)動(dòng)的模型及其應(yīng)用為整合領(lǐng)域知識(shí)以在醫(yī)學(xué)和生物學(xué)領(lǐng)域進(jìn)行精確預(yù)測(cè)鋪平了道路。醫(yī)學(xué)應(yīng)用涉及有眾多醫(yī)學(xué)概念的特定領(lǐng)域知識(shí)圖譜。

Sousa等人：采用知識(shí)圖譜相似性進(jìn)行蛋白質(zhì)-蛋白質(zhì)相互作用預(yù)測(cè)，使用基因本體。

Mohamed等人：將藥物-靶點(diǎn)相互作用預(yù)測(cè)設(shè)定為生物醫(yī)學(xué)知識(shí)圖譜中與藥物及其潛在靶點(diǎn)的鏈接預(yù)測(cè)。

Lin等人：開發(fā)了一個(gè)知識(shí)圖譜網(wǎng)絡(luò)來(lái)學(xué)習(xí)藥物-藥物相互作用預(yù)測(cè)的結(jié)構(gòu)信息和語(yǔ)義關(guān)系。

UMLS：在臨床領(lǐng)域，來(lái)自Unified Medical Language Systems(UMLS)本體的生物醫(yī)學(xué)知識(shí)被集成到語(yǔ)言模型預(yù)訓(xùn)練中，用于臨床實(shí)體識(shí)別和醫(yī)學(xué)語(yǔ)言推理等下游臨床應(yīng)用。

Liu等人：設(shè)定了醫(yī)學(xué)圖像報(bào)告生成的任務(wù)，包括編碼、檢索和釋義三個(gè)步驟。

知識(shí)圖譜相關(guān)信息學(xué)習(xí)：

一、知識(shí)圖譜概論

1.1知識(shí)圖譜的起源和歷史

1.2知識(shí)圖譜的發(fā)展史——從框架、本體論、語(yǔ)義網(wǎng)、鏈接數(shù)據(jù)到知識(shí)圖譜

1.3知識(shí)圖譜的本質(zhì)和價(jià)值

1.4知識(shí)圖譜VS傳統(tǒng)知識(shí)庫(kù)VS關(guān)系數(shù)據(jù)庫(kù)

1.5經(jīng)典的知識(shí)圖譜

1.5.1經(jīng)典的CYC, WordNnet, WikiData, DBpedia, YAGO, NELL等知識(shí)庫(kù)

1.5.2行業(yè)知識(shí)圖譜：

Google知識(shí)圖譜，微軟實(shí)體圖，阿里知識(shí)圖譜，醫(yī)學(xué)知識(shí)圖譜，基因知識(shí)圖譜等知識(shí)圖譜項(xiàng)目

二、知識(shí)圖譜應(yīng)用

2.1知識(shí)圖譜應(yīng)用場(chǎng)景

2.2知識(shí)圖譜應(yīng)用簡(jiǎn)介

2.2.1知識(shí)圖譜在數(shù)字圖書館上的應(yīng)用

2.2.2知識(shí)圖譜在國(guó)防、情報(bào)、公安上的應(yīng)用

2.2.3知識(shí)圖譜在金融上的應(yīng)用

2.2.4知識(shí)圖譜在電子商務(wù)中的應(yīng)用

2.2.5知識(shí)圖譜在農(nóng)業(yè)、醫(yī)學(xué)、法律等領(lǐng)域的應(yīng)用

2.2.6知識(shí)圖譜在制造行業(yè)的應(yīng)用

2.2.7知識(shí)圖譜在大數(shù)據(jù)融合中的應(yīng)用

2.2.8知識(shí)圖譜在人機(jī)交互（智能問(wèn)答）中的應(yīng)用

三、知識(shí)表示與知識(shí)建模

3.1知識(shí)表示概念

3.2 知識(shí)表示方法

a.語(yǔ)義網(wǎng)絡(luò) b.產(chǎn)生式規(guī)則 c.框架系統(tǒng) d.描述邏輯 e.本體 f.RDF和RDFS

g.OWL和OWL2 Fragmentsh.SPARQL查詢語(yǔ)言

i.Json-LD、RDFa、HTML5 MicroData等新型知識(shí)表示

3.3典型知識(shí)庫(kù)項(xiàng)目的知識(shí)表示

3.4知識(shí)建模方法學(xué)

3.5知識(shí)表示和知識(shí)建模實(shí)踐

1.三國(guó)演義知識(shí)圖譜的表示和建模實(shí)踐案例

2.學(xué)術(shù)知識(shí)圖譜等

四、知識(shí)抽取與挖掘

4.1知識(shí)抽取基本問(wèn)題

a.實(shí)體識(shí)別 b.關(guān)系抽取 c.事件抽取

4.2數(shù)據(jù)采集和獲取

4.3面向結(jié)構(gòu)化數(shù)據(jù)的知識(shí)抽取

a.D2RQb.R2RML

4.4面向半結(jié)構(gòu)化數(shù)據(jù)的知識(shí)抽取

a.基于正則表達(dá)式的方法b.基于包裝器的方法

4.5.面向非結(jié)構(gòu)化數(shù)據(jù)的知識(shí)抽取

a.實(shí)體識(shí)別技術(shù)（基于規(guī)則、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、預(yù)訓(xùn)練等方法）

b.關(guān)系抽取技術(shù)（基于模板、監(jiān)督、遠(yuǎn)程監(jiān)督、深度學(xué)習(xí)等方法）

c.事件抽取技術(shù)（基于規(guī)則、深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等方法）

4.6.知識(shí)挖掘

a.實(shí)體消歧b.實(shí)體鏈接c.類型推斷 d.知識(shí)表示學(xué)習(xí)

4.7知識(shí)抽取上機(jī)實(shí)踐

A.面向半結(jié)構(gòu)化數(shù)據(jù)的三國(guó)演義知識(shí)抽取

B.面向文本的三國(guó)演義知識(shí)抽取

C.人物關(guān)系抽取

五、知識(shí)融合

5.1知識(shí)融合背景

5.2知識(shí)異構(gòu)原因分析

5.3知識(shí)融合解決方案分析

5.4.本體對(duì)齊基本流程和常用方法

a.基于文本的匹配 b.基于圖結(jié)構(gòu)的匹配 c.基于外部知識(shí)庫(kù)的匹配

e.不平衡本體匹配 d.跨語(yǔ)言本體匹配f.弱信息本體匹配

5.5實(shí)體匹配基本流程和常用方法

a.基于相似度的實(shí)例匹配b.基于規(guī)則或推理的實(shí)體匹配

c.基于機(jī)器學(xué)習(xí)的實(shí)例匹配 d.大規(guī)模知識(shí)圖譜的實(shí)例匹配

(1)基于分塊的實(shí)例匹配

(2)無(wú)需分塊的實(shí)例匹配

(3)大規(guī)模實(shí)例匹配的分布式處理

5.6 知識(shí)融合上機(jī)實(shí)踐

1.百科知識(shí)融合

2.OAEI知識(shí)融合任務(wù)

六、存儲(chǔ)與檢索

6.1.知識(shí)圖譜的存儲(chǔ)與檢索概述

6.2.知識(shí)圖譜的存儲(chǔ)

a.基于表結(jié)構(gòu)的存儲(chǔ)b.基于圖結(jié)構(gòu)的存儲(chǔ)

6.3.知識(shí)圖譜的檢索

a.關(guān)系數(shù)據(jù)庫(kù)查詢：SQL語(yǔ)言b數(shù)據(jù)庫(kù)查詢：SPARQL語(yǔ)言

6.4.上機(jī)實(shí)踐案例：利用GraphDB完成知識(shí)圖譜的存儲(chǔ)與檢索

七、知識(shí)推理

7.1.知識(shí)圖譜中的推理技術(shù)概述

7.2.歸納推理：學(xué)習(xí)推理規(guī)則

a.歸納邏輯程設(shè)計(jì)?b.關(guān)聯(lián)規(guī)則挖掘c.路徑排序算法

上機(jī)實(shí)踐案例：利用AMIE+算法完成Freebase數(shù)據(jù)上的關(guān)聯(lián)規(guī)則挖掘

7.3.演繹推理：推理具體事實(shí)

?a.馬爾可夫邏輯網(wǎng) b.概率軟邏輯

7.4.基于分布式表示的推理

a.TransE模型及其變種b.RESCAL模型及其變種

c.（深度）神經(jīng)網(wǎng)絡(luò)模型介紹d.表示學(xué)習(xí)模型訓(xùn)練

7.5.上機(jī)實(shí)踐案例：利用分布式知識(shí)表示技術(shù)完成Freebase上的鏈接預(yù)測(cè)

八、語(yǔ)義搜索

8.1.語(yǔ)義搜索概述

8.2.搜索關(guān)鍵技術(shù)

a.索引技術(shù)：倒排索引

b.排序算法：BM25及其擴(kuò)展

8.3.知識(shí)圖譜搜索

a.實(shí)體搜索

b.關(guān)聯(lián)搜索

8.4.知識(shí)可視化a.摘要技術(shù)

8.5.上機(jī)實(shí)踐案例：SPARQL搜索

九、知識(shí)問(wèn)答

9.1.知識(shí)問(wèn)答概述

9.2.知識(shí)問(wèn)答基本流程

9.3.相關(guān)測(cè)試集：QALD、WebQuestions等

9.4.知識(shí)問(wèn)答關(guān)鍵技術(shù)

a.基于模板的方法

b.語(yǔ)義解析

c.基于深度學(xué)習(xí)的方法

9.5.上機(jī)實(shí)踐案例：DeepQA、TemplateQA