基于知識(shí)圖譜的復(fù)雜問題推理問答

|基于知識(shí)圖譜的復(fù)雜問題推理問答史佳欣華為云高級研究員目錄CONTENT背景介紹跨領(lǐng)域遷移構(gòu)造推理過程數(shù)據(jù)隱式學(xué)習(xí)推理過程||背景介紹答案:1984年12月30日|復(fù)雜問題：|實(shí)體鏈接實(shí)體鏈接關(guān)系分類關(guān)系分類mention：中國predicate：首都屬于國籍長城首都 國寶?！鹦茇垖儆趪L城首都中國姚明北京|語義解析法信息檢索法問題AddressingValueAddressingValueAggregateAggregateA>ADong,etal.LanguagetoLogicalFormwithNeuralAttentMiller,etal.Key-ValueMemoryNetworksforDirectlyReadingSun,etal.PullNet:OpenDomainQuestion語義解析法優(yōu)勢:?各種問題都能處理?可解釋的推理過程劣勢:?需要推理過程的標(biāo)注數(shù)據(jù)來訓(xùn)練解析器信息檢索法?只需要(問題-答案)標(biāo)注數(shù)據(jù)就可以訓(xùn)練模型?端到端預(yù)測結(jié)果劣勢?解決問題的能力有限?中間過程不可解釋，難以控制|針對語義解析類方法，我們主要探討3個(gè)問題：||構(gòu)造推理過程數(shù)據(jù)SelectSelect|?強(qiáng)類型語言，包含7種知識(shí)類型?14個(gè)知識(shí)圖譜元素操作+13個(gè)查詢操作|?強(qiáng)類型語言，包含7種知識(shí)類型?14個(gè)知識(shí)圖譜元素操作+13個(gè)查詢操作|?注重過程，透明的中間結(jié)果?符合人類思維，容易理解，方便人機(jī)交互?操作具有良好的可組合性?可以面向多種知識(shí)來源|?????????||轉(zhuǎn)寫一：最終規(guī)模：約12萬條數(shù)據(jù)（五元組）首個(gè)包含自然語言、全知識(shí)類型、多種邏輯形式的大規(guī)模數(shù)據(jù)集|||跨領(lǐng)域遷移所屬行業(yè)公司AI行業(yè)所屬行業(yè)公司AI行業(yè)AI行業(yè)所屬行業(yè)公司2021年融資最多2021年融資最多|AI行業(yè)所屬行業(yè)公司2021年融資最多知識(shí)圖譜一：AI行業(yè)哪家公司2021年融資最多？|跨領(lǐng)域遷移——骨架解析器|相似度計(jì)算相似度計(jì)算KG概念集合A股股票行業(yè)|階段一領(lǐng)域一進(jìn)行有監(jiān)督學(xué)習(xí)骨架解析器骨架解析器參數(shù)解析器階段二領(lǐng)域二進(jìn)行強(qiáng)化學(xué)習(xí)xx醫(yī)院正確à正向激勵(lì)采樣執(zhí)行錯(cuò)誤à負(fù)向激勵(lì)|領(lǐng)域一?KG：Wikidata子集領(lǐng)域二?KG：Freebase|階段一+階段二：|?可以直接學(xué)出嗎推理過程||隱式學(xué)習(xí)推理過程考慮多跳類問題：xx公司的董事長投資了哪家公司|激活向量：每一步關(guān)注的實(shí)體激活矩陣：每一步關(guān)注的關(guān)系以向量矩陣乘法建模實(shí)體轉(zhuǎn)移at=at-1wta=a-1xwijACCBBat-1=100ACCBBwt=ACB->C|以鏈?zhǔn)匠朔ń６嗵D(zhuǎn)移每一步以注意力機(jī)制關(guān)注問題a1=aow1a2=a1w2a3=a2w3|僅需對最終預(yù)測的實(shí)體施加loss，即可自動(dòng)學(xué)出整個(gè)推理過程首次在MetaQA數(shù)據(jù)集上實(shí)現(xiàn)上100%準(zhǔn)確率?遷移骨架解析器和參數(shù)解析器，第一階段有監(jiān)督學(xué)習(xí)，第|ProgramsforComplexQuestionAnsweringoverKnowledgeBase.ACL2022.overKnowledgeBases.AC