基于知識圖譜的復(fù)雜問題推理問答

|基于知識圖譜的復(fù)雜問題推理問答史佳欣華為云高級研究員目錄CONTENT背景介紹跨領(lǐng)域遷移構(gòu)造推理過程數(shù)據(jù)隱式學習推理過程||背景介紹答案:1984年12月30日|復(fù)雜問題：|實體鏈接實體鏈接關(guān)系分類關(guān)系分類mention：中國predicate：首都屬于國籍長城首都 國寶?！鹦茇垖儆趪L城首都中國姚明北京|語義解析法信息檢索法問題AddressingValueAddressingValueAggregateAggregateA>ADong,etal.LanguagetoLogicalFormwithNeuralAttentMiller,etal.Key-ValueMemoryNetworksforDirectlyReadingSun,etal.PullNet:OpenDomainQuestion語義解析法優(yōu)勢:?各種問題都能處理?可解釋的推理過程劣勢:?需要推理過程的標注數(shù)據(jù)來訓(xùn)練解析器信息檢索法?只需要(問題-答案)標注數(shù)據(jù)就可以訓(xùn)練模型?端到端預(yù)測結(jié)果劣勢?解決問題的能力有限?中間過程不可解釋，難以控制|針對語義解析類方法，我們主要探討3個問題：||構(gòu)造推理過程數(shù)據(jù)SelectSelect|?強類型語言，包含7種知識類型?14個知識圖譜元素操作+13個查詢操作|?強類型語言，包含7種知識類型?14個知識圖譜元素操作+13個查詢操作|?注重過程，透明的中間結(jié)果?符合人類思維，容易理解，方便人機交互?操作具有良好的可組合性?可以面向多種知識來源|?????????||轉(zhuǎn)寫一：最終規(guī)模：約12萬條數(shù)據(jù)（五元組）首個包含自然語言、全知識類型、多種邏輯形式的大規(guī)模數(shù)據(jù)集|||跨領(lǐng)域遷移所屬行業(yè)公司AI行業(yè)所屬行業(yè)公司AI行業(yè)AI行業(yè)所屬行業(yè)公司2021年融資最多2021年融資最多|AI行業(yè)所屬行業(yè)公司2021年融資最多知識圖譜一：AI行業(yè)哪家公司2021年融資最多？|跨領(lǐng)域遷移——骨架解析器|相似度計算相似度計算KG概念集合A股股票行業(yè)|階段一領(lǐng)域一進行有監(jiān)督學習骨架解析器骨架解析器參數(shù)解析器階段二領(lǐng)域二進行強化學習xx醫(yī)院正確à正向激勵采樣執(zhí)行錯誤à負向激勵|領(lǐng)域一?KG：Wikidata子集領(lǐng)域二?KG：Freebase|階段一+階段二：|?可以直接學出嗎推理過程||隱式學習推理過程考慮多跳類問題：xx公司的董事長投資了哪家公司|激活向量：每一步關(guān)注的實體激活矩陣：每一步關(guān)注的關(guān)系以向量矩陣乘法建模實體轉(zhuǎn)移at=at-1wta=a-1xwijACCBBat-1=100ACCBBwt=ACB->C|以鏈式乘法建模多跳轉(zhuǎn)移每一步以注意力機制關(guān)注問題a1=aow1a2=a1w2a3=a2w3|僅需對最終預(yù)測的實體施加loss，即可自動學出整個推理過程首次在MetaQA數(shù)據(jù)集上實現(xiàn)上100%準確率?遷移骨架解析器和參數(shù)解析器，第一階段有監(jiān)督學習，第|ProgramsforComplexQuestionAnsweringoverKnowledgeBase.ACL2022.overKnowledgeBases.AC