大規模言語モデルにナレッジグラフを用いる利点
https://neo4j.com/developer-blog/knowledge-graphs-llms-multi-hop-question-answering/
(メモ:Summaryにまとまっている)
大規模言語モデルをナレッジグラフへ応用する方法
- LLMを使用してKGを構築する
- LLMをKGへの自然言語インターフェイスとして使用する
「1. LLMを使用してKGを構築する」
-
人工知能学会のSWO研究会などで紹介されるナレッジグラフ推論チャレンジ
2023年のテーマ「大規模言語モデルを用いたナレッジグラフの構築」
https://speakerdeck.com/ease112/naretuzigurahutui-lun-tiyarenzi2023-sheng-cheng-aishi-dai-nonaretuzigurahugou-zhu-ji-shu-noshao-jie?slide=5 -
大規模言語モデルによって構築された常識知識グラフの拡大と低コストフィルタリング
村田栄樹, 井手竜也, 榮田亮真, 河原大輔 早稲田大学理工学術院
山崎天 李聖哲 新里顕大 佐藤敏紀 LINE 株式会社
「2. LLMをKGへの自然言語インターフェイスとして使用する」
- GTR-LSTM: A Triple Encoder for Sentence Generation from RDF Data
Bayu Distiawan Trisedya, Jianzhong Qi, Rui Zhang, Wei Wang
ナレッジグラフから自然言語を生成する。
実装
- LLM を独自のデータで強化することを目的に作られた。LLMを用いたKGの利用とKGでのGPTの強化を実装。
総括
- KGはリソースの構造化が必要でありデータの作成にコストがかかるデメリットがある一方で、データが構造化されているため複雑なクエリに応答できることや、クエリングが早くなる、構造化情報と非構造化情報を利用できるメリットがある。
同様の目的で作成されているGitHubリポジトリ
https://github.com/XiaoxinHe/Awesome-Graph-LLM