GraphRAG: RAG와 Knowledge Graph의 만남

🖇️ GraphRAG의 등장 배경

바야흐로 대규모 언어 모델, LLM이 등장하여 우리의 일상이 크게 변화하였다. GPT나 LLaMA와 같은 모델들은 사용자의 쿼리를 기반으로 놀라운 수준의 응답을 생성하며 강력한 퍼포먼스를 보이지만, 그와 동시에 치명적인 한계도 가지고 있다. 바로 LLM이 학습 이후 업데이트된 최신 정보들에 대해 무지하고, 학습되지 않은 특정 도메인 지식에 대해 제대로 응답하지 못한다는 점이다. 이러한 한계는 종종 Hallucination이라는 형태로 나타나며, 그럴듯하지만 사실과 다른 답변을 생성하게 된다.

 

이러한 문제를 보완하기 위해 등장한 것이 RAG(Retrieval-Augmented Generation)이다. RAG의 주요 아이디어는 '지식 검색'과 LLM의 결합이다. 최신 정보 등을 포함한 외부 데이터베이스를 별도로 두고, 사용자로부터 질문이 들어오면 외부 데이터베이스로부터 연관성이 높은 정보를 검색(Retrieval)한다. 이후 LLM은 이 지식을 활용하여 응답을 생성(Generation)한다. 이 외부 지식은 일반적으로 벡터로 변환되어 저장되며, 사용자 쿼리와 벡터 유사도를 기준으로 적절한 정보를 찾아낸다. 이러한 방식은 흔히 벡터 기반의 RAG라고 불린다.

 

그러나 RAG 방식도 완벽하진 않다. 만일 여러 개의 문서가 주어졌을 때, RAG는 문서 간의 맥락이나 관계성을 충분히 고려하지 못한다. 또한 서로 다른 도메인이 있을 때, 두 도메인을 통합한 깊은 인사이트를 얻기는 어렵다. 또한 여전히 Hallucination이 발생한다.

 

이러한 문제를 극복하기 위해 제안된 것이 GraphRAG이다. GraphRAG는 마이크로소프트에서 새롭게 제안한 모델로, 문서 간의 관계를 그래프(graph) 구조로 표현하여 문서들 간의 연결성과 맥락을 보존하며 정보를 확장한다. 

https://medium.com/@fakrami/re-evaluation-of-knowledge-graph-completion-methods-7dfe2e981a77

 

 

🖇️ GraphRAG의 핵심 아이디어

벡터 기반 RAG는 사용자 쿼리와 가장 유사한 문서들을 개별적으로 선택했기 때문에 문서 간의 맥락이나 흐름을 놓치기 쉬웠다. 이에 반해 GraphRAG는 문서 하나만 보는 것이 아니라 그 문서와 연결된 이웃 문서까지 함께 고려하기 때문에 더욱 풍부한 맥락 정보를 수집할 수 있다. 이를 통해 "이 데이터의 주요 주제는 무엇입니까"와 같은 포괄적인 검색 및 답변에 적합하다.

 

GraphRAG에서 각 문서는 노드(Node)로 표현되며, 문서 간의 연결관계는 엣지(Edge)로 표현된다. 이러한 지식 그래프가 생성되면, 사용자 쿼리에 가장 적합한 anchor node를 먼저 찾고, 그 이웃 노드들을 함께 추출함으로써 쿼리와 관련된 subgraph를 형성한다. 이 하위 그래프에서 연결된 문서들을 기반으로 context를 구성하여 LLM에 입력하게 된다.

 

GraphRAG의 전체 동작은 아래와 같은 단계로 구성된다.

 

1. Knowledge Graph 생성

전체 문서 집합으로부터 의미적/논리적인 연결을 바탕으로 Knowledge Graph를 생성한다. 이 그래프는 문서들을 노드로, 연결 관계를 엣지로 표현한다.

 

2. 쿼리와 anchor node 매핑

사용자의 쿼리를 입력 받으면, 이 쿼리와 가장 관련 있는 문서를 그래프 상에서 anchor node로 선택한다.

 

3. Subgraph 확장

anchor node를 기준으로 이웃 노드들을 확장하여 하위 그래프를 생성한다. 

 

4. Context 구성 및 LLM 생성

추출된 subgraph 내의 문서들을 조합하여 하나의 context를 구성하고, 이를 LLM에 입력하여 응답을 생성한다.

 

 

🖇️ GraphRAG의 장점

GraphRAG의 장점은 크게 3가지로 정리할 수 있다.

 

1. 문맥 보존

문서 간의 관계를 기반으로 context를 구성하기 때문에 정보의 흐름이나 논리적 연결이 유지된다. 이는 특히 긴 문서나 복잡한 주제에 대해 유용하다.

 

2. 정보 연결성 강화

단순히 쿼리와 유사한 문서만 보는 것이 아니라, 관련된 여러 문서들을 함께 고려함으로써 단편적인 지식이 아니라 통합적이고 연결된 지식을 활용할 수 있다.

 

3. Hallucination 완화

LLM이 참고하는 정보가 더욱 풍부해지기 때문에 결과적으로 hallucination 문제를 줄이고 응답의 정확성을 높이는 데 기여한다.

 

 

https://microsoft.github.io/graphrag/

Welcome - GraphRAG

https://arxiv.org/pdf/2404.16130