누구도 그 실체를 알지 못하는 온톨로지

온톨로지(Ontology)에 대한 관심이 뜨겁다. LLM 및 Agent 에 관심을 갖는 기업들 모두가 '온톨로지'를 외치고 있있고 그 배경에는 ‘온톨로지’를 중심으로 전 세계 AI분야 SI 시장을 휩쓸고 있는 팔란티어(Palantir)가 있다.

 

'온톨로지'라는 개념은 분명 매력적이다. 데이터와 세계를 연결하고, 의미를 구조화하며, AI가 '이해할 수 있는 데이터'를 만든다는 이상. 하지만 구체적으로 어떤 문제를 어떤 방식으로 구현하는지 확인하는 엔지니어적 관점에서는 그 실체에 대해서 의문이 든다.

 

그 이유는 다음과 같은데,

 

1) 온톨로지가 LLM 과 어떻게 결합되는지 보여주는 오픈소스 구현체가 없다.

 

개발자들은 문제 해결에 미쳐있다. 어떠한 문제에 대해 ‘명확한 해결 방법’이 제시되면 개발자들은 귀신같이 달려들어 오픈소스를 만들어낸다. 실제로 시장에서 문제를 해결했다고 여겨지는 솔루션을 하나 골라 오픈소스를 찾아보아라. 대부분 대응되는 훌륭한 라이브러리들이 존재한다.

 

AI도 마찬가지다. LangChain을 예시로 들어보자. LLM의 할루시네이션과 제한된 컨텍스트 length 문제가 대두되었고, 이를 벡터 기반의 텍스트 검색으로 보완하는 방법이 대두되자 발빠르게 오픈소스 프로젝트인 LangChain 이 출시되며 시장에 스며들었다.

 

팔란티어가 던지는 LLM과 RAG 의 문제는 명확하다. "도메인 지식 반영 능력이 떨어진다"는 것이다. 그리고 그 해결책으로 '온톨로지'를 제시하는 것이다. 그런데 의문이 든다. 과연 온톨로지를 LLM과 잘 결합한 오픈소스가 존재하는가? 현재 찾을 수 있는 도구들은 기존 RDF/OWL 기반의 온톨로지 언어 정도 일 뿐이다. LangChain처럼 VectorDB+LLM을 깊게 결합한 형태의 “Ontology+LLM 통합 엔진”은 존재하지 않는다. 명확한 해결 방법이 제안되면 바로 구현하는 개발자들이 그 구현을 망설인다는 것은, 온톨로지의 문제 해결 방법이 명확하지 않다는 방증이다.

 

2) 온톨로지에 대한 명확한 성능지표가 없다.

 

AI 시대, 더 이상 좋다 좋다 하는 것은 의미가 없다. 무엇이 어떻게 좋은지 정량적으로 설명해야한다. 온톨로지가 좋다는 이야기는 여기저기서 많이 한다. 단, 무엇이 좋은가?

 

Vector 기반의 RAG 가 성능 문제가 많은 것은 널리 알려진 사실이다. 이를 정량적으로 측정하고 보완하기 위해 점점 더 많은 Metric 들이 사용되는 추세고 (Precision/Recall, Faithfulness, Awareness 등) 이를 보완하기 위한 새로운 방법론들은 (BM25, GraphRAG) 등은 이런 Metric 들을 기반으로 훌륭하게 개선점들을 짚어내고 있다.

 

그런데 생각해보자. Palantir 의 Ontology 는 어떤 문제를 어떻게 개선시켰는가? 어떠한 Metric 을 어느 정도 향상 시켰는가? 학술계에서 하나 둘 해당 논문이 등장하고 있지만, 산업계에서 명확하게 공시되는 지표는 없다.

 

 

 

모두가 온톨로지를 이야기 하고 있는 지금, 짧은 지식을 기반으로 불편한 이야기 하는 것이 아닐까 조심스러운 부분이 있다. 또한 Palantir가 고객사들과 지켜야하는 NDA 때문에 모든 정보를 공개할 수 없는 점도 이해가 된다.

 

하지만 Palantir의 온톨로지에 대한 리서치를 하며 마치 페르마가 남긴 마지막 정리를 푸는 느낌을 지울 수 없었다. 팔란티어는 온톨로지를 통해 문제를 풀었다고 주장하고, 시장의 수 많은 경쟁사는 그 미지의 해결책을 찾기 위해 안간힘을 쓰는 게 아닌가 하는 생각도 든다.

 

한가지 분명한 것은, Palantir의 온톨로지가 더 널리 적용되려면 기존의 어떤 문제를 어떤 방식으로, 얼마나 해결하는지에 대한 명확한 정의와 근거가 필요하다. 또 그 날이 오면, 논문과 마케팅 자료보다도 먼저 GitHub에 레포가 올라올 거다. 코딩의 세계는 늘 그렇게 증명되어 왔다.

 

말은 많지만, 숫자와 코드는 없다. 그게 지금 온톨로지의 현실이다.