MOLIERE: Automatic Biomedical Hypothesis Generation System

Motivation

• Known: LLM은 광범위한 과학 문헌을 분석하여 새로운 연구 방향을 제안하는 가설 생성에 잠재력이 있으나, 생성된 가설의 진실성 평가가 어렵고 할루시네이션(hallucination) 문제로 인해 부정확한 가설을 생성할 수 있다.
• Gap: 기존 연구들은 LLM 생성 가설의 신규성과 다양성에 집중했으나, 진실성과 기존 지식에 대한 기반성은 충분히 탐구되지 않았다.
• Why: 과학적 발견을 가속화하기 위해 LLM이 신뢰할 수 있는 가설을 생성할 수 있는지 검증하고, 할루시네이션 문제를 해결하는 것이 필수적이다.
• Approach: 생의학 지식 그래프(PubTator 3.0)와 영역 특화 말뭉치를 기반으로 TruthHypo 벤치마크를 구성하고, LLM의 추론 과정을 분석하여 할루시네이션을 탐지하는 KnowHD 프레임워크를 제안한다.

Achievement

Figure 3: Mean accuracy corresponding to different levels of groundedness. Hypotheses are grouped based on their grounde

• TruthHypo 벤치마크: 생의학 가설 생성 능력을 평가하기 위한 포괄적 벤치마크 구축 (Chemical & Gene, Disease & Gene, Gene & Gene 관계 3가지 유형)
• KnowHD 프레임워크: 지식 기반 할루시네이션 탐지 시스템으로 가설의 기반성(groundedness) 평가 및 할루시네이션 식별
• LLM 성능 분석: 다양한 LLM들의 진실한 가설 생성 능력의 한계와 도전 과제 상세 분석
• 할루시네이션-진실성 연관성: KnowHD의 기반성 점수가 진실한 가설 필터링의 효과적 지표임을 입증

How

Figure 1: Overview of the TruthHypo benchmark, including dataset construction, task formulation, and truthfulness evalua

• 데이터셋 구성: PubTator 3.0 지식 그래프를 발표 연도 기준으로 '본 것(seen, 2023년 이전)'과 '보지 못한 것(unseen, 2024년 이후)' 하위집합으로 시간적 분할", '음성 샘플 생성: 관계 부재 사례(no relation)를 추가하여 LLM의 거짓 양성(false-positive) 경향 평가
• 다중 지식 증강 설정: 파라메트릭 지식(parametric knowledge), 구조화 지식(knowledge graph), RAG 기반 문헌 검색, 그리고 복합 설정에서 LLM 성능 평가
• KnowHD 설계: LLM의 추론 단계(rationale)를 분석하여 할루시네이션된 주장 식별 및 기반성 점수 산출
• 인간 평가: 개방형 가설 생성 과제에서 KnowHD의 과학적 타당성 검증

Originality

• 진실성 중심 평가: 기존 연구의 신규성/다양성 중심에서 벗어나 진실성과 지식 기반성에 초점
• 시간 기반 분할: 미래 과학 연구 조건을 시뮬레이션하는 PMID 기반 temporal split 방식 도입
• 할루시네이션 분석: 추론 과정 분석을 통한 체계적 할루시네이션 탐지 및 기반성 평가 메커니즘
• 포괄적 벤치마크: 생의학 도메인 특화 데이터셋과 다양한 지식 증강 설정을 통합한 통일된 평가 프레임워크

Limitation & Further Study

• 제한된 도메인: 생의학 분야 3가지 관계 유형만 평가하여 다른 과학 분야의 일반화 가능성 불확실
• 관계 유형 편향: 선정된 관계 유형이 '상관
• 자극
• 억제' 등으로 제한되어 더 복잡한 과학적 관계 표현 부족", '지식 그래프 의존성: PubTator 3.0의 품질과 커버리지에 의존하므로 미주석 관계에 대한 평가 불가능
• 후속 연구 방향: (1) 다양한 과학 분야로 확장, (2) 더 세밀한 할루시네이션 유형 분류, (3) 더 강력한 기반성 평가 메커니즘 개발, (4) 실제 과학적 검증을 통한 가설 타당성 확인

Evaluation

총평: 본 논문은 LLM 기반 과학 가설 생성의 신뢰성을 평가하는 중요한 문제를 체계적으로 다루며, TruthHypo와 KnowHD를 통해 진실성 평가와 할루시네이션 탐지의 새로운 접근법을 제시한다. 생의학 분야의 가설 생성 벤치마크와 실용적인 할루시네이션 탐지 도구로서 과학 발견 가속화에 기여할 수 있는 가치 있는 연구이다.