Foundation Molecular Grammar: Multi-Modal Foundation Models Induce Interpretable Molecular Graph Languages

Motivation

• Known: 최근 데이터 효율적 분자 생성 방법들이 그래프 문법을 활용하여 해석성을 도입하고 있으나, 기존 문법 학습은 전문가 주석 또는 신뢰도 낮은 휴리스틱에 의존
• Gap: MMFM(GPT-4o 등)의 강력한 이미지 및 자연언어 이해 능력이 분자 발견에 충분히 활용되지 못했으며, 체계적인 문법 유도 알고리즘 부재
• Why: RDKit 같은 표준화된 분자 렌더링 API가 보편화되어 MMFM이 분자 이미지를 학습했을 가능성이 높고, 이를 활용한 구조적 접근이 필요
• Approach: 클리크 트리 분해(clique tree decomposition) 알고리즘을 기반으로 각 단계마다 MMFM의 의사결정 모듈을 통합하고, LLM 논쟁(debate) 메커니즘으로 화학적 타당성을 검증

Achievement

FMG 파이프라인: (좌) 기저 클리크 초기화, (중좌) 클리크 그래프 삼각분할, (중앙) MMFM 기반 모티프 병합 결정, (중우) 중요도 낮은 상호작용 제거, (우) 근 모티프 선택.

1. 데이터 효율성 및 다양성: 기존 SOTA 방법 대비 분자 생성 벤치마크에서 우수한 성능 달성 (합성 가능성, 다양성, 데이터 효율성 모두 개선)
2. 내재적 해석성: 생성된 문법 규칙이 관능기(functional groups) 등 화학적으로 의미 있는 부분구조로 구성되며, 단계별 추론 과정을 "설계 내러티브(design narrative)"로 기록하여 투명성 확보
3. 전문가 검증: LLM 판사 및 토너먼트 시스템을 통해 분해(decomposition)의 화학적 타당성을 자동 검증하고, 전문가 기준 레이블과 비교 검증

How

알고리즘 단계:

1. 기저 클리크 추출(Base Clique Extraction)
   • 분자 구조를 하이퍼그래프로 변환 (노드=결합, 하이퍼엣지=원자 공유 관계 및 최소 고리)
   • 분자 클리크 그래프 생성 (최대 클리크 추출)
2. 클리크 그래프 삼각분할(Triangulation)
   • 유효한 클리크 트리 존재 보장
3. 모티프 병합(Motif Merging) - MMFM 개입 지점 1
   • 기저 클리크들을 이미지로 시각화
   • MMFM에 "어떤 쌍을 병합하여 화학적으로 의미 있는 부분구조를 형성할 것인가?"라고 질문
   • 연쇄 추론으로 기능기(ester 그룹, 아크릴레이트 등) 식별
4. 스패닝 트리 엣지 선택(Spanning Tree Construction) - MMFM 개입 지점 2
   • 클리크 그래프의 사이클 제거
   • MMFM에 "가장/최소 중요한 상호작용은 무엇인가?"라고 질문
   • 화학적 중요도 기반 엣지 제거
5. 근 모티프 선택(Root Motif Selection) - MMFM 개입 지점 3
   • 파스 트리의 근(root)으로 가장 중요한 모티프 선택
   • 최종 클리크 트리 완성
6. HRG 변환
   • 클리크 트리를 초엣지 대체 문법(Hyperedge Replacement Grammar)으로 변환
   • 각 모-자 관계가 생성 규칙이 됨

프롬프팅 전략:

• 분자 이미지와 텍스트 설명을 동시에 제시하여 다중 모달 정렬(implicit alignment)
• 주석이 달린 이미지로 중간 변수 시각화
• LLM 토너먼트: 여러 분해 방안을 LLM 판사로 평가하여 최고 품질 선택

Originality

• 최초의 MMFM 기반 자동 분자 문법 유도: 전문가 주석과 휴리스틱 필요성 제거
• 클리크 트리 분해 + MMFM 통합: 견고한 그래프 이론 기반(NP-난제이지만 실용적 알고리즘)을 MMFM의 적응형 의사결정과 결합
• 다중 모달 프롬프팅 기법: 분자 이미지 렌더링과 자연언어 설명을 창의적으로 활용한 in-context alignment
• 설계 내러티브: 추론 과정을 명시적으로 저장하여 결정의 투명성 및 검증 가능성 보장
• LLM 기반 자동 검증: 전문가 개입 없이도 화학적 타당성 판단 메커니즘 제안

Limitation & Further Study

• MMFM 신뢰도: GPT-4o 같은 특정 모델에 의존하며, 더 작은 모델이나 특화 분자 모델의 성능 미검증
• 스케일 검증: 대규모 분자 라이브러리(예: 백만 개 이상)에 대한 계산 효율성 및 성능 미평가
• 화학적 중요도의 정의: "중요한 상호작용"의 정의가 MMFM의 학습 데이터에 암묵적으로 의존하며, 특정 응용(약물 설계, 고분자 등)에서의 편향 가능성
• 후속 연구:
  • 다양한 기초 모델(Gemini, Claude 등) 벤치마킹
  • 도메인 특화 분자 모델의 미세 조정(fine-tuning) 가능성 탐색
  • 특정 화학 작업(반응성, 합성 경로)에 최적화된 문법 학습
  • 분자 성질 예측 태스크로의 확대 적용

Evaluation

총평: 본 논문은 다중 모달 기초 모델의 화학 이해 능력을 구조적 그래프 문법 유도에 창의적으로 활용한 우수한 논문이다. 전문가 주석 의존성을 제거하고 자동 검증 메커니즘을 제시함으로써 실무적 기여도가 높으나, MMFM의 일관성 이론적 보장과 대규모 검증이 보완되면 더욱 강력할 것으로 예상된다.