Science and the new age of AI

Motivation

• Known: AI는 단백질 폴딩, 기상 예측, 의료 진단 등 다양한 연구 분야에 활용되고 있으며, Scopus 데이터베이스에서 AI 관련 논문의 비중이 10년 전 2%에서 현재 8%로 증가했다.
• Gap: AI 기술이 급속도로 발전하는 반면, 연구자들의 AI 활용에 대한 우려(블랙박스 시스템의 투명성 부족, 편향된 학습 데이터, 가짜 논문 생성 위험)와 규제 체계의 미흡함 사이의 괴리가 존재한다.
• Why: AI가 과학 지식의 신뢰성 기반을 훼손할 수 있기 때문에, 안전한 AI 통합을 위한 포괄적 이해와 검증 가능성 확보가 인류의 공유 지식 체계 유지에 필수적이다.
• Approach: 1,600명 이상의 국제 연구자 대상 설문을 통해 AI 활용 현황과 우려사항을 파악하고, Nature가 기획한 시리즈를 통해 AI의 잠재력과 위험성에 관한 심층 분석을 지속적으로 제시한다.

Achievement

• 영어 소통 강화: LLM 기반 생성 AI가 비영어권 연구자의 논문 작성, 문법 개선, 번역 및 요약을 지원
• 데이터 처리 및 코드 작성 효율화: 연구자들이 AI를 활용하여 대규모 데이터 처리와 프로그래밍 작업 수행
• 교육 패러다임 변화: 학교와 대학에서 LLM 도구 활용이 확산되면서 교육과정 및 교수법 개선의 필요성 인식
• AI 안전 통합 방향 제시: 투명성 강화, 데이터 접근성 보장, 검증 가능성 확보 등 과학에서의 안전한 AI 활용 원칙 제안

How

• 1,600명 이상의 세계 연구자 대상 설문 조사 실시
• AI 활용 사례 수집: 데이터 처리, 코드 작성, 논문 작성 지원 등
• 연구자 우려사항 분류: 투명성 부족, 편향된 학습 데이터, 허위 정보 확산, 위조 논문 생성
• 기업의 AI 소유권 확대에 따른 데이터 접근성 문제 분석
• 다중 단계 탐구: 과학 출판, 동료심사, 규제 체계 개선 방안 검토

Originality

• 대규모 국제 연구자 설문을 기반으로 한 실증적 데이터 수집으로 AI의 과학적 영향을 체계적으로 분석
• 개별 이점 나열에 그치지 않고 신뢰성 훼손, 규제 공백 등 구조적 위험성을 포괄적으로 제시
• 기업의 AI 소유권 집중과 오픈 사이언스 원칙의 충돌을 명확히 지적하는 비판적 관점
• 과학의 검증 가능성과 재현성이라는 근본적 원칙에 기초하여 AI 통합의 필요조건 제시

Limitation & Further Study

• 설문 응답자의 표본 대표성 및 분야별 편차에 대한 상세 분석 부재
• AI 블랙박스 투명성 개선을 위한 구체적 기술적 솔루션 제시 부족
• 현재 규제 체계의 구체적 미흡점 및 개선 방안에 대한 심층 논의 제한
• 후속 연구: 분야별 AI 활용 적정 수준 설정, 동료심사자 AI 검출 능력 평가, 글로벌 AI 거버넌스 틀 구축

Evaluation

총평: 본 사설은 AI 기술의 과학적 활용 현황을 실증적으로 조사하고, 신뢰성과 검증 가능성이라는 과학의 핵심 가치와의 균형을 강조하는 시의적절한 성찰을 제공한다. 긍정과 우려를 함께 제시하면서도 책임 있는 AI 통합의 필요성을 명확히 하는 점에서 학술 커뮤니티에 중요한 지침을 제공한다.