Best Practices for Using AI When Writing Scientific Manuscripts: Caution, Care, and Consideration: Creative Science Depends on It

Motivation

• Known: ChatGPT는 2개월 만에 1억 명의 사용자를 확보하여 역사상 가장 빠르게 성장하는 애플리케이션이 되었으며, 유사한 AI 언어 도구들이 계속 개발 중이다.
• Gap: 과학 커뮤니티가 이러한 도구의 잠재적 영향을 충분히 검토하지 못한 채 광범위하게 채택되고 있으며, 생성된 텍스트의 정확성 검증 없이 사용되고 있다.
• Why: 인간 수준의 자연스러운 문장 생성 능력이 독자를 속일 수 있고, 허위 참고문헌 생성, 얕은 분석, 창의성 저하 등의 문제가 발생할 수 있기 때문이다.
• Approach: 과학자들을 위한 포괄적인 가이드라인을 제시하여 AI 도구를 책임감 있고 신중하게 활용할 수 있도록 한다.

Achievement

1. AI 언어 봇의 강점 9가지 제시:
   • 저술 시 정신적 고착(mental log jam) 해소
   • 흥미로운 비유와 창의적 연결고리 생성
   • 제목, 초록, 결론 개선
   • 문헌 검색 시 누락된 참고문헌 제안
   • 저술 구조 가이드 제공
   • 영어 비모국어 사용자의 글쓰기 촉진
   • 주제 검토의 철저성 강화
   • 낯선 분야의 기초 지식 습득
   • Python 등 컴퓨터 언어 코드 개발
2. AI 언어 봇의 우려점 10가지 명확화:
   • 과도한 의존에 따른 비판적 사고 약화
   • 획일적(cookie-cutter) 과학으로 인한 창의성 침해
   • 허위 참고문헌 생성 및 사실 왜곡
   • 논쟁적 주제에 대한 편향된 시각
   • 기존 과학계의 편견 재현
   • 미래 지향적 관점 부족
   • 원본 논문 미열독에 따른 오류
   • 임상 관련 연구 보고의 투명성 훼손
   • 과학적 혁신성(disruptive breakthroughs) 감소 위험
   • 지속적 개선로 인한 감시 어려움

How

• 이중 검증 원칙: AI 생성 텍스트는 원본 논문을 직접 읽고 검증해야 하며, 참고문헌의 정확성을 반드시 확인해야 함
• 지식 기반의 한계 인식: ChatGPT의 학습 데이터가 2021년까지로 제한되므로 최신 리뷰 및 관점 작성에 부족함을 인식
• 전략적 활용 시점: 초안 작성 후 보완 관점 제공용으로 사용하되, 초기 단계에서 사용 시 사고의 틀 고착 위험 주의
• 창의성 우선 원칙: AI는 기존 통념 정리에는 적합하나 독창적 결과 식별 및 판단에는 부족하므로, 창의적 통찰은 인간의 몫으로 남겨야 함
• 책임 있는 저술: 과학은 명예 체계(honor system) 위에 성립하므로, 동료 및 공저자에게 우려점과 모범 사례를 알리는 것이 중요함

Originality

• 타이밍의 가치: ChatGPT 출현 직후(2023년 2월) 국제적 과학 공동체 대표가 신속하게 가이드라인을 제시함으로써 조기 규범 형성에 기여
• 균형잡힌 관점: 도구 거부나 무분별한 수용이 아닌 신중한 사용 원칙을 강조하여 실용적 합의점 제시
• 미래 지향성: 현재의 ChatGPT뿐 아니라 지속적으로 개선될 AI 언어 모델들을 고려한 일반화된 원칙 제시
• 과학 윤리 강조: 기술적 문제를 넘어 과학의 본질(창의성, 비판적 사고, 신뢰성)과 연결하여 논의

Limitation & Further Study

• 범위의 제약: 에디토리얼 형식으로 상세한 실험 데이터나 사례 분석이 제시되지 못함. 실제 학생 저자들의 AI 도구 과의존 사례에 대한 실증 연구 필요
• 정책 구현의 공백: 권장사항은 제시하나 출판사, 저널 편집자, 기관 차원의 강제 지침이나 검증 메커니즘 개발은 후속 과제
• 기술 발전의 속도: 논문 작성 당시 이미 ChatGPT 4.0 개발 중이었으므로, 지속적 업데이트에 따른 가이드라인 수정 필요성 인정
• 후속 연구 방향:
  • AI 생성 텍스트 탐지 기술의 고도화
  • 학생 교육에서 AI 도구 활용이 학습 성과에 미치는 장단기 영향 분석
  • 출판사 및 학술지의 AI 사용 정책 개발 및 시행
  • 학제별 특성에 맞는 맞춤형 가이드라인 개발

Evaluation

총평: ChatGPT의 급속한 확산에 선제적으로 대응하는 책임감 있는 에디토리얼로, 과학적 창의성 보호와 윤리성 강조라는 핵심 메시지를 효과적으로 전달한다. 다만 강제성 있는 정책 수립이나 기술적 검증 방안은 후속 과제로 남아있다.