인공지능을 활용한 슬기로운 연구생활

• 서울대학교 응용물리연구소의 초청을 받아 대학원생 대상 강의를 드렸습니다.
• 생성 AI를 이용한 연구 활용 강의지만, 평소보다 오용에 대한 주의를 몇배 더 강하게 드렸습니다.
• 연구를 업으로 삼아야 하는 분들입니다. 기술은 바뀌더라도 남을 마인드가 중요하다고 생각했습니다.

인공지능을 활용한 슬기로운 연구생활

강의자료 다운로드 (219 pages)

• 기존 발표와 달리 7개의 질문으로 발표를 구성했습니다.
• 그간 여러 발표를 하면서 청중에게 들었던 질문들,
• 그리고 관련 일들을 하면서 스스로 가진 질문들입니다.

• 각 장을 질문으로 열고 답변으로 닫았습니다.
• 열리고 닫히는 사이에는 최대한 예시를 중심으로 담고자 했습니다.
• 직접 경험을 담을 수 없다면 관련 논문을 찾아 소개했습니다.
• 생성 AI는 완성품이 아니고, 아직 빠르게 진화하고 있는 중간 제품입니다.

• 개발자들조차 파악하지 못하는 특징들이 많기 때문에 커뮤니티를 통한 경험의 공유가 가장 소중합니다.
• 3시간이라는 짧지 않은 강의 시간을 꽉 채워서 전달했음에도 불구하고 디테일이 적지 않게 생략되었습니다.
• 아쉽기도 하지만, 어차피 개인의 경험으로 채워야 합니다.

Q1. 생성AI를 연구에 활용해도 되나요?

• 생성 AI를 연구에 사용해도 됩니다.
• 그런데 제대로 알고 써야 합니다.

Q1’. 뭘 알고 써야 하나요?

• 생성 AI의 능력과 한계를 알고 써야 합니다.
• 그리고 나의 능력과 한계를 알고 써야 합니다.

Q2. 생성 AI는 왜 이상한 답을 하나요?

• 자기가 하는 답이 이상한 줄 모릅니다.
• 정확히는, 자기가 무슨 말을 하는 줄 모릅니다.

• 그러면서 여기저기 눈치를 보느라 뻔한 답을 합니다.

Q2’. 빅데이터를 학습했다면서요?

• 당신은 배운 걸 다 기억하십니까?
• 생성 AI도 모르면 찾아보게 해줄 수 있습니다.
• 생성 증강 검색 - RAG: Retrieval Augmented Generation이라는 기술입니다.

Q2’’. 자기가 뱉은 말 다시 생각도 안합니까?

• 생성 AI는 억울합니다. 생각할 기회도 받지 못했습니다.
• 자기가 뭘 하는지 살펴보게 하면 오류가 줄어듭니다.
• 자기반성 - Reflexion이라는 기술입니다.

Q3. RAG도 이렇게 오류가 많은데 AI 쓰는 게 맞나요?

• 사람이 읽기에는 너무 많은 논문이 쏟아져 나옵니다.
• 정보량이 인간의 기억을 넘을 때 문자를 쓰기 시작했듯,
• 정보량이 인간의 사고 능력을 넘는 지금 AI를 쓰기 시작해야 합니다.

• 실보다 득이 많도록 운영을 잘 하셔야 합니다.

Q4. 뭔가 많이 어려워 보입니다. 환각을 줄이려면 이렇게까지 해야만 하나요?

• 모르면 모른다고 말할 자유를 주세요.
• 넘겨짚지 않도록 상황을 정확히 설명하세요.
• 웹 검색을 하고 출처를 요청하세요.
• 추론 과정을 단계별로 요청하세요.

• 할 수 있는 일들을 할 수 있게 하세요.
• 못 하는 일 시키고 못 한다고 구박하지 마세요.

Q5. 현 상황에서는 RAG가 최선으로 보입니다. 연구비를 들여 개발 의뢰를 해야 하나요?

• 나와 있는 도구들만 잘 쓰셔도 충분합니다.
• 무료와 유료의 구독 성능차이가 생각보다 큽니다.
• 연구비 처리가 가능하니 교수님을 졸라보세요.

Q6. 실제로 어떤 일들을 했나요?

• 데이터 분석부터 연구업무 수행까지 다 합니다.

Q7. 당장 GPT밖에 쓰는 게 없는데, 이걸로 할 수 있는 게 있나요?

• GPTs를 써보세요.
• 직접 만드시면 제일 좋고, 있는 걸 쓰셔도 좋아요.

강의자료 다운로드 (219 pages)