contributor : the better 커뮤니티 박준님
- 한국정보과학회 AI Society에서 The AI Korea 2024 행사를 열었습니다.
- 8/19~20 양일간 진행된 행사 중 패턴인식 기계학습 강연을 요청받아 90분간 발표를 드렸습니다.
- 실제 연구에 사용하는 GPT의 조금은 고급 기술을 적용한 사례들을 공유드렸습니다.
프롬프트 엔지니어링 & GPTs
- 개인적으로 프롬프트 엔지니어링이라는 단어를 좋아하지 않습니다.
- 먼저, 엔지니어링이란 설정을 바꾸어 최적의 성능을 내도록 하는 작업을 일컫습니다.
- 대상이 LLM의 입력인 프롬프트이기 때문에 프롬프트 엔지니어링이라는 말이 된 것일 뿐,
- 전에 없던 것이 짠 하고 튀어나온 것이 아닙니다.
- LLM에 대한 가장 큰 오해는 질문하고 답변을 받는다는 개념이라고 생각합니다.
- 23년 초에 만연했던 빅데이터 검색엔진이라는 오해보다는 낫지만,
- 질문과 답변이라는 범주로 프롬프트와 결과를 제한하기엔 너무 아깝습니다.
- LLM은 여러분의 동료이자 친구입니다. 지시 관계를 보면 여러분의 부하에 가까울지도 모릅니다.
- 업무에 사용되는 면에서 업무 지시를 하고 보고를 받는다고 보는 것이 옳다고 느낍니다.
- 사용자와 LLM의 관계를 직장에서의 상사와 부하로 본다면, 좋은 프롬프팅은 더 명확합니다.
- 업무를 효율적으로 수행하기 위해 그간의 경험으로 구축한 모든 노하우일 것입니다.
- 사전 자료를 충분히 제공해라, 왜 하는지, 어떻게 하는지 알려줘라,
- 기대하는 결과의 수준과 형식을 미리 제공해라. X떡같이 말하고 찰떡같이 듣기를 바라지 마라.
- 숱한 조직 관리 서적과 강연에 나오는 말들입니다. 그대로 적용만 하면 됩니다.
- 그리고 아무리 똑똑한 부하여도 단점이 있듯, LLM도 그렇습니다.
- 단점이 있다고 포기하기보다 장점을 극대화하는 방향으로 활용할 필요가 있습니다.
연구 업무 대행
- 인생이 고되듯 연구도 고됩니다.
- 인간이기 때문에 육체와 정신의 한계가 있고, 종종 이 이상을 요구합니다.
- 믿을 만한 사람에게 일부를 맡겨서 해소하듯, AI에게 맡길 필요가 있습니다.
- 논문을 넣고 요약해달라고 할 수 있지만, 디테일이 많이 사라집니다.
- 논문을 읽는 부담을 줄이면서도 디테일을 살리려면 명확히 요청할 필요가 있습니다.
- 방법론, 독창성, 한계점 등등을 형식과 함께 요청합니다.
- 정보 검색용으로 많이 쓰이는 perplexity도 취합은 LLM으로 합니다.
- 틀은 정해주고 내용만 채우라고 하는 식의 프롬프팅은 믿을만한 결과를 냅니다.
- 이렇게 요청하면
- 이렇게 나옵니다.
- 파일 출력 기능도 매우 요긴합니다.
- LLM의 답변을 어차피 복사해다 어딘가에 붙일 것이라면, 그냥 파일로 달라면 됩니다.
- .docx, .pptx출력을 시켜서 일손을 덜 수 있습니다.
- 간혹 너무 당연한 걸 못해서 당황스럽기도 합니다.
- 3.9와 3.11중 무엇이 더 클까?
- strawberry에는 r이 몇 개 있을까? 같은 질문이 그것입니다.
- 이런 일은 코딩을 해서 답을 하라고 하면 잘 합니다.
- 다만, 후속 질문에서 어그러지는 경우가 있으니 후속 질문까지 살피는 프롬프팅이 필요합니다.
- 한 단계 더 나아가 GPTs의 knowledge에 코드를 올리는 것도 가능합니다.
- 그러나 .py 파일을 올리면 잘 동작하지 않습니다.
- 웹 화면에서 입력하는 파일들의 경로와 knowledge 파일이 올라가는 경로가 달라서로 추정됩니다.
- 그래서 .whl 파일로 만들어 올리는 것을 추천드립니다.
- 그리고, 이 코드를 사용할 시점이 되면
subprocess.run()을 사용해 .whl파일을 설치한 후, - 코드에 들어있는 함수를 호출하라고 명령을 내리면 안정적으로 동작합니다.
- 다만 이전의 프롬프트는 이 함수에 들어갈 인자들을 충분히 뽑아 내 주어야 합니다.
- 용처에 맞게 사전 프롬프트(instruction)과 .whl 파일을 탑재한 GPTs는 따로 실행할 필요가 없습니다.
- 일을 하다 @GPTs이름을 부르면 전문가를 초빙하듯 등장해서 해결해줍니다.
- 단, 밤낮이 바뀌는 밤에는 잘 동작하지 않습니다.
- 서구의 수많은 사용자들이 서버를 점령하기 때문입니다.
- 웬만하면 해가 떠 있을 때 일을 마치고 제때 잡시다.
- 제가 만든 4개의 GPTs만으로도 다음과 같은 시나리오를 생각할 수 있습니다.
- 인간 전문가들의 영역을 존중하듯 GPTs들의 영역을 존중하여 맡기면 됩니다.
- AI Agent들의 협업으로 볼 수 있습니다.
- 강의자료를 공유합니다. (다운로드 링크)
- 모두 시간이 걸리는 일들은 이들에게 맡기고, 본질에 집중하시길 바랍니다.
- 한국정보과학회 행사 프로그램
