오래된 SW 엔지니어의 평생 공부

나는 ChatGPT 사용자로서 내가 담당하는 제품/기능에 대해서 물어보기도 하고 테트리스 프로그램을 짜달라는 것과 같은 간단한 실험을 해보았다. 얼마전 페친과 그 분 뉴스피드에서 ChatGPT에 대해 의견 나눔이 있었다. 스탠스의 차이가 커 댓글에 대댓글을 달며 한참을 이야기를 나눴다. 여기서는 표절과 사실 왜곡에 대한 조금 더 정리하여 적어 본다. 우선, 나는 ChatGPT가 세상을 바꿀 큰 변곡점이라 믿고 있고, 나도 내가 이를 잘 사용하길 바라고 있다는 것을 무엇 보다도 먼저 이야기 한다.

아일랜드에서 학위를 할 때, 대학원 연구원(Postgrad Researcher) 자격이었다. 그래서, 과정 중 수업은 거의 없고 연구 위주로 진행이 되었다. 그래도, 학교에서 가르쳐 준 몇가지 중 하나가 표절(Plagiarism)이었다. 시작하자 마자 2시간이었난지 반나절인지 영어 수업이라며 가르쳤다. 한마디로 다른 사람이 쓴 저작물에 있는 내용을 내 논문에 적으려면 참고 문헌(reference)에 반드시 표기하라는 것이다. 또한, 그 글을 그대로 적지 말고 내 말로 바꾸어서 적으라고 했다. 지도교수님도 이 부분을 여러 번 강조해서 이야기 했다.

이런 측면에서 ChatGPT를 빠르게 받아 들이는 학생들을 가르쳐야 하는 학교나 연구를 수행하는 학계가 먼저 대응하고 있는 것이 보인다. 세계 의학 편집자 협회(WAME)는 ChatGPT와 챗봇에 대한 네 가지 권장사항을 발표했다[1]. 여러 가지가 있지만, 우선 눈에 띄는 것은 1) "챗봇은 저자가 될 수 없다" 2) "챗봇이 생성한 자료를 포함한 모든 출처에 대한 책임은 저자에게 있다"라는 부분이다. 즉, 우리가 ChatGPT가 생성한 자료가 아무리 좋은 내용을 포함하고 있다고 하더라도, 내가 그 결과를 내 저작물에 쓰려면 그 내용에 대한 출처를 찾아야 하는 수고가 필요하다는 것이다.

ChatGPT에 대한 여러 이야기를 보다고 알게 된 ChatGPT의 특징 중 다른 하나가 사실 왜곡(Hallucination)이다. 이 용어를 "적당히 생성" 혹은 "환각적 지식"이라고 번역하시는 분도 보았다. ChatGPT가 생성하는 자료의 사실 왜곡율이 15~20% 정도 된다고 한다[2]. 물론 이 부분에 대해서 잘 못되었다고 지적하면서 사용하는 경우도 많이 보고 있다. 또한, ChatGPT의 다음 버전들과 비슷한 제품들이 나올 경우 발생할 수 있는 오염에 대해서도 이야기하는 글도 나오고 있다[3]. 물론, 이 부분에 대한 고민은 연구자들의 몫일게다. 우리는 ChatGPT가 틀릴 수도 있다는 것을 알고 꼭 다시 확인하는 것이 필요하다고 생각한다.

그렇다면, 우리는 ChatGPT를 쓰면 안되는 것인가? 나는 아니라고 생각한다. 도리어 어떻게 해야 잘 활용할 것인가? 그리고 무엇이 개선되어야 하는가를 고민하는 것이 더 중요하다고 생각한다. 잘 사용하기 위해서 고민하는 사람들이 프람프트 엔지니어링[4][5]을 이야기 하고 있다. 이 부분은 나도 더 탐색이 필요한 부분이다.

그리고, 근본적인 질문으로 우리는 기계를 믿을 것인가? 사람을 믿을 것인가? 를 고민해야 한다고 생각한다. 이 질문은 결국 선택의 문제가 될 것이다. 나는 개발자/엔지니어로서 기계는 실수하지 않는 것을 알고 있다. 하지만, 또한 잊지 않는 것이 있다. 바로, 기계를 만든 것은 사람이라는 것이다. 기계에 문제가 있다면 의도하였던 의도하지 않았던 많은 부분 사람이 관여한 것이라는 것, 그리고 그 기계를 활용하거나 악용하는 것도 사람이라는 것이다. 그래서, 나는 그리고 우리는 이 것을 알고 판단하고 선택해야 할 것이라고 믿는다.

참고

[1] http://www.docdocdoc.co.kr/news/articleView.html?idxno=3002315

[2] https://www.datanami.com/2023/01/17/hallucinations-plagiarism-and-chatgpt/

[3] https://twitter.com/191cf54fad/status/1624953860531060736?s=46&t=-CjiWmVTqVXP06ygy0eXwA&fbclid=IwAR11lbIsRfs3yKpPncUvT3mWxlEy1QObCOJRPberGb9UgVXvtY6Ck3j6pJo

[4]https://github.com/dair-ai/Prompt-Engineering-Guide?fbclid=IwAR34DHEs5d3bZc33gP-sCnrLgm5IDxKP0BYhyMnSQH1z7C93rQY-9_qQ7KU&mibextid=Zxz2cZ

[5]https://learnprompting.org/docs/intro