대개 이렇게 흘러갑니다. 마감은 이틀 남았고, 챗봇이 참고문헌 네 개가 달린 깔끔한 문단을 써 줬습니다. 세 번째 문헌은 흠잡을 데가 없어 보입니다. 실제로 있을 법한 저자, 분야에 맞는 저널, 2021년 출판. 그런데 40분을 검색한 끝에 결국 인정하게 됩니다. 그 논문은 쓰인 적이 없다는 것을요.
드물게 생기는 오류가 아닙니다. 연구진이 ChatGPT에 42개 주제로 짧은 문헌 리뷰를 쓰게 했더니 GPT-3.5 인용의 55%, GPT-4 인용의 18%가 가짜였고, 실재하는 문헌에도 상당한 오류가 많았습니다 [1]. OpenScholar 평가에서는 GPT-4o가 생성한 과학 인용의 78~90%가 가짜였습니다 [2].
창피함으로 끝나는 문제도 아닙니다. 학위논문 한 장이나 투고 원고에 들어간 가짜 참고문헌은 연구윤리 문제이고, 심사위원과 지도교수가 이를 확인하는 경우도 점점 늘고 있습니다.
챗봇은 왜 참고문헌을 지어낼까
일반 챗봇은 모델이 기억하는 내용을 바탕으로 글을 씁니다. 해당 분야의 인용이 보통 어떤 모양인지, 즉 어떤 성씨와 저널과 연도가 자주 나오는지는 알고 있습니다. 실제 문헌이 떠오르지 않을 때도 모양만큼은 그럴듯한 무언가를 만들어 낼 수 있습니다. 읽기에 자연스럽기 때문에 바로 그 점에서 검토를 빠져나갑니다.
5분 참고문헌 점검법
AI의 도움을 받은 참고문헌을 원고에 넣기 전에 아래 항목을 확인하세요. 문단 하나에 몇 분이면 충분하고, 문제는 거의 다 걸러집니다.
- DOI를 열어 보세요. https://doi.org/ 뒤에 붙여 넣습니다. DOI가 없거나 다른 논문으로 연결되면 거기서 멈추세요.
- 세 항목을 대조하세요. 제1저자, 연도, 저널이 모두 랜딩 페이지와 일치해야 합니다. 가짜 참고문헌은 셋 중 둘만 맞는 경우가 많습니다.
- 초록과 주장을 맞대어 읽으세요. 실재하는 논문이라도 그 논문이 말하지 않은 내용의 근거로 인용될 수 있습니다. 해당 인용이 붙은 바로 그 문장을 초록이 뒷받침하는지 확인하세요.
- 제목을 따옴표로 묶어 검색하세요. 실재하는 논문은 학술 색인에 나옵니다. 가짜 논문은 아무것도 나오지 않거나, 저자 목록이 다른 비슷한 논문만 나옵니다.
- PDF나 랜딩 페이지를 보관하세요. 열어 볼 수 없는 문헌은 학위논문 심사나 동료 심사에서 설명할 수도 없습니다.
더 나은 방법: 검색되지 않은 논문은 초안에 들이지 않기
사후 점검도 효과는 있지만 시간이 오래 걸립니다. 더 확실한 해법은 작업 순서를 바꾸는 것입니다. 먼저 검색하고, 결과를 선별한 뒤에 쓰고, 실제로 검색된 논문만 인용하는 것이죠.
tlooto는 바로 그렇게 만들어졌습니다. 연구 질문을 입력하면 tlooto가 검색 계획을 세우고, 학술 색인에서 저자·학술지·연도·DOI·초록이 포함된 논문을 가져와 설정한 기준으로 선별한 다음, 통과한 논문만으로 리포트를 작성합니다. 모든 문장에 번호 인용이 붙고, 참고문헌 목록은 본문과 같은 레코드에서 생성되므로 둘은 항상 일치합니다.
tlooto 리포트의 참고문헌 목록. 각 항목이 DOI로 연결되고, 아무것도 다시 쓰지 않고 인용 스타일을 바꿀 수 있습니다.
논문은 여전히 직접 읽어야 합니다. tlooto가 연구 판단을 대신해 주지는 않고, 그래서도 안 됩니다. 다만 하나하나 뜯어봐야 하는 문단 대신, 실재하는 문헌 목록에서 출발할 수 있습니다.
연구실이나 수업에 공유할 간단한 원칙
열어 볼 수 없는 참고문헌은 넣지 않는다. 글쓰기에 AI를 쓰는 사람이라면 누구에게든 이 원칙을 공유하세요. 이런 실수가 가장 많이 나오는 새벽 2시에도 기억할 만큼 단순합니다.
참고문헌
[1] Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13. https://doi.org/10.1038/s41598-023-41032-5
[2] Asai, A., et al. (2024). OpenScholar: Synthesizing scientific literature with retrieval-augmented LMs. arXiv. https://arxiv.org/abs/2411.14199