AI 논문 철회란 생성형 AI의 사용 사실을 밝히지 않았거나 AI가 만든 오류를 걸러내지 못한 논문을 학술지가 공식 취소하는 조치입니다. 대표적으로 Physica Scripta, Elsevier, Frontiers, Springer Nature에서 RETRACTED 사례를 소개합니다.
이 글의 순서 10개 항목
이 글에서는 AI 논문 철회 사례를 중심으로 해외저널이 어떤 근거로 게재 논문을 취소하는지 살펴봅니다. Nature의 집계에 따르면 2023년 한 해에만 1만 편이 넘는 논문이 철회되었고, AI 사용 미공개는 새로운 철회 사유로 부상하였습니다. 실제 철회 공지문, 적발 방법, 출판사의 정책, 대학원생이 지켜야 할 원칙을 순서대로 다룹니다. 학위논문과 학술지 투고에서 AI를 안전하게 사용하는 기준을 확인하실 수 있습니다.
- Van Noorden, R. (2023). More than 10,000 research papers were retracted in 2023 — a new record. Nature, 624(7992), 479–481. https://doi.org/10.1038/d41586-023-03974-8
AI 논문 철회란 무엇이며 왜 급증하고 있는가?
AI 논문 철회는 생성형 AI 도구를 사용해서 논문 작성에 사용하였다는 사실을 숨겼거나 AI가 만든 오류를 걸러내지 못한 논문 등을 학술지가 공식적으로 취소하는 조치입니다. 철회(retraction)가 결정되면 철회가 된 논문이 게재된 해당 저널의 웹사이트에는 논문의 제목 앞에 ‘RETRACTED’라는 표기가 붙고, 철회 사유를 담은 공지문이 함께 게시됩니다. 철회된 논문은 저널이 운영하는 데이터베이스에서 삭제되지 않고 남아 있으므로, 저자의 이력에 영구적인 기록으로 남게 됩니다. 철회를 맞이한 연구자에게는 낙인(stigma)이 찍히게 되는 셈입니다.
AI 논문 철회가 늘어나는 배경에는 생성형 AI 사용의 급격한 확산이 있습니다. Kobak et al.(2025)은 PubMed에 등록된 약 1,500만 건 이상의 초록을 대상으로 어휘 빈도의 변화를 분석하였습니다. 이들의 연구 결과에 따르면, 2024년에 발표된 생의학(bio-medical) 영역에서 게재된 논문 초록 중의 최소 13.5%에서 대규모 언어모델(LLM)의 사용 흔적이 나타났습니다. 그리고 일부 유사한 연구 영역에서는 그 비율이 40%에 근접하는 것으로 조사되었습니다.
- Kobak, D., González-Márquez, R., Horvát, E.-Á., & Lause, J. (2025). Delving into LLM-assisted writing in biomedical publications through excess vocabulary. Science Advances, 11(27), eadt3813. https://doi.org/10.1126/sciadv.adt3813
AI의 사용 비율이 높아지면 미공개 사용의 적발 건수도 함께 증가합니다. 프랑스 툴루즈 대학교의 컴퓨터과학자 Guillaume Cabanac은 2023년 4월부터 ChatGPT가 생성하는 특유의 문구 및 문체가 등장하는 12편 이상의 논문을 찾아내어 PubPeer(논문 사후 검증 플랫폼)에 공개하였습니다. 그리고 Conroy(2023)는 Nature 기사에서 이 사례들을 소개하면서, 동료 심사(peer review)가 AI 흔적을 걸러내지 못하고 있다는 문제를 지적하였습니다.
Conroy, G. (2023). Scientific sleuths spot dishonest ChatGPT use in papers. Nature, 621, 25–26. https://doi.org/10.1038/d41586-023-02477-w
해외저널의 AI 논문 철회 사례에는 어떤 것이 있는가?
논문 게재 철회의 대표적인 사례는 Physica Scripta, Surfaces and Interfaces, Frontiers in Cell and Developmental Biology, Neurosurgical Review의 사례를 들 수 있습니다. 이들 사례는 각각 다른 출판사에서 발생하였고, 적발 단서와 철회 사유도 서로 다릅니다. 아래에서 각 사례를 철회 공지문의 내용과 함께 살펴봅니다.
사례 1. Physica Scripta(IOP Publishing, 2023): ‘Regenerate response’ 문구
2023년 8월 9일 IOP Publishing의 물리학 저널 Physica Scripta에 비선형 해밀토니안 진폭 방정식의 해를 다룬 논문이 게재되었습니다. Cabanac(2023)은 논문 3쪽에서 ‘Regenerate response’라는 문구를 발견하였습니다. 이 문구는 ChatGPT 화면의 버튼 이름으로, 저자가 답변을 복사하는 과정에서 함께 붙여 넣은 것이었습니다.
저자들은 원고 작성에 ChatGPT를 사용한 사실을 인정하였습니다. 문제는 투고 시점에 그 사실을 밝히지 않았다는 점입니다. 출판사는 미공개 사용이 윤리 정책 위반이라고 판단하여 논문을 철회하였고, 현재 해당 논문은 ‘Retracted:’라는 접두어가 붙은 제목으로 검색됩니다. 논문은 5월에 투고되어 두 달간의 동료 심사를 거쳤으나, 심사와 조판 과정 어디에서도 문구가 발견되지 않았습니다.
Tarla, S., Ali, K. K., & Yusuf, A. (2023). Retracted: Exploring new optical solutions for nonlinear Hamiltonian amplitude equation via two integration schemes. Physica Scripta, 98(9), 095218. https://doi.org/10.1088/1402-4896/aceb40
사례 2. Surfaces and Interfaces(Elsevier, 2024): 서론 첫 문장의 ChatGPT 답변
2024년 3월 Elsevier가 출판하는 재료과학 분야의 저널 Surfaces and Interfaces에 리튬 금속 전지 분리막에 관한 논문이 실렸습니다. 서론의 첫 문장은 ‘Certainly, here is a possible introduction for your topic’이었습니다. 이 문장은 ChatGPT가 요청에 답할 때 사용하는 전형적인 도입 문구입니다. 저자는 AI가 생성한 서론을 안내 문구까지 그대로 복사하였고, 심사자와 편집자는 이를 발견하지 못하였습니다.
이 논문은 2024년 5월 31일에 철회되었습니다. 철회 공지문은 저자들이 생성형 AI를 공개 없이 논문 작성 과정에 사용한 것으로 보이며, 이는 저널 정책 위반이라고 밝혔습니다. 조사 과정에서 같은 연구진의 이전 논문과 텍스트 및 이미지가 중복된 사실도 추가로 확인되었습니다. 한 문장이 단서가 되어 논문 전체가 정밀 조사의 대상이 된 사례입니다.
Zhang, M., Wu, L., Yang, T., Zhu, B., & Liu, Y. (2024). Retracted: The three-dimensional porous mesh structure of Cu-based metal-organic-framework – aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries. Surfaces and Interfaces, 46, 104081. https://doi.org/10.1016/j.surfin.2024.104081
사례 3. Frontiers in Cell and Developmental Biology(2024): Midjourney가 만든 그림
2024년 2월 13일 Frontiers in Cell and Developmental Biology에 정원줄기세포(spermatogonial stem cell)와 JAK/STAT 신호경로를 다루는 종설 논문(review article)이 게재되었습니다. 논문의 그림 세 장은 모두 이미지 생성 AI인 Midjourney로 제작되었습니다. 그림 1은 해부학적으로 불가능한 비율의 쥐를 묘사하였고, 라벨에는 ‘testtomcels’처럼 의미가 없는 문자열이 적혀 있었습니다.
이 사례의 특징은 저자들이 Midjourney 사용을 논문에 명시하였다는 점입니다. Frontiers의 정책은 공개를 전제로 생성형 AI 사용을 허용하지만, 산출물의 정확성을 저자가 확인하도록 요구합니다. 저널은 게재 3일 만에 논문을 철회하면서, AI 생성 그림의 성격에 대한 우려가 제기되었고 논문이 편집 및 과학적 엄격성 기준을 충족하지 못한다고 공지하였습니다. 공개만으로는 충분하지 않으며, 검증 책임이 저자에게 있음을 보여 주는 사례입니다.
Guo, X., Dong, L., & Hao, D. (2024). Retracted: Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway. Frontiers in Cell and Developmental Biology, 11, 1339390. https://doi.org/10.3389/fcell.2023.1339390
사례 4. Neurosurgical Review(Springer Nature, 2025): 129편 대량 철회
2025년 1월과 2월에 걸쳐 Springer Nature의 Neurosurgical Review는 편집자 서한(Editor’s letter)과 논평 129편을 한꺼번에 철회하였습니다. 철회 공지문은 해당 건들이 대규모 언어모델로 생성되었다는 의심스러운 징후가 있으며, 이를 공개하지 않은 것은 편집 정책을 위반한 것이라고 밝혔습니다. 철회된 논문의 상당수는 인도의 특정 대학에 소속한 연구자들이 작성한 것이었습니다.
이 저널은 AI 생성 원고가 쏟아지자 2024년 가을부터 서한과 논평의 접수를 중단하였습니다. 개별 논문의 실수가 아니라 저널의 심사 체계 전체가 흔들린 사례입니다. 대량 철회는 저자 개인의 경력뿐 아니라 소속 기관과 저널의 평판에도 장기적으로 회복이 불가능한 손상을 남깁니다.
해외저널은 ChatGPT 논문 작성의 흔적을 어떻게 적발하는가?
해외저널은 AI 특유의 상투적인 문구, 왜곡된 표현, 존재하지 않는 참고문헌, 그리고 어휘 빈도의 통계적인 변화 등을 근거로 ChatGPT가 작성한 논문을 적발합니다. 적발의 주체는 편집자만이 아닙니다. 독립적인 연구진실성 검증자들이 PubPeer에 의혹을 올리면 저널이 조사를 시작하는 경우를 흔히 볼 수 있습니다.
첫째, 지극히 상투적인 문구입니다. ‘Regenerate response’, ‘As an AI language model’, ‘Certainly, here is’와 같은 문구는 검색만으로도 찾을 수 있습니다. Cabanac et al.(2021)은 이 문구들을 자동으로 탐지하는 Problematic Paper Screener를 운영하고 있습니다. 다만 Conroy(2023)가 지적한 바와 같이 저자가 문구를 지우면 이 방법으로는 적발이 어렵습니다.
둘째, 왜곡된 표현(tortured phrases)입니다. Cabanac et al.(2021)은 표절 탐지를 회피하기 위해 동의어로 바꾼 문장에서 ‘artificial intelligence’가 ‘counterfeit consciousness’로 변형되는 현상을 보고하였습니다. 이 표현은 AI 도구로 문장을 다시 쓸 때 흔하게 발생합니다.
- Cabanac, G., Labbé, C., & Magazinov, A. (2021). Tortured phrases: A dubious writing style emerging in science. Evidence of critical issues affecting established journals. arXiv. https://doi.org/10.48550/arXiv.2107.06751
셋째, 존재하지 않는 참고문헌입니다. 언어모델은 그럴듯한 저자명과 제목을 조합하여 실재하지 않는 논문을 만들어 냅니다. Elali & Rachid(2023)는 ChatGPT에 지시하여 허구의 데이터와 참고문헌을 갖춘 논문을 생성하는 실험을 수행하였습니다. Elali & Rachid(2023)는 이렇게 만든 논문이 형식적으로는 완성도가 높아 심사자가 구별하기 어렵다고 경고하였습니다. 참고문헌의 DOI를 하나씩 확인하는 작업은 이 위험을 막는 가장 확실한 방법이기도 합니다.
- Elali, F. R., & Rachid, L. N. (2023). AI-generated research paper fabrication and plagiarism in the scientific community. Patterns, 4(3), 100706. https://doi.org/10.1016/j.patter.2023.100706
넷째, 어휘 빈도의 통계적인 변화입니다. Kobak et al.(2025)은 ‘delves’, ‘showcasing’, ‘underscores’와 같은 단어의 사용 빈도가 2024년에 급격하게 증가하였다고 주장하였습니다. 구체적으로 어떤 논문인지를 특정하지는 않았지만 저널 단위의 AI 사용 규모를 추정하는 근거로서 충분하게 의심할 만 합니다.
한편, AI 탐지 도구와 인간의 판단은 모두 한계가 있습니다. Gao et al.(2023)은 ChatGPT가 생성한 초록과 인간 연구자가 작성한 초록을 심사자에게 구별하게 하였습니다. 심사자는 생성된 초록의 68%만을 정확히 가려냈고, 실제 초록의 14%를 AI 작성물로 오판하였습니다. 따라서 저널은 탐지 도구의 판정보다는 상투적인 문구, 허위 참고문헌, 이미지 오류와 같은 구체적 증거를 철회 근거로 삼습니다.
- Gao, C. A., Howard, F. M., Markov, N. S., Dyer, E. C., Ramesh, S., Luo, Y., & Pearson, A. T. (2023). Comparing scientific abstracts generated by ChatGPT to real abstracts with detectors and blinded human reviewers. npj Digital Medicine, 6, 75. https://doi.org/10.1038/s41746-023-00819-6
어떠한 형태의 AI 사용이 연구윤리 위반에 해당하는가?
핵심적인 기준은 공개(disclosure)와 책임(accountability)이며, 미공개 사용, AI의 저자 등재, 검증 없는 AI 산출물의 게재가 연구윤리 위반에 해당합니다. 대부분의 해외저널이 운영하는 AI 사용에 관한 정책은 AI 사용 자체를 금지하지는 않습니다. 다만, AI 사용 사실을 밝히고, 결과에 대한 책임을 인간 연주가가 부담하는 조건에서 허용합니다.
Nature는 2023년 1월의 사설을 통해 두 가지 원칙을 발표하였습니다. 첫째, 언어모델은 저자로 인정하지 않는데, 이는 저자는 연구에 책임을 져야 하는데, AI는 책임을 질 수 없기 때문입니다. 둘째, 언어모델을 사용한 연구자는 그 사실을 방법 또는 감사의 글에 기록해야 합니다.
- Nature. (2023). Tools such as ChatGPT threaten transparent science; here are our ground rules for their use. Nature, 613(7945), 612. https://doi.org/10.1038/d41586-023-00191-1
Science의 편집장인 Thorp(2023)는 더욱 엄격한 입장을 취하였습니다. Thorp(2023)는 편집자의 명시적인 허가가 없이는 AI가 생성한 텍스트, 그림, 이미지를 논문에 사용하는 행위를 과학적 부정행위로 규정하였습니다. Science 계열 저널의 정책은 이후 일부 완화되었으나, AI 사용의 공개 의무는 유지되고 있습니다.
- Thorp, H. H. (2023). ChatGPT is fun, but not an author. Science, 379(6630), 313. https://doi.org/10.1126/science.adg7879
출판윤리위원회(COPE)도 2023년 입장문에서 같은 기준을 제시하였습니다. AI 도구는 저자 요건을 충족할 수 없으며, 저자는 AI 사용 방식을 논문에 투명하게 밝히고 AI가 생성한 내용의 정확성에 대해 전적으로 책임져야 합니다.
대학원생은 AI 논문 철회를 어떻게 예방할 수 있나?
투고를 목표로 하는 타겟 학술지가 내세우는 AI 사용에 관한 정책을 먼저 확인하고, 연구자가 AI를 활용한 히스토리를 모두 기록하며, 모든 AI에 의한 결과물을 인간이 검증해야 하는 세 가지 원칙으로 예방할 수 있습니다. 앞서 살펴본 논문 게재의 철회 사례는 모두 이 원칙 중에서 하나 이상을 지키지 않아 발생하였습니다. 연구 현장에서 적용할 수 있는 절차는 다음과 같습니다.
- 투고 전에 저널 혹은 학회지의 웹사이트가 공지하는 저자 안내(Author Guidelines)에서 AI 정책을 확인하고, 허용 범위와 공개 방식을 숙지합니다.
- AI를 사용한 작업(문장 교정, 번역, 요약 등)과 사용 도구, 날짜를 연구 노트에 기록합니다.
- AI가 생성한 모든 참고문헌은 DOI 또는 원문 링크로 실재 여부를 확인한 뒤에만 인용합니다.
- AI가 생성한 그림과 표, 수식은 등은 원시 데이터와 대조하여 그 정확성을 확인하고, 확인할 수 없는 결과물은 사용하지 않고 그대로 폐기합니다.
- 논문 챕터 중의 하나인 ‘연구의 방법’ 또는 감사의 글(acknowledgement)에 연구자가 AI를 사용했다는 사실을 정책에 맞는 형식으로 기재합니다.
결론
AI 논문 철회 사례는 세 가지 공통점을 보여주고 있습니다. 첫째, 적발의 단서는 대부분 저자의 사소한 부주의에서 찾을 수 있었습니다. 둘째, 저널은 AI 사용 자체가 아니라 미공개와 검증 부재를 문제로 삼고 있습니다. 셋째, 철회는 논문 한 편의 취소로 끝나지 않고 저자와 기관의 평판에 매우 부정적인 영향을 끼칩니다.
앞으로 저널이나 학회지들은 논문의 투고 단계에서 AI 사용 여부를 확인하는 절차를 강화할 것으로 예상됩니다. 탐지 기술과 회피 기술이 발전하는 상황에서 저자 스스로의 공개와 검증이 가장 확실한 방어 수단입니다. 학위논문과 학술지 투고를 준비하는 대학원생은 투고 전에 저널이 공지하는 AI 정책을 반드시 확인하고, AI 사용 내역을 기록하며, 모든 AI 산출물을 원 자료와 대조하는 습관을 갖추는 것이 필요합니다.
