GPT 킬러의 신뢰성은 검증되지 않았습니다. 1776년에 만들어진 미국 독립선언문이 AI로 작성되었을 확률이 97.93%인 것으로 나타났고, GPT가 등장하기 이전인 2013년에 발표된 논문이 50% 이상으로 판정되는 오탐이 확인되었습니다. 탐지기 결과만으로 AI 작성 여부를 판단할 수 없습니다.
이 글의 순서 7개 항목
이 글에서는 GPT 킬러의 신뢰성 문제를 다룹니다. 이를 위해서 실험연구의 결과를 소개해 드립니다. 독일 HTW 베를린의 Weber-Wulff와 동료들이 AI 탐지 도구 14종을 검증한 결과, 정확도가 80%를 넘는 도구는 단 하나도 없었습니다. 미국의 독립선언문, 그리고 프라임 대표의 2013년도 해외저널이 AI 작성물로 판정된 사례, 오탐이 발생하는 원리, AI 작성 논문 검사에 GPT 킬러를 사용할 때 생기는 문제, 그리고 연구자의 대응 방법을 순서대로 다룹니다. GPT 킬러의 결과를 어떻게 받아들여야 하는지에 관한 기준을 확인하는 데 도움이 될 것입니다.
GPT 킬러의 신뢰성 논쟁은 왜 일어났는가?
GPT 킬러에 관한 신뢰성 논쟁은 탐지 도구의 판정 결과가 실제 작성의 주체와 어긋나는 사례가 반복적으로 확인되면서 시작되었습니다. 이 글에서 GPT 킬러란 국내의 GPT킬러(무하유)를 비롯하여 GPTZero, ZeroGPT, Turnitin AI 탐지 기능처럼 누군가가 작성한 문서가 AI로 작성되었을 확률을 수치로 제시하는 도구 전반을 가리킵니다. 국내의 여러 대학과 연구기관이 과제물과 논문 검사에 이 도구들을 도입하여 활용하고 있습니다.
도구 제공사들은 저마다 높은 정확도를 내세웁니다. 국내 서비스는 자체 시험에서 98% 수준의 탐지 정확도를 기록하였다고 밝히고 있으며, 사용자 안내서에서는 문서 유형에 따라 정확도에 차이가 있다고 함께 설명하고 있습니다. 그런데 문제는 제공사가 통제한 시험 환경과 실제 사용 환경이 서로 다르다는 점입니다. 독립적인 연구자들이 동일한 도구를 검증하면 결과가 크게 달라집니다.
Weber-Wulff et al.(2023)은 2023년도에 유럽 8개국 연구진과 함께 Turnitin, GPTZero를 포함하는 AI 탐지 도구 14종을 검증하였습니다. 연구자들은 모든 도구의 정확도가 80% 미만이었고, 70%를 넘긴 도구는 5종에 불과하였다고 보고하였습니다. 도구들은 인간이 쓴 글을 AI 작성물로 판정하는 오탐(false positive)과 AI 작성물을 인간의 글로 판정하는 미탐(false negative)을 모두 보였습니다. 그리고 AI 작성물의 약 20%가 사람의 글로 잘못 분류될 것으로 추정하였습니다.
- Weber-Wulff, D., Anohina-Naumeca, A., Bjelobaba, S., Foltýnek, T., Guerrero-Dib, J., Popoola, O., Šigut, P., & Waddington, L. (2023). Testing of detection tools for AI-generated text. International Journal for Educational Integrity, 19, 26. https://doi.org/10.1007/s40979-023-00146-z
1766년에 만들어진 미국 독립선언문은 왜 AI 작성물로 판정되었는가?
1776년에 작성된 미국 독립선언문은 여러 AI 탐지기에서 AI 작성물이라고 판정받았습니다. 2024년 10월 미국의 기술 매체인 Decrypt가 탐지기 네 종을 비교한 실험에서 ZeroGPT는 독립선언문 발췌문의 AI 작성 확률을 97.93%로 판정하였습니다. 같은 실험에서 GPTZero는 인간 작성의 확률을 89%로, 그리고 Grammarly와 QuillBot은 인간 작성 확률을 100%로 판정하였습니다. 같은 문서를 두고 도구마다 판정이 정반대로 갈린 것입니다.
이 실험은 데이터 과학자인 Christopher Penn이 같은 달에 독립선언문의 탐지 결과를 공개하면서 큰 반향을 일으켰습니다. 앞서 2023년에는 기술 매체 Ars Technica가 1787년의 미국 헌법을 GPTZero에 입력하여 일부가 AI 작성물로 판정되는 결과를 보도한 바 있습니다. 그리고 2025년에는 1836년의 텍사스 독립선언문이 ZeroGPT에서 약 87%의 AI 작성 확률을 받았다는 보도가 이어졌습니다. GPTZero 독립선언문의 사례는 탐지기의 한계를 보여 주는 대표적인 예시로 자리 잡았습니다.
판정이 어긋나는 원리는 탐지기의 작동 방식에 있습니다. 대부분의 탐지기는 문서의 각 단어가 언어모델이 예측하기 쉬운 단어인지를 계산합니다. 이 지표를 퍼플렉시티(perplexity, 언어모델이 다음 단어를 얼마나 예측하기 어려운지를 나타내는 수치)라고 부릅니다. 예측하기 쉬운 단어가 많으면 AI 작성물로 의심합니다. 그런데 독립선언문과 헌법은 언어모델의 학습 데이터에 수없이 포함된 문서입니다. 모델이 다음 단어를 정확히 예측할 수 있으므로, 탐지기는 사람이 쓴 역사 문서를 AI 작성물로 판정하게 됩니다. GPTZero의 창업자인 Edward Tian도 헌법이 학습 데이터에 많이 포함되어 있어 언어 패턴이 겹친다고 이 현상을 설명하였습니다.
GPT 등장 이전에 발표된 논문도 AI 탐지기 오탐의 대상이 되는가?
GPT 등장 이전에 발표된 학술 논문도 AI 탐지기 오탐의 대상이 됩니다. 프라임 컨설팅 대표는 2013년도에 Elsevier의 국제학술지 Computers & Education에 게재한 자신의 논문 ‘User acceptance of YouTube for procedural learning: An extension of the Technology Acceptance Model’을 GPT킬러에 직접 입력하여 검사하였습니다. 이 논문은 ChatGPT가 공개되기 약 10년 전에 이미 출판되었고, 인용 횟수가 Google Scholar 2026년 8월을 기준으로 906회에 달하는 문헌입니다. GPT killer로 검사한 결과, 아쉽게도(?) AI 작성 의심 비율은 50%를 넘는 것으로 나타났습니다.
- Lee, D. Y., & Lehto, M. R. (2013). User acceptance of YouTube for procedural learning: An extension of the Technology Acceptance Model. Computers & Education, 61, 193–208. https://doi.org/10.1016/j.compedu.2012.10.001
이 결과는 논문의 절반이 AI로 작성되었다는 뜻이 아닙니다. 2013년에는 논문을 대신 써 줄 생성형 AI가 존재하지 않았습니다. 이 결과가 뜻하는 것은 탐지기가 학술 논문 특유의 문체를 AI 작성물의 특징으로 오인한다는 사실입니다. 학술 논문은 정형화된 구조, 반복되는 전문 용어, 그리고 표준화된 방법론적인 서술을 즐겨서 사용합니다. 기술수용모형(TAM)을 다루는 논문이라면 ‘지각된 유용성’, ‘지각된 사용 용이성’, ‘행동 의도’와 같은 표현이 정해진 순서로 반복될 수밖에 없습니다. 이 규칙성이 퍼플렉시티를 낮추고, 탐지기는 이를 AI의 흔적으로 판정합니다.
비원어민 국가에 거주하는 연구자가 작성하는 영문 논문은 탐지기에 특히 취약합니다. 스탠퍼드 대학교의 Liang et al.(2023)은 세계적으로 널리 사용되는 탐지기 7종에 미국 학생의 영어 에세이와 비원어민의 TOEFL 에세이를 입력하였습니다. 그 결과, 탐지기가 미국 학생의 글은 거의 정확하게 분류하였으나, 비원어민의 TOEFL 에세이는 평균 61.3%를 AI 작성물로 잘못 판정하였다고 보고하였습니다. 비원어민의 글은 어휘와 구문의 변화가 적어 언어모델이 예측하기 쉽기 때문입니다. 우리나라 연구자가 영어로 쓴 논문은 바로 이 조건에 그대로 해당합니다.
- Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779. https://doi.org/10.1016/j.patter.2023.100779
AI 논문 판별 한계는 왜 원리적으로 해소되지 않습니까?
AI로 논문을 썼는지의 여부를 판별하는 과정에서 드러나는 한계는 탐지기의 성능 부족이 아니라 판별 과제 자체의 성격에서 비롯되며, 도구를 개선하여도 해소되지 않습니다. 탐지기는 ‘인간이 쓴 글’과 ‘AI가 쓴 글’의 확률 분포(probablistic distribution)가 다르다는 전제 위에서 작동합니다. 그런데 언어모델은 인간의 글을 학습하여 인간의 글과 같은 확률 분포를 만들어 내도록 설계되었습니다. 모델이 발전할수록 두 분포(인간 vs. AI)는 가까워지고, 탐지기가 주장할 수 있는 근거는 사라지게 됩니다.
메릴랜드 대학교의 Sadasivan et al.(2023)은 이 문제를 이론적으로 다루었습니다. 연구자들은 AI 작성물을 다른 언어모델로 한 번 바꾸어 쓰는 것만으로도 탐지기의 성능이 크게 떨어지며, 인간의 글에 가까워질수록 어떤 탐지기도 무작위 판정보다 나은 성능을 보장할 수 없다고 주장하였습니다. 워터마크(watermark, 생성 문장에 숨겨 넣는 식별 표지)를 적용한 경우에도 바꾸어 쓰기 공격은 유효하였습니다.
- Sadasivan, V. S., Kumar, A., Balasubramanian, S., Wang, W., & Feizi, S. (2023). Can AI-generated text be reliably detected? arXiv. https://doi.org/10.48550/arXiv.2303.11156
관련하는 실증 연구의 결과도 동일한 결론을 보여 줍니다. Perkins et al.(2024)은 GPT-4, Claude, Bard로 생성한 문장에 동의어 교체, 철자 오류 삽입 등의 여섯 가지 단순 변형을 적용한 뒤 탐지기 7종에 입력하였습니다. 그 결과, 단순한 변형만으로도 탐지 정확도가 17.4% 감소하였고, 인간이 쓴 표본의 15%가 AI 작성물로 잘못 판정되었다고 보고하였습니다. 불과 몇 초에 적용할 수 있는 기법이 탐지기를 무력화하는 동시에, 정직한 연구자를 위험에 빠뜨리는 것입니다.
- Perkins, M., Roe, J., Vu, B. H., Postma, D., Hickerson, D., McGaughran, J., & Khuat, H. Q. (2024). Simple techniques to bypass GenAI text detectors: Implications for inclusive education. International Journal of Educational Technology in Higher Education, 21, 53. https://doi.org/10.1186/s41239-024-00487-w
이 한계는 도구를 만든 당사자들도 인정하였습니다. ChatGPT를 개발한 OpenAI는 2023년 1월 자체 AI 텍스트 분류기를 공개하였으나, 같은 해 7월 낮은 정확도를 이유로 서비스를 중단하였습니다. 공개 당시 OpenAI가 밝힌 성능은 AI 작성물의 26%만을 정확히 식별하고, 사람의 글 9%를 AI 작성물로 잘못 판정하는 수준이었습니다. 미국 밴더빌트 대학교는 2023년 8월 오탐 위험을 이유로 Turnitin의 AI 탐지 기능을 비활성화하였습니다.
AI로 작성한 논문을 GPT 킬러로 검사하면 무엇이 문제인가?
AI로 작성한 논문을 GPT 킬러로 검사하는 것은 정직한 연구자에게는 억울한 의심을, 그리고 AI로 논문을 만든 사람에게는 근거 없는 안도감을 주는 양방향의 문제를 일으킵니다. 첫 번째 문제는 심사하는 쪽에서 발생합니다. 탐지기의 수치를 증거로 삼아 학생이나 연구자에게 불이익을 제공한다면, 독립선언문과 프라임 대표의 2013년 논문의 사례에서 보듯 무고한 사람이 억울한 일을 당할 수 있습니다. 탐지기는 어떤 문장이 왜 AI 작성물인지 설명하지 못하기 때문에, 당사자는 반박할 기회조차 갖기 어렵습니다.
두 번째 문제는 검사받는 쪽에서 발생합니다. AI로 작성한 논문을 탐지기에 넣어 ‘통과’ 여부를 확인하고 안심하는 행위는 전혀 근거가 없습니다. Weber-Wulff et al.(2023)의 추정대로 AI 작성물의 20%는 인간의 글로 분류되며, 바꾸어 쓰기를 거치면 이 비율은 더 높아집니다. 탐지기를 통과하였다는 사실은 논문에 문제가 없다는 뜻이 아니라, 탐지기가 문제를 찾지 못하였다는 뜻일 뿐입니다.
실제로 AI로 작성한 논문이 적발되는 경로는 탐지기가 아닙니다. 앞서 소개한 국제학술지의 철회 사례들은 모두 남아 있는 챗봇 문구, 존재하지 않는 참고문헌, 해부학적으로는 표현이 가능하지 않은 그림처럼 내용상의 증거로 적발되었습니다. 탐지기 결과가 이상이 없다고 판정을 받아 안심한 저자는 정작 심사위원과 독자가 확인하는 참고문헌의 실재 여부와 데이터의 재현 가능성을 점검하지 않게 됩니다. 탐지기는 위험을 줄이는 도구가 아니라 위험을 가리는 도구가 되는 셈입니다.
세 번째 문제는 판단의 위임입니다. Wang et al.(2023)은 Patterns에 발표한 논문에서 AI 작성물 탐지를 기술로 해결하려는 접근 자체가 불충분하다고 지적하였습니다. 그리고 탐지기가 학술논문의 출판과 교육에서 신뢰할 수 있는 판단 근거가 될 수 없으며, 연구 과정의 투명성과 인간의 판단을 대체할 수 없다고 결론지었습니다. 이 결론은 앞서 다룬 심사위원의 AI 심사 문제와도 같은 구조입니다.
- Wang, W., Wang, G., Marivate, V., & Hufton, A. L. (2023). Why technical solutions for detecting AI-generated content in research and education are insufficient. Patterns, 4(7), 100796. https://doi.org/10.1016/j.patter.2023.100796
연구자는 GPT 킬러의 판정 결과에 어떻게 대응해야 하는가?
연구자는 탐지기의 수치가 아니라 연구 과정의 기록으로 자신의 노력과 저작을 증명해야 하며, 기관은 탐지기 결과를 단독적인 증거로는 사용하지 않아야 합니다. 탐지기 결과는 확률적인 추정치이므로, 이를 뒤집을 수 있는 것은 더 높은 수치가 아니라 과정의 증거입니다. 프라임 컨설팅은 아래의 절차를 추천해 드립니다.
- 논문 드래프트의 초안과 수정본, 분석 파일 등을 날짜와 함께 보관합니다. 문서 편집기의 버전 기록 기능을 활성화하면 작성 과정이 자동으로 남습니다. 이 기능을 반드시 사용하시기 바랍니다.
- 설문조사의 원시자료와 분석 코드, 통계분석 결과의 출력물, 연구 노트를 원고와 함께 정리합니다. AI는 이 자료를 만들어 낼 수 없으므로 가장 강력한 증거가 됩니다.
- AI를 문장 교정이나 번역에 사용하였다면 그 범위와 도구를 논문에 명시합니다.
- AI로 작성되었다는 의심을 받으면 GPT 킬러가 나타내는 유사도 수준을 반박하지 말고, 철저하게 자료를 제출하여 대응합니다. 이때 탐지기의 한계를 다루는 학술 문헌과 연구의 결과를 함께 제시하면 더욱 설득력이 높아집니다.
- 지도교수나 기관이 탐지기 결과만으로 판정하려고 한다면, 추가적인 증거 확인 절차를 정중하게 요청합니다. 여러 대학이 탐지기 결과의 단독 사용을 이미 제한하고 있습니다.
논문을 AI로 작성하고 탐지기로 확인하는 방식은 어느 쪽으로도 안전하지 않습니다. 탐지기를 통과하여도 내용의 오류로 적발되고, 탐지기에 걸리면 대부분의 경우에는 자료를 가지고 있지 않기 때문에 해명할 수 없습니다. 반대로 연구를 직접 수행하고 과정을 기록한 연구자는 탐지기가 어떤 수치를 내놓아도 자신의 노력을 증명할 수 있습니다.
결론
GPT 킬러의 신뢰성에 관한 논쟁의 핵심은 세 가지로 요약됩니다. 첫째, 독립선언문과 2013년 프라임 대표의 논문 사례처럼 탐지기는 인간이 쓴 글을 AI 작성물로 판정하는 오탐을 일으킵니다. 둘째, 이 오탐은 도구의 결함이 아니라 판별의 한계에서 비롯되기 때문에 프로그램의 리뉴얼으로는 해소되지 않습니다. 셋째, 탐지기의 판정 결과에 통과하였다고 해서 AI로 작성한 논문이 안전하다는 것을 보장하지 않습니다.
앞으로 학교와 관련 기관들은 탐지기 결과의 단독 적인사용을 제한하고 증거를 중심으로 판단하는 방향으로 이동할 것으로 보입니다. 연구자에게 필요한 것은 탐지기를 피하는 기술이 아니라 자신의 연구를 증명할 수 있는 기록입니다. 논문을 준비하는 대학원생은 오늘부터 초안과 분석 자료를 날짜와 함께 보관하는 습관을 시작하시기 바랍니다.
