‘delve’의 습격: AI가 바꿔 놓은 학술 언어의 풍경
'delve의 습격'은 ChatGPT가 선호하는 특정한 단어들이 2023년 이후에 게재된 학술 논문에 급격히 늘어난 현상입니다. PubMed에 게재된 논문의 초록을 분석한 결과, 2024년도에 출판된 논문 중에서 최소…
‘delve’의 습격: AI가 바꿔 놓은 학술 언어의 풍경
'delve의 습격'은 ChatGPT가 선호하는 특정한 단어들이 2023년 이후에 게재된 학술 논문에 급격히 늘어난 현상입니다. PubMed에 게재된 논문의 초록을 분석한 결과, 2024년도에 출판된 논문 중에서 최소…
모델붕괴와 지식의 근친교배: AI가 쓴 논문으로 AI를 학습시키면 무슨 일이 일어나는가?
지식의 근친교배는 AI가 쓴 논문이 다음 세대 AI의 학습 데이터 재료가 되는 순환 속에서 지식의 다양성이 세대마다 줄어드는 현상을 의미합니다. Nature에 발표된 연구는 AI 생성…
지도교수의 ChatGPT 의존: 학생의 연구지도를 AI에게 맡긴 교수는 무엇을 무너뜨리고 있는가?
최근에 많은 지도교수들이 ChatGPT에 의존해서 학생의 논문을 읽고 판단하는 지도의 핵심 업무를 AI에 맡기고 있습니다. 지도교수의 연구지도 수준이 박사과정의 만족도를 좌우하는 가장 강력한 변수라는 최근의…
비판적 사고의 외주화(outsourcing): AI를 신뢰할수록 연구자는 생각을 멈춘다
비판적 사고의 외주화란 정보의 평가와 판단을 AI에 맡기는 현상을 뜻합니다. 지식노동자 319명을 대상으로 수행한 연구의 결과에서 AI에 대한 신뢰가 높을수록 비판적 사고의 수행이 줄고 자기…
메타인지 게으름(Metacognitive Laziness): AI가 만든 새로운 학습 장애
메타인지 게으름이란 학습자가 자신의 학습을 계획하고 점검하고 평가하는 일을 AI에 맡겨 버리는 현상입니다. 무작위 실험에서 ChatGPT 집단은 과제 점수는 가장 크게 올랐지만 지식 습득과 전이는…
AI의 아첨(Sycophancy): 내 가설에 동의만 하는 조수가 위험한 이유
AI 아첨이란 언어모델이 사실보다 사용자의 견해에 맞추어 동조하는 경향을 뜻합니다. 2026년 Science 연구 결과에서는 11개의 AI 모델은 사람보다 49% 더 자주 사용자의 행동을 지지하였고, 그…
도제식 지도의 붕괴: 지도교수 대신 ChatGPT에게 묻는 대학원생은 무엇을 잃는가?
도제식 지도의 붕괴란 대학원생이 지도교수와의 대화 대신에 ChatGPT에 질문하면서 논문에 적히지 않는 암묵지의 전수가 끊기는 현상을 뜻합니다. 한편, 약 4만 명의 과학자를 분석한 PNAS 연구는…
인지 부채(Cognitive Debt): ChatGPT로 쓴 논문은 왜 연구자의 머릿속에 남지 않는가?
인지 부채란 AI에 사고를 맡겨 당장의 노력을 아끼는 대신, 기억과 사고력의 장기적인 손실을 떠안는 현상입니다. MIT 뇌파 연구에서 ChatGPT로 글을 쓴 참가자의 83%가 자신이 방금…
GPT 킬러의 신뢰성 논쟁: 독립선언문을 AI 작성물로 판정하는 탐지기를 믿을 수 있는가?
GPT 킬러의 신뢰성은 검증되지 않았습니다. 1776년에 만들어진 미국 독립선언문이 AI로 작성되었을 확률이 97.93%인 것으로 나타났고, GPT가 등장하기 이전인 2013년에 발표된 논문이 50% 이상으로 판정되는 오탐이…
AI 논문 심사의 폐단: 논문을 읽지도 않은 심사위원의 의견은 왜 위험한가?
AI 도구를 사용해서 논문을 심사하는 폐단이 증가하고 있습니다. 심사위원이 원고를 직접 읽지 않고 AI가 만든 심사의견을 제출하면서, 연구자가 수행한 분석을 하지 않았다고 지적하는 등 사실과…
AI 논문 철회 사례: 해외저널은 왜 게재를 취소하였는가?
AI 논문 철회란 생성형 AI의 사용 사실을 밝히지 않았거나 AI가 만든 오류를 걸러내지 못한 논문을 학술지가 공식 취소하는 조치입니다. 대표적으로 Physica Scripta, Elsevier, Frontiers, Springer…
인공지능(AI) 도구로 논문을 작성하면 위험한 이유: 학술적인 근거
AI로 논문을 작성한다면 참고문헌 조작과 연구 역량 저하, 그리고 연구자의 책임 위반이라는 세 가지 위험을 수반합니다. 그리고 학위논문 심사와 학술지 투고 과정에서 매우 심각한 불이익으로…