비판적 사고의 외주화란 정보의 평가와 판단을 AI에 맡기는 현상을 뜻합니다. 지식노동자 319명을 대상으로 수행한 연구의 결과에서 AI에 대한 신뢰가 높을수록 비판적 사고의 수행이 줄고 자기 능력에 대한 확신이 높을수록 비판적 사고가 증가하는 정반대의 관계가 확인되었습니다.
이 글의 순서 6개 항목
비판적 사고의 외주화(outsourcing)가 연구자의 판단력을 어떻게 잠식하는지를 최근의 연구와 함께 자동화(automation) 심리학의 고전 이론을 프레임워크로 삼아 분석합니다. Microsoft Research와 카네기멜런 대학교 연구진은 2025년 지식노동자 319명이 제출한 936건의 AI 사용 사례를 분석하였는데, AI를 신뢰할수록 비판적 사고를 덜 수행한다는 결과를 발표하였습니다. 외주화의 정의와 신뢰-사고의 반비례 관계, 자동화 편향의 원리, 연구 과정에서의 양상, 그리고 판단력을 지키는 원칙을 순서대로 다룹니다. AI가 내놓는 답을 따져 보는 능력마저 AI에 맡기고 있지 않은지를 체크하실 수 있습니다.
비판적 사고의 외주화란 무엇인가?
비판적 사고의 외주화란 정보의 타당성을 평가하고 결론을 판단하는 인지 활동을 AI 도구에 위임하는 현상을 뜻합니다. 비판적 사고는 주어진 정보를 그대로 받아들이지 않고 근거를 따지고, 대안을 마련하고 서로 비교하며, 결론에서의 한계점을 인식하는 사고입니다. 그 유명한 교육철학자인 Dewey(1910)는 이를 어떤 믿음을 그 근거와 귀결에 비추어 능동적이고 끈질기게 따져 보는 사고로 정의하였습니다. 연구자에게 이 사고는 선택의 사항이 아니라 직업적인 정의 그 자체입니다.
- Dewey, J. (1910). How we think. D. C. Heath & Co.
비판적 사고의 외주화는 인지 오프로딩(cognitive offloading)의 가장 심각한 형태입니다. 앞서 다룬 인지 부채와 메타인지 게으름이 기억과 학습 관리의 위임이라면, 비판적 사고의 외주화는 판단 자체의 위임입니다. 전화번호를 스마트폰에 맡기는 것과 논문의 결론이 타당한지를 AI에 맡기는 것은 같은 오프로딩이지만 결과는 다릅니다. 전자는 기억의 부담을 덜고, 후자는 연구자의 존재 이유를 지워버립니다.
외주화를 작동시키는 핵심 변수는 신뢰입니다. 도구를 신뢰할수록 그 결과물을 따져 볼 필요를 느끼지 않게 되고, 따져 보지 않을수록 따져 보는 능력이 약해집니다. 이 순환이 한 바퀴 돌 때마다 신뢰는 커지고 판단력은 줄어듭니다. 아래에서 살펴볼 연구들은 이 순환을 뒷받침하는 근거입니다.
AI 신뢰는 비판적 사고를 어떻게 줄이는가?
AI 신뢰와 비판적 사고의 관계는 반비례하며, 자기 능력에 대한 확신과 비판적 사고의 관계는 정비례합니다. Microsoft Research의 Lee et al.(2025)은 생성형 AI를 업무에 사용하는 지식노동자 319명을 조사하였습니다. 참가자들은 AI를 사용한 업무 사례 936건을 연구진에 제출하고, 각 사례에서 비판적 사고를 얼마나 실행하였는지, 얼마나 노력이 들었는지를 응답하였습니다.
Lee et al.(2025)은 두 가지 확신이 정반대 방향으로 작용한다고 주장하였습니다. 생성형 AI에 대한 확신이 높을수록 비판적 사고의 실행은 줄었고, 과제에 대한 자기 확신이 높을수록 비판적 사고는 늘었습니다. 연구진은 또한 AI가 비판적 사고의 성격을 바꾼다는 점을 발견하였습니다. 참가자들은 정보를 직접 수집하고 분석하는 대신 AI가 내놓는 답을 검증하고 과제를 관리하는 쪽으로 사고를 옮겼습니다. 실행자에서 감독자로 역할이 바뀐 것입니다. 이 연구는 자기평가식(self-rated) 설문조사를 기반으로 하였으며 인과관계(causality)가 아닌 상관관계(correlation)의 결과를 나타내고 있습니다.
- Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (CHI ’25), Article 1121. https://doi.org/10.1145/3706598.3713778
감독자로의 전환은 언뜻 진보(progress)처럼 보이지만 여기에는 함정이 있습니다. AI가 제공하는 답이 맞는지를 검증하기 위해서는 그 답을 스스로 얻을 수 있는 능력이 있어야 합니다. 통계 결과의 해석이 맞는지를 판단하기 위해서는 통계분석을 알아야 하고, 선행연구 요약이 정확한지 판단하려면 선행연구를 직접 읽어야 합니다. 실행 능력을 외주화한 사람은 감독 능력도 함께 잃습니다. 감독할 능력이 없는 감독자는 결국 승인만 하는 사람이 됩니다.
스위스 SBS 경영대학원의 Gerlich(2025)는 다양한 연령과 학력을 가지는 666명의 참가자를 대상으로 설문조사와 심층 인터뷰를 수행하였습니다. 연구자는 AI 도구 사용의 빈도와 비판적 사고 능력 사이에 유의한 부(-)의 상관관계가 존재하며, 이 관계를 인지 오프로딩이 매개한다고 주장하였습니다. 상대적으로 연령이 젊은 참가자일수록 AI 의존도가 높고 비판적 사고 점수가 낮았으며, 학력이 높을수록 AI의 사용 빈도와는 무관하게 비판적 사고의 수준이 높았습니다.
- Gerlich, M. (2025). AI tools in society: Impacts on cognitive offloading and the future of critical thinking. Societies, 15(1), 6. https://doi.org/10.3390/soc15010006
자동화 편향은 왜 연구자에게 특히 위험한가?
자동화 편향(automation bias)은 자동화된 시스템의 출력을 과도하게 신뢰하여 모순되는 증거를 무시하거나 검증을 생략하는 경향을 뜻합니다. 특히 생성형 AI가 런칭이 된 이전부터 항공 및 의료 영역에서 주목을 받아 온 편향의 형태이기도 합니다. Parasuraman & Manzey(2010)는 방대한 선행연구를 고찰하여 자동화 편향이 두 가지 오류를 낳는다고 주장하였습니다. 첫 번째 오류는 시스템이 경고하지 않은 문제를 놓치는 누락 오류이고, 두 번째 오류는 시스템의 잘못된 제안을 그대로 따르는 실행 오류입니다. 시스템의 신뢰성이 높다고 인식할 수록 누락 오류와 실행 오류의 수준은 모두 증가합니다.
- Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation: An attentional integration. Human Factors, 52(3), 381–410. https://doi.org/10.1177/0018720810376055
자동화 편향에 관한 역설은 이미 1983년에 예견되었습니다. Bainbridge(1983)는 자동화가 이루어지는 과정에서 인간이 수행해야 하는 역할 중의 하나는 감시(monitoring)인데, 감시는 자동화가 잘 작동할수록 인간 감시자가 지루함을 느껴 유지하기 어렵고, 드물지만 자동화가 실패하는 순간에 개입해야 하는 기술은 평소에는 쓰지 않기 때문에 퇴화한다고 지적하였습니다. AI에게 외주를 주는 연구자의 상황이 정확히 이에 해당합니다. AI는 대부분 그럴듯한 답을 내놓기 때문에, 연구자는 검증을 게을리하게 되고, 정작 AI가 틀린 순간에 이를 알아차릴 능력은 이미 사라져 있습니다.
- Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. https://doi.org/10.1016/0005-1098(83)90046-8
인과관계를 보여 주는 실험 연구의 사례도 관찰되고 있는데, 예를 들어서 펜실베이니아 대학교 와튼 스쿨의 Bastani et al.(2025)는 터키의 한 고등학교에서 약 1,000명의 학생을 대상으로 무작위 실험을 수행하였습니다. 연구진은 ChatGPT와 같은 방식으로 답을 ㅈ공하는 AI 튜터를 쓴 학생들이 연습 문제에서는 성과를 보여 주었지만, AI를 사용하지 않고 치른 시험에서는 통제집단보다 약 17% 수준의 낮은 성과를 보였다고 발표하였습니다. 반면에, 답 대신 교사가 설계한 힌트만 주도록 제한한 AI 튜터를 사용한 학생들은 높은 수준의 시험 성과를 보인 것으로 나타났습니다. 판단을 대신 내려 주는 AI는 판단력을 해치고, 판단을 돕는 AI는 그렇지 않았다고 해석할 수 있습니다.
- Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26), e2422633122. https://doi.org/10.1073/pnas.2422633122
논문을 써야 하는 연구자에게 자동화 편향이 특히 위험한 이유는 연구의 오류가 즉시 드러나지 않기 때문입니다. 조종사의 오류는 곧바로 결과로 나타나지만, 잘못된 통계 해석이나 선행연구를 정확하게 인용하지 않는 것은 심사 과정이나 게재가 된 이후에야 발견이 됩니다. AI 시스템에 대한 과의존을 다룬 연구들을 대상으로 체계적 문헌고찰(systematic literature review)를 수행한 Zhai et al.(2024)은 과의존이 의사결정과 비판적 사고, 분석적 추론 능력의 저하와 일관되게 연관되어(associated) 있다고 된다고 주장하였습니다.
- Zhai, C., Wibowo, S., & Li, L. D. (2024). The effects of over-reliance on AI dialogue systems on students’ cognitive abilities: A systematic review. Smart Learning Environments, 11, 28. https://doi.org/10.1186/s40561-024-00316-7
연구 과정에서 비판적 사고의 외주화는 어떤 모습으로 나타나는가?
연구 과정에서 발생하는 비판적 사고의 외주화는 선행연구 탐색과 연구 방법론의 선택, 연구결과의 해석, 그리고 심사의 네 단계에서 각각 다른 모습으로 나타납니다. 네 단계의 공통점은 연구자가 AI의 결과물을 ‘따져 보았다’고 믿지만 실제로는 ‘승인하였을’ 뿐이라는 점입니다.
선행연구 단계에서는 AI에게 외주를 주고 얻어진 요약만을 읽고 원문을 읽지 않는 형태로 나타납니다. 요약이 정확한지를 판단하기 위해서는 원문을 읽었어야 하는데, 원문을 읽지 않았으므로 판단할 근거가 전혀 없습니다. AI에게 외주를 맡긴 연구자는 AI가 만들어 준 요약문의 유창함을 의례히 정확성의 증거로 받아들입니다. 이 단계에서 외주화된 판단은 논문 전체의 이론적인 기반에 반영됩니다.
연구결과 해석의 단계에서는 AI가 제시한 해석을 아무런 비판도 없이 자신의 해석으로 수용하는 형태로 나타납니다. 앞서 기술한 AI 아첨 게시물에서 다루었듯이, AI는 연구자가 원하는 방향의 해석을 능숙하게 만들어 냅니다. 만약 연구자가 그 해석을 따져 보지 않는다면, 분석의 결과로부터 전혀 드러나지 않아야 할 해석을 AI가 대신 써준 논문은 틀린 해석을 내놓게 됩니다. 심사 단계에서는 심사위원이 AI가 만들어준 심사의견을 승인만 하는 형태로 나타나는데, 이는 앞서 다루었던 AI 논문 심사의 폐단으로 이어집니다.
연구자의 판단력을 지키는 방법은 무엇인가?
연구자 판단력을 지키는 핵심은 AI에 대한 신뢰를 근거 없이 키우지 않아야 하고, 판단의 최종 권한을 자기 자신에게 두는 것입니다. Lee et al.(2025)의 연구결과가 보여 주듯이, 자기 능력에 대한 확신은 비판적 사고를 지키는 힘입니다. 그 확신은 AI가 만들어 낸 답을 스스로 검증하는 경험이 쌓일 때에만 생깁니다. 연구자의 판단력을 키우기 위한 다음의 절차를 제시합니다.
- AI가 내놓은 결과물을 경험이 전혀 없는 조수(assistance)가 만든 초안으로 취급합니다. 조수의 초안을 확인하지 않고 논문에 싣는 연구자는 없기 때문입니다.
- AI에게 답을 묻기 전에 자신의 답을 한 문장으로 먼저 적습니다. 자신이 만든 답이 있어야 AI의 답을 평가할 기준이 생기기 때문입니다.
- AI가 요약한 문헌 고찰의 내용은 원문으로부터 초록과 결론을 직접 읽고 서로 대조합니다. 그리고 대조에서 발견한 오류를 기록합니다.
- AI가 만들어 낸 오류를 히스토리 별로 기록합니다. 지난 한 달 동안 AI가 틀린 사례의 리스트는 AI에 대한 신뢰의 수준을 교정하는 가장 효과적인 장치이기도 합니다.
- 판단이 필요한 질문에는 답이 아니라 판단의 기준을 묻습니다. ‘어떤 방법을 써야 하는가’가 아니라 ‘방법을 고를 때 무엇을 따져야 하는가’라고 질문을 던집니다.
- AI가 내놓은 답이 자신의 답과 다를때에는 어느 쪽이 맞는지를 확인해야 하며 근거를 찾아서 연구자 자신의 결론을 내립니다. 이 과정이 곧 비판적 사고의 훈련입니다.
마무리를 하며
비판적 사고의 외주화가 가지는 핵심은 세 가지로 요약됩니다. 첫째, AI에 대한 신뢰와 비판적 사고는 서로 반비례하며, 자기가 가진 능력에 대한 확신만이 비판적 사고의 역량을 유지할 수 있습니다. 둘째, 자동화 편향은 시스템에 대한 신뢰 수준이 커지면 오류도 함께 커지는 역설입니다. 특히, 연구 과정에서는 흔히 오류에 대한 피드백이 늦기 때문에 자동화 역설에 취약합니다. 셋째, 답을 주는 AI는 연구자의 판단력을 해치고 기준을 주는 AI는 그렇지 않다는 점이 실험으로 확인되었습니다.
연구 도구로서의 AI는 답을 제시하는 방식에서 판단을 돕는 방식으로 개선이 되어야 합니다. 그때까지 연구자가 해야 할 일은 AI에 대해 가지는 자신의 신뢰 수준을 계속 보정(calibration)하는 것 이외에는 아무 것도 없습니다.
