연구방법 2단계. 양적 연구 vs. 질적 연구: 연구 패러다임의 충돌과 방법론 선택의 기준

양적 연구와 질적 연구의 분기점은 자료의 물리적인 형태(값 vs 텍스트)가 아니라 "현상을 어떻게 인식하고 증명할 것인가"라는 인식론적인 전제에 있습니다. 따라서 보편적인 인과관계의 규칙을 입증할 것인가 vs. 맥락적인 의미 구조를 이해할 것인가에 따라 연구의 방법을 선택해야 합니다.

이 글의 순서 6개 항목

1. 패러다임의 충돌: 두 접근은 ‘지식(knowledge)’을 어떻게 바라보는가?
2. 양적 연구 vs 질적 연구: 핵심 차원의 비교
3. 연구문제의 진단: 자가 판별 체크리스트
4. 대학원생이 가지는 연구 방법론에 관한 오해
5. 자주 묻는 질문 (FAQ)
6. 결론

대학원에 진학하여 논문 프로포절을 준비하는 학생들에게 “양적 연구와 질적 연구 중에서 어느 쪽을 선택하겠는가?”라고 물으면, “통계가 두려워서 질적 연구를 선택하겠다” vs. “인터뷰 섭외가 부담스러워 설문조사(양적 연구)를 택하겠다”라는 답변으로 양분되는 양상을 어렵지 않게 관찰할 수 있습니다.

그러나 연구방법의 선택은 연구자 개인의 선호나 통계 소프트웨어 활용 능력에 따라 결정할 수 있는 문제가 아닙니다. 양적 연구와 질적 연구라는 두 가지 방법론은 현상을 바라보는 관점과 지식의 성립 조건, 그리고 연구자가 관찰 대상과 맺는 관계에 대한 철학적인 전제(paradigm) 자체가 완전히 다른 세계관에 기반하고 있습니다.

양적 연구는 관찰자(연구자)와는 독립적으로 존재하는 객관적인 법칙을 정확하게 ‘측정’하려는 접근입니다. 반면에 질적 연구는 인간이 처한 특정한 맥락 속에서 형성되는 고유한 의미를 ‘심층적으로 이해’하기 위한 방법입니다.

패러다임의 충돌: 두 접근은 ‘지식(knowledge)’을 어떻게 바라보는가?

두 방법론이 구분되어지는 근본은 철학적 인식론(epistemology) vs. 존재론(ontology)의 차이에 있습니다.

양적 연구의 세계관: 실증주의(positivism)와 후기실증주의

양적 연구는 연구자의 주관적인 신념이나 감정과는 전혀 무관하게 객관적으로 존재하는 ‘보편적인 실재(objective reality)’가 있다는 전제에서 출발합니다. 따라서 연구자의 역할은 현상에 개입하지 않고 제3자의 입장에서 일정한 거리를 유지한 채, 표준화된 측정도구를 통해 변수와 다른 변수 사이의 인과관계와 규칙성을 계량화된 값으로 확인하는 것입니다. 이는 관찰의 주체와는 상관없이 동일한 과정을 거치면 동일한 측정 결과를 얻을 수 있다는 ‘객관성과 재현성’을 핵심적인 가치로 삼습니다.

질적 연구의 세계관: 구성주의(constructivism)와 해석주의(interpretivism)

질적 연구가 추구하는 세계관에 따르면, 세상에는 고정불변의 객관적인 진리가 존재하지 않습니다. 그리고 실재(reality)란 개별 행위자들이 특정한 역사적, 사회적인 맥락 속에서 상호작용하며 끊임없이 형성해 나가는 ‘구성된 실재(constructed reality)’라고 전제합니다. 따라서 연구자는 대상과 격리된 관찰자에만 머무를 수 없으며, 참여자의 삶의 터전으로 직접 진입하고 그들의 언어와 시선으로 세상을 바라보는 ‘연구자 자신(researcher as instrument)이 도구’라고 여깁니다.

예를 들자면, ‘신규 교사의 이직의도’라는 주제를 다루더라도 두 패러다임이 접근하는 연구문제는 서로 다른 궤적을 그립니다.

양적 접근: “어떠한 조직적, 개인적인 변수(독립변수)가 신규 교사의 이직의도(종속변수)를 통계적으로 유의하게 높이거나 낮추는가?” → 연구가설의 검증과 영향력을 측정

질적 접근: “신규 교사들은 임용 첫해에 겪는 혼란과 갈등 속에서 교직을 떠나고자 하는 위기를 구체적으로 어떻게 경험하고 의미화하는가?” → 생생한 내면적 경험의 궤적과 맥락을 포착

양적 연구 vs 질적 연구: 핵심 차원의 비교

표 1.은 양적 연구와 질적 연구가 연구의 전 과정에서 구체적으로 어떻게 차이를 보이는지를 비교한 결과를 나타내고 있습니다.

연구문제의 진단: 자가 판별 체크리스트

만약 양적 연구 또는 질적 연구 중에서 방법론을 선택하기기 어렵다면, 다음의 4단계 질문을 거쳐 연구의 목적과 방향성을 체크해야 합니다.

위의 그림이 나타내는 의사결정 체계는 연구 방법론 선정을 위한 판단 기준을 네 개의 독립적인 문항으로 구성하고, 각 문항의 응답을 두 가지 범주(양적 vs. 질적 접근)에 누적하여 그 분포에 따라 최종 방식을 결정하도록 설계되었습니다. 일반적인 의사결정 나무(decision tree) 모델에서는 특정한 분기점에서의 응답이 그 즉시 단일 경로를 확정하지 않습니다. 하지만 위의 그림이 나타내는 체계에서는 네 문항이 상호 전제 없이 병렬적으로 배치되며, 개별 응답은 경로를 즉시 확정하지 않고 해당 범주의 빈도로 누적됩니다. 이는 양적 접근과 질적 접근의 구분이 단일한 기준으로 환원되지 않는다는 방법론적인 특성을 반영한 결과이기도 합니다.

1번 문항은 선행 지식의 축적 정도를, 2번 문항은 최종 산출물의 형식을, 3번 문항은 연구 목적의 성격을, 그리고 4번 문항은 표본의 접근 가능성이라는 실행 여건을 확인하기 위한 목적을 가집니다. 만약 응답이 서로 분산하여 1번과 3번 문항에 가중치를 부여하는 이유는 두 문항이 방법론적인 타당성을 결정하는 본질적인 요인이기 때문입니다. 1번 조건이 충족되지 않으면 조작적 정의가 확립되지 않은 상태에서 척도를 적용해야 하므로, 이 때에는 측정 타당도를 담보할 수 없습니다. 반면에, 3번 조건이 부합하지 않으면 참여자의 주관적인 경험을 계량화하는 과정에서 맥락의 정보가 소거되어 연구의 목적과 방법 사이의 체계성이 결여됩니다. 2번 문항은 1번 및 3번의 결정에 종속되는 파생적인 성격을 가지며, 4번 문항은 연구의 설계를 구성하는 내적인 논리가 아닌 외적 실행 조건에 해당하므로 가중치 산정에서 제외됩니다.

특히 4번 문항은 가중치 누적이 아닌 필수적인 배제 기준(veto)으로 기능합니다. 앞선 세 문항의 응답이 특정한 접근으로 수렴하더라도 해당 방식이 요구하는 표본을 확보하기가 어려운 경우에는 해당 방법론이 수용의 대상에서 배제됩니다. 따라서 최종 판정은 다음과 같은 순서로 진행됩니다. 네 문항의 응답이 단일한 접근으로 수렴하면 해당 방식으로 판정을 종결합니다. 그러나 만약 응답이 분산된 경우에는 1번과 3번 문항의 결과를 우선 반영하되, 4번 문항의 실행 제약 요건에 따라 실현이 불가능한 대안을 배제함으로써 연구 방법론을 확정합니다.

대학원생이 가지는 연구 방법론에 관한 오해

• 오해 1: “통계 분석의 대안으로 질적 연구를 선택하면 연구를 더 쉽게 할 수 있을 것”이라는 인식

이는 각 방법론의 고유한 특성을 충분히 이해하지 않은 상태에서의 판단입니다. 양적 접근을 위한 통계 분석은 통계 소프트웨어(예., SPSS, AMOS, R)를 활용하여 표준화된 절차와 기준에 따라 결과를 얻을 수 있습니다. 반면 질적 연구는 연구자가 방대한 전사 자료를 직접 코딩하고 범주화하며 개념화해야 합니다. 또한 정형화된 분석 매뉴얼이 없기 때문에 논리적인 서술 체계를 연구자 스스로 수립해야 합니다. 따라서 방법론적인 타당성을 입증하는 과정에서는 질적 연구가 상대적으로 더 높은 난이도를 요구할 수 있습니다.

• 오해 2: “양적 연구는 ‘값’을 다루기 때문에 객관적인 접근”이라는 인식

양적 연구도 역시 연구 설계와 분석 전반에 걸쳐 연구자의 주관적인 판단이 개입됩니다. 연구를 지배하는 이론을 선택하고 독립변수와 종속변수를 선택하는 과정은 모두 연구자의 주관적인 의사결정에 의해서 이루어집니다. 따라서 통계 분석 모형을 설계하고 결과를 해석하는 과정이라도 연구자의 주관적인 관점이 필연적으로 반영될 수 밖에 없습니다.

• 오해 3: “확보된 표본의 수가 부족하다면 언제든지 질적 연구로 전환할 수 있다”라는 인식

표본의 규모는 선택한 연구 방법론에 따라 결정되는 결과물이며, 방법론을 사후적으로 변경하는 기준이 될 수는 없습니다. 예를 들어서, 5점 리커트 척도로 구성한 설문지를 30명의 소규모 표본에 적용하여 수집한 자료는 질적 연구로 전환하는 것이 아니라, 통계적 검정력이 결여된 불완전한 양적 연구를 수행한 것에 불과합니다. 질적 연구로서의 타당성을 확보하기 위해서는 연구 문제와 조사 도구가 개방형(open-ended)이어야 하며, 자료의 수집과 분석 전 과정이 질적 연구가 추구하는 패러다임의 원칙과 절차를 따라야 합니다.

• 오해 4: “질적 연구는 일반화(generalization)가 불가능하기 때문에 학술적인 가치가 낮다”라는 인식

질적 연구는 ‘모집단의 모수 추정(parameter estimation)을 통한 일반화’를 목적으로 접근하지 않습니다. 다만, 질적 연구의 본질적인 목적은 특정한 맥락과 조건 하에서 발생하는 인간이 체험하는 경험의 본질적인 구조(essence)를 정밀하게 규명하는 데 있습니다. 따라서 연구 결과를 유사한 상황에 적용하고 해석할 수 있는 전이 가능성(transferability)과 개념적 체계를 구축하는 이론적인 일반화를 달성하는 데 고유한 학술적인 의의가 있습니다.

가상 사례: 간호학 연구에서 측정 도구의 한계 극복과 현상학적 질적 연구로의 전환 간호학 석사과정생인 A씨는 ‘호스피스 완화의료 병동 간호사의 감정노동과 직무소진’을 연구 주제로 선정하였습니다. A씨는 선행연구에서 널리 활용되고 있는 감정노동 척도(5점 리커트 척도)를 사용하여 200명의 간호사를 대상으로 자료를 수집하고 다중회귀분석을 수행하는 계획을 가지고 있었습니다. 그러나 설문 도구를 탐색하는 과정에서 여러 문제가 나타났습니다. A씨가 선택한 감정노동 척도는 주로 판매직이나 상담직 등 일반 서비스업 종사자의 고객 응대 상황을 기반으로 개발된 도구였습니다. 따라서 “억지 미소를 짓는다” 또는 “매뉴얼에 따라 친절하게 대한다”와 같은 문항은 임종 환자와 유가족을 돌보는 호스피스 간호사의 특수한 정서적인 경험과 맥락을 반영하기에 적합하지 않는 것으로 판단하였습니다. 이에 따라 A씨는 척도를 활용하는 양적 접근을 대신하여, 연구 참여자가 체험한 경험의 본질을 규명하기 위해 Colaizzi의 현상학적 질적 연구로 연구 설계를 변경하였습니다. A씨는 호스피스 병동에서 3년 이상 근무한 간호사 9명을 표본으로 선정하여 1인당 2회의 심층 인터뷰를 수행하였습니다. 그리고 인터뷰 녹음 자료를 전사(transcript)하여 의미를 부여할 만한 진술을 식별하고, 이들을 4개의 주요 범주(예., ‘임종 돌봄 과정에서의 실존적 정서’, ‘전문가적 경계 유지와 정서적 공감 간의 갈등’ 등)로 구조화하였습니다. (본 내용은 논문컨설팅의 사례를 바탕으로 재구성한 가상의 사례입니다.)

자주 묻는 질문 (FAQ)

Q. 양적 연구와 질적 연구를 통합하여 수행하는 혼합연구 방법(mixed methods research)의 적절한 활용 시점은 언제인가요?

A. 양적 자료나 질적 자료 중에서 하나의 접근만으로 연구 문제를 충분히 규명하기 어려운 경우에 혼합 연구를 활용하기도 합니다. 대표적인 설계 방식은 다음과 같습니다. 첫째, 설명적 순차 설계(explanatory sequential design)는 대규모의 양적 조사를 통해 관찰된 전반적인 패턴과 변수들 사이의 통계적인 관계를 우선 확인한 후, 도출된 통계 결과의 구체적인 발생 메커니즘과 맥락을 소수의 표본을 대상으로 심층 인터뷰를 통해 보완적으로 규명하는 방식입니다. 둘째, 탐색적 순차 설계(exploratory sequential design)는 선행 연구나 이론적 개념이 충분하게 탐색되지 않은 영역에서 질적 인터뷰를 통해 핵심적인 구성 개념과 요인을 먼저 도출하고, 이를 기반으로 측정 도구를 설계하여 대규모 표본을 대상으로 실증 검증을 수행하는 방식입니다. 다만 혼합연구 방법은 두 방법론의 엄격한 절차적인 기준과 타당도를 독립적으로 충족해야 합니다. 따라서 단일 방법론을 적용한 연구와 비교하여 상대적으로 장기간의 연구 기간과 분석 자원을 투입해야 연구의 완성도를 제고할 수 있습니다.

Q. 질적 연구에서는 내적 일관성 계수(Cronbach’s alpha)와 같은 통계적 지표를 사용할 수 없는데, 연구의 타당도과 신뢰성도를 어떻게 입증해야 할까요?

A. 질적 연구에서는 계량화된 ‘값’을 대신하여 Lincoln과 Guba가 제시한 신뢰성(trustworthiness)의 4대 기준을 절차적으로 충족하여 방법론적 엄밀성을 입증합니다.

• 사실성(credibility): 분석 결과가 참여자의 실제 경험을 정확히 반영하고 있는지의 여부를 확인하기 위해, 분석 내용을 연구 참여자에게 다시 한번 확인을 받는 참여자 검토(member checking)를 수행합니다.
• 적용 가능성(transferability): 연구 결과를 다른 유사한 맥락에 적용하거나 비교할 수 있도록, 연구 맥락과 참여자의 상황을 구체적이고 상세하게 기술하는 심층적 기술(thick description)을 제공합니다.
• 일관성(dependability): 자료 수집, 코딩, 개념화에 이르는 연구 절차의 일관성과 타당성을 담보하기 위해 동료 연구자나 전문가의 감수를 받는 동료 검토(peer debriefing)를 수행합니다.
• 확증성(confirmability): 연구자의 선입견이나 편향의 개입을 최소화하고 중립성을 확보하기 위해, 연구 전반의 의사결정 과정을 기록하는 성찰적 저널(reflexive journal)을 작성하고 감사 추적(audit trail)을 체계적으로 유지합니다.

Q. 소속 학과 내에서의 교수진 전원이 양적 연구(계량 통계) 전공자인 환경에서는 질적으로 접근한 학위논문으로 심사에서 통과하는 것이 가능할까요?

A. 현실적으로 논문 심사 과정에서 상당한 방법론적인 난점에 직면할 수 있습니다. 심사위원단이 양적 연구의 패러다임을 추구한다면, 표본의 대표성이나 통계적 접근에 의한 일반화 가능성 등 양적 연구의 평가 기준을 적용하여 질적 연구의 타당성에 문제를 제기할 가능성이 높습니다. 따라서 연구 문제의 본질상 질적 접근의 수용이 불가피하다면, 지도교수와의 협의를 거쳐 질적 연구의 전문가를 외부 심사위원으로 최소 1인 이상 위촉하고 심사위원단 내에서 방법론적인 균형을 확보하는 방안을 강구해야 합니다.

결론

양적 접근과 질적 접근의 본질적인 차이는 계량화한 데이터와 텍스트 데이터의 사용 여부에만 국한되지 않으며, 연구 대상에 대한 인식론적인 전제의 차이에서 비롯됩니다. 양적 연구는 연구자와는 독립적으로 존재하는 객관적인 실재를 가정하고 이를 ‘값’으로 측정해야 합니다. 따라서 연구자의 주관적인 개입을 통제하는 것이 타당한 연구의 전제 조건입니다. 반면 질적 연구는 실재가 맥락 내에서 구성된다고 전제하며, 이에 따라 연구자 자신이 자료 수집의 도구로서 역할을 수행하며 연구자의 위치성(positionality)과 성찰성(reflexity)을 명시하는 것이 필수적입니다.

이러한 전제의 차이는 연구 문제의 성격과 자료의 형태, 표본의 추출 방식, 연구자의 역할, 자료 분석 기법, 그리고 연구 결과의 적용 범위라는 여섯 가지 영역에서 구체적인 방법론적인 분기를 형성합니다. 표본의 구성 측면을 고려한다면, 질적 연구의 참여자 수가 적은 이유는 자료의 총량이 부족하기 때문은 아니며, 각각의 참여자로부터 얻을 수 있는 자료의 깊이와 밀도가 높기 때문입니다. 각 연구 방법론의 타당도에 대해서도, 양적 연구의 통계적인 검증과 질적 연구의 절차적인 엄밀성으로 타당도의 확보 형태가 구분될 뿐, 두 접근은 모두 학술적인 타당성을 확립하기 위한 체계적인 기준을 갖추고 있습니다.

따라서 특정한 방법론을 평가하기 위한 기준을 서로 다르게 접근하는 패러다임에 대입하는 것은 결코 타당하지 않습니다. 질적 연구에 대해 표본 크기의 협소함을 지적하거나, 또는 양적 연구에 대해 맥락의 부재를 비판하는 것이 이에 해당합니다.

연구 방법론의 결정은 네 가지 기준을 통해 수행할 수 있습니다. 이 기준들은 선행 개념의 정립의 정도, 달성하려는 산출물의 형태, 연구 목적의 성격, 그리고 연구 대상에 대한 접근 가능성입니다. 만약 판단의 결과가 분산한다면 개념의 정립 수준과 연구 목적의 성격을 우선적으로 고려해야 합니다. 개념적인 정의가 아직 마련되지 않은 상태에서 설문 도구를 활용한다면 측정 타당도를 확보할 수 없습니다. 또한, 주관적 경험의 맥락을 규명하는 것이 연구의 목적이라면, 계량적 접근은 경험이 가지는 본질적인 의미를 상실하게 합니다. 아울러, 대상에 대한 접근 가능성은 연구의 실행 여부를 결정하는 현실적인 제약 조건이기 때문에 사전에 점검해야 합니다.

연구 방법론에 대해 가지는 현실적인 오해는 질적 연구가 양적 연구보다 쉽다는 인식, 양적 연구는 질적 연구보다 객관적이라는 인식, 소규모 표본이 질적 연구의 특징으로 이어진다는 인식, 그리고 질적 접근에 의한 연구 결과는 일반화가 불가능해서 학술적인 가치가 낮다는 인식이라는 네 가지입니다. 표본의 규모는 연구 방법론을 선정한 결과에 따라 결정하는 요소일 뿐, 방법론의 질(quality)을 판정하는 기준이 아닙니다. 그리고 통계분석에 의한 일반화는 질적 연구가 추구하는 목적에 해당하지 않을 뿐입니다.