통계분석 8단계. 구조방정식 모형 분석: 측정모형과 구조모형의 평가

구조방정식 모형 분석(Structural Equation Modeling, SEM)의 절차를 설명합니다. SEM을 위해서는 측정도구의 타당성을 검증하기 위해 측정모형을 평가하고, 잠재변수들의 인과관계를 분석하는 구조모형을 추정하는 '2단계 접근법(Two-step approach)'을 수행해야 합니다. 2단계 검증 단계의 순차적인 절차, 확인적 요인분석(CFA)을 통해 나타난 통계량과 모형적합도 지수의 판정기준, 경로계수의 해석 방법, 연구의 목적에 따른 분석 소프트웨어(AMOS vs. SmartPLS)의 선택 기준을 안내합니다.

이 글의 순서 9개 항목

1. 연재글 순서
2. 구조방정식 모형의 적용 시점: 다중회귀분석과의 비교
3. 2단계 접근법(Two-Step Approach)의 방법론적인 당위성
4. 1단계: 측정모형의 평가와 확인적 요인분석(CFA)
5. 모형 적합도 지수(Fit Indices)의 해석 기준과 수정지수(MI)의 한계
6. 2단계: 구조모형의 평가와 경로계수의 해석 및 매개효과의 검증
7. 소프트웨어의 선택 기준: CB-SEM(AMOS) vs. PLS-SEM(SmartPLS)
8. 자주 묻는 질문 (FAQ)
9. 결론

구조방정식 모형(Structural Equation Modeling, SEM)은 사회과학, 경영학, 교육학, 간호학과 보건학 등 다양한 연구 분야에서 복잡한 인과관계를 검증하는 대표적인 분석 방법론으로 자리를 잡고 있습니다. 그럼에도 불구하고 많은 연구자가 이 기법에 대해 상당한 부담을 가집니다. 전용 소프트웨어를 통해 복잡한 모형 다이어그램을 직접 모델링해야 하고, 회귀분석과 비교해서 확인해야 할 통계량이 방대하고 분석 절차가 까다롭기 때문입니다.

그러나 외견상의 복잡성과는 달리, 구조방정식 모형 분석에서의 내부적인 작동 원리는 대단히 정형화되어 있습니다. 전체적인 분석 과정이 상호 독립적이면서도 유기적인 두 단계로 명확하게 구분되어 있고, 각 단계에서 통과해야 할 통계량의 판정 기준이 선명하기 때문입니다.

구조방정식 모형 분석에서의 첫 번째 단계는 측정 문항들이 애초에 의도한 이론적인 개념(잠재변수)을 정확하게 측정하고 있는지의 여부를 검증하는 측정모형(measurement model) 평가입니다. 두 번째 단계는 타당하다고 판단된 측정모형을 기반으로 잠재변수들 간의 인과관계를 추정하는 구조모형(structural model) 평가입니다.

이 두 단계의 실행 순서는 방법론적으로 결코 역전하거나 병합될 수 없습니다. 측정도구의 타당성이 객관적으로 입증되지 않은 상태에서 계산된 경로계수는, 연구자가 의도한 개념들에 의한 영향 관계인지 아니면 측정오차가 왜곡한 허위 상관(spurious correlation)에서 비롯된 것인지를 전혀 분별할 수 없는 무의미한 값에 불과하기 때문입니다.

연재글 순서

1. 통계분석 기법의 선택 전략: 세 가지 조건을 확인하면 올바른 분석 방법이 정해진다
2. 데이터 정제와 결측값 처리: 추론 통계를 위해 완료해야 하는 5단계 분석 절차
3. 신뢰도와 타당도 검증: 크론바흐 알파(Cronbach’s alpha)와 요인분석의 수행결과를 해석하는 방법
4. 기술통계 분석과 정규성 검정: 테이블 작성과 데이터의 분포 진단
5. 집단의 차이 분석: t-검정, 분산분석(ANOVA), 사후검정
6. 상관분석과 회귀분석의 정석: ‘관계’의 확인 vs. ‘영향력’의 추정
7. 매개효과와 조절효과: PROCESS Macro를 활용한 경로와 조건의 검증
8. 구조방정식 모형 분석: 측정모형과 구조모형의 평가
9. 결과 테이블의 작성과 통계적 해석의 서술: 통계 출력물(output)의 학술적 변환과 APA 규격화

구조방정식 모형의 적용 시점: 다중회귀분석과의 비교

구조방정식의 효용성은 다중회귀분석과 차이를 비교할 때 매우 선명하게 드러납니다. 두 기법은 모두 변수들의 인과관계를 검증하지만, 변수를 처리하고 모형을 추정하는 방식에서는 현저한 차이가 나타납니다.

두 기법이 가지는 방법론적인 특성에 따라 어느 기법을 선택해야 하는지의 기준을 이해할 수 있습니다. 만약, 연구모형이 2개 이상의 매개변수로 이루어져 있거나(직렬/병렬 다중매개), 종속변수가 여러 개 이거나, 복잡한 인과관계를 하나의 모형으로 검증해야 한다면 반드시 구조방정식 모형 분석으로 접근해야 합니다. 반면, 연구모형이 포함하는 변수가 3-4개에 불과하고 인과 경로가 비교적 단순한 선형 구조라면 다중회귀분석이나 PROCESS Macro를 활용하는 것만으로도 충분한 결론을 얻을 수 있습니다.

아울러 표본 크기의 조건을 반드시 확인해야 합니다. AMOS와 같은 공분산 기반의 구조방정식(CB-SEM)은 점근적인 표본 이론에 기초하기 때문에 최소 200명 이상의 유효 표본을 확보해야 합니다. 만약 모형의 잠재변수와 경로가 복잡함에도 불구하고 표본의 크기가 100-150명 수준에 머무른다면, 모형 적합도를 판정하는 과정에서 기각 결론이 나타나는 것은 물론 부정치(Heywood Case, 오차분산 음수 추정)와 같은 추정 오류가 나타날 수 있습니다.

2단계 접근법(Two-Step Approach)의 방법론적인 당위성

구조방정식 모형에서는 두 종류의 모형이 공존합니다.

1. 측정모형: 관측 문항(지표)과 이론적인 개념(잠재변수) 간의 관계
2. 구조모형: 잠재변수 간의 인과적인 경로와 영향 관계

측정모형과 구조모형의 각 평가를 하나의 단계로 통합해서 한 번에 추정하면 방법론적인 측면에서 심각한 혼란이 발생합니다. 만약 모형 적합도가 통계적 기준을 충족시키지 못한다면, 그 실패의 원인이 ‘측정 오류’에서 비롯된 것인지, 아니면 ‘연구가설 경로의 설정 오류’ 때문인지 그 원인을 식별할 수 없기 때문입니다.

Anderson & Gerbing(1988)은 확인적 요인분석(confirmatory factor analysis; CFA)을 통해 측정모형을 우선적으로 평가해서 모형의 신뢰도와 타당도를 검증한 후에, 연구 가설의 경로를 나타내는 구조모형을 추정하는 ‘2단계 접근법(two-step approach)’을 오늘날에 사용하는 관행으로 정착시키는 데 크게 기여를 하였습니다.

• Anderson, J. C., & Gerbing, D. W. (1988). Structural equation modeling in practice: A review and recommended two-step approach. Psychological Bulletin, 103(3), 411–423. https://doi.org/10.1037/0033-2909.103.3.411

1단계: 측정모형의 평가와 확인적 요인분석(CFA)

측정모형의 평가를 위해서는 확인적 요인분석을 수행해야 합니다. 탐색적 요인분석(exploratory factor analysis; EFA)은 이론에 의한 뒷받침의 여부와는 별개로 데이터 자체의 상관성만을 바탕으로 문항들이 몇 개의 성분(component)으로 수렴하는지를 탐색하기 위한 기법입니다. 반면에, 확인적 요인분석은 연구자가 이론과 선행연구에 근거해서 ‘어느 측정변수(설문문항)가 어느 잠재변수를 측정하는지’를 미리 예상하고 이론적 구조가 수집한 데이터와 일치하는지를 검증하기 위한 절차입니다.

표 2.는 확인적 요인분석의 수행 결과를 통해서 얻게 되는 통계값과 이들의 판정 기준을 나타내고 있습니다.

측정모형을 평가하기 위해서는 여러 지표들을 아래의 순서에 따라서 확인해야 합니다.

1. 측정변수(설문문항) 단위의 평가: 각 측정변수에 대해서 계산된 표준화 요인적재량을 확인합니다. 판정기준은 0.5 이상(또는 0.6 이상)이며, 만약 기준을 충족시키지 못한 측정변수에 대해서는 제거를 고려해야 합니다. 단, 측정변수를 제거할 때에는 잠재변수 1개에 최소 3개 이상의 측정 지표가 유지되어야 합니다. 이를 통해 모형을 식별(identification)하는 과정에서 문제가 발생하지 않기 때문입니다.
2. 잠재변수 단위의 평가(수렴 타당도): 확인적 요인분석을 수행한 결과로부터 계산된 복합신뢰도(CR)와 평균분산추출값(AVE)을 관찰해서 수렴타당도의 수준을 평가합니다.
3. 잠재변수 간의 평가(판별 타당도): Fornell & Larcker(1981)가 제시한 가이드라인에 따라, 각 잠재변수에서의 AVE 제곱근이 변수들 끼리의 ‘추정된’ 상관계수(estimated inter-correlation) 행렬의 모든 상관계수보다 큰 값을 가지는지의 여부를 확인합니다. 만약 두 잠재변수 간의 상관계수가 AVE 제곱근보다 크다면, 이는 개념의 명칭만 다를 뿐 실제로는 동일한 개념이나 현상을 측정하는 것을 의미합니다. 그리고 판별타당도가 훼손되기 때문에 후속 분석을 통해 나타나는 인과관계를 타당하게 해석할 수 없습니다.

• Fornell, C., & Larcker, D. F. (1981). Evaluating structural equation models with unobservable variables and measurement error. Journal of Marketing Research, 18(1), 39–50. https://doi.org/10.2307/3151312

모형 적합도 지수(Fit Indices)의 해석 기준과 수정지수(MI)의 한계

적합도 지수는 연구자가 설정한 연구가설 모형의 공분산 행렬이 실제 표본 데이터의 공분산 행렬과 얼마나 일치하는지의 여부를 나타내는 지표입니다. 하나의 지표만으로는 판정하지 않으며, 서로 다른 통계적인 관점을 반영할 수 있는 여러 종류의 지표들을 종합적으로 평가하는 것이 관행입니다.

카이제곱(χ²) 통계량은 표본의 크기(N)가 200명 이상이라면, 매우 미세한 차이에서도 민감하게 반응합니다. 그리고 그 값이 통계적으로 유의(p<.05)한 것으로 나타나기 때문에 모형의 유의성을 기각시킨다는 단점을 가지고 있습니다. 따라서 카이제곱의 유의성만으로 연구모형을 폐기해서는 안 되며, 자유도 값으로 보정한 χ²/df 값과 함께 CFI, TLI, RMSEA 등을 교차 확인하면서 적합도를 판정해야 합니다.

수정지수(Modification Index; MI)의 신중한 활용

만약 적합도 지수가 판정 기준을 충족시키지 못한다면 AMOS 소프트웨어는 오차항 간의 상관이나 추가적인 경로 설정을 제안하기 위해 사용하는 수정지수(MI)를 출력합니다. 수정지수의 값이 큰 오차항을 서로 연결하면 적합도의 개선을 꾀할 수는 있습니다. 다만, 이론적인 근거가 결여된 오차항끼리 무분별하게 연결한다면 연구자가 수집한 표본 데이터에만 인위적으로 끼워맞춘 ‘데이터 과적합(overfitting)’을 초래합니다. 오차항 간의 공분산 설정은 동일한 잠재변수에서의 하위 요인끼리 어의적인 유사성 등의 당위성이 확보된 경우에만 매우 제한적으로 접근해야 합니다. 물론 수정지수의 조작에 따른 모형적합도 지수의 변화 과정을 ‘제4장. 연구의 방법’에 투명하게 기술해야 합니다.

2단계: 구조모형의 평가와 경로계수의 해석 및 매개효과의 검증

측정모형의 타당성을 평가한 후에, 연구가설이 설정한 잠재변수들의 경로를 검증하기 위해 구조모형 평가로 진입합니다.

1. 경로계수(path coefficient)와 임계값(critical ratio; C.R.): 경로계수는 독립적인 잠재변수가 종속 잠재변수에 미치는 영향의 크기와 방향을 의미합니다. 일반적으로 표준화 경로계수(β)의 값과 부호로 식별합니다. 경로계수의 통계적 유의성은 임계값(C.R.=회귀계수/표준오차)을 통해 판정합니다. C.R.의 절대값이 1.96보다 크거나 같을 때 유의수준 p<.05에서 가설이 채택됩니다.
2. 부트스트래핑(bootstrapping)을 활용한 간접(매개)효과의 검증: 매개효과는 간접경로(a×b)의 통계적인 유의성으로 검증합니다. 전통적인 Sobel 검증은 간접효과의 정규분포 가정을 전제로 하기 때문에 통계적 검정력이 낮다는 단점을 가집니다. 따라서 부트스트래핑(N=5,000, 95% 신뢰구간)을 수행한 결과를 통해 나타난 간접효과의 95% 신뢰구간(CI)이 ‘0’값을 포함하지 않을 때 매개효과가 통계적으로 유의하다고 판단합니다.
3. 학위논문에서의 리포팅 방법: 학위논문에서 연구결과를 기술할 때에는 통계량을 나타내는 테이블과 연구모형 다이어그램을 병행해서 나타냅니다. 테이블에는 비표준화 계수(B), 표준오차(S.E.), 표준화 베타 계수(β), C.R.(t-값), p-값, 그리고 가설의 채택 여부를 기술해야 합니다. 시각화한 연구모형에서는 표준화 베타계수(β)와 통계적 유의성을 표기합니다. 학계의 관행에 따라 통계적으로 유의한 것으로 나타난 경로를 실선으로, 그리고 유의하지 않은 경로를 점선으로 구분합니다.

소프트웨어의 선택 기준: CB-SEM(AMOS) vs. PLS-SEM(SmartPLS)

연구자는 연구의 목적과 수집한 데이터의 특성을 고려해서 구조방정식 모형 분석을 위한 소프트웨어를 표. 3을 기준으로 삼아 선택해야 합니다.

• 표본의 크기: 표본의 크기가 200명 이상이고, 정규성을 충족한다면 AMOS를 우선적으로 고려할 수 있습니다. 그러나 표본의 크기가 비교적 작고 정규성을 충족시키지 않는다면 SmartPLS을 선택해야 합니다.
• 연구의 지향점: 이미 학계에서 받아들이는 선행연구의 모형(예., Technology Acceptance Model)을 철저하게 기반해서 연구를 접근한다면 AMOS가 적합한 프로그램입니다. 반면에, 기존의 선행연구에서 충분하게 다루어지지 않은 새로운 개념이나 인과관계를 개척하는 탐색의 특징을 가지는 연구에서는 SmartPLS가 유리합니다.
• 학문 분야에서의 관행: 연구자의 연구영역에서 주류 연구들이 어떤 프로그램을 사용하는지를 살펴보아야 합니다.

가상 사례: 호텔경영학 박사과정 연구자의 측정모형 개선과 적합도 확보 과정 호텔경영학을 전공하는 박사과정 연구자 F씨는 호텔 종사원이 인식하는 감정노동과 직무소진, 직무열의, 고객지향성 등의 잠재변수로 이루어진 연구모형을 AMOS를 활용해서 분석하였습니다. 확인적 요인분석을 수행한 결과, 모형 적합도를 나타내는 여러 지수들 중에서 CFI=0.87, RMSEA=0.094로 나타났습니다. 하지만 이 값들은 최소만족 기준(CFI>0.90, RMSEA<0.08)을 충족하지 못합니다. 연구자는 적합도를 개선하기 위해 AMOS가 출력한 수정지수(MI)를 바탕으로 오차항들 간의 상관경로를 임의로 연결하려고 하였습니다. 하지만 구조모형의 수정지수에만 의존해서 적합도를 임의로 개선하려고 한다면 연구결과가 왜곡된다는 것을 연구자는 이미 잘 알고 있었습니다. 이를 염려한 F씨는 측정모형에 대한 확인적 요인분석의 결과를 다시 살펴보기 시작하였습니다. 2개의 잠재변수에 소속한 측정변수 2개에 대해 계산된 표준화 요인적재량이 각각 0.36 및 0.38으로 나타났는데, 이들 값은 최소만족 기준(0.50 이상)을 충족시키지 못합니다. 이 결과는 잠재변수에 대한 평균분산추출(AVE) 값(=0.43)을 훼손시키는 데에 기여했다고 판단할 수 있습니다. 연구자는 2개의 측정변수를 문헌적인 근거를 통해 연구모형에서 제거하였습니다. 모형을 정비한 후에 측정모형에 대해 확인적 요인분석을 다시 수행한 결과, CFI=0.93, RMSEA=0.061로 나타나 적합도 지수의 기준을 충족시키는 것으로 나타났습니다. 그리고 구조모형을 평가하는 과정에서도 동일한 수준의 양호한 적합도가 유지된 것을 관찰할 수 있었습니다. (※ 본 사례는 호텔경영학 박사학위논문 컨설팅의 실제 사례를 바탕으로 재구성한 가상의 시나리오입니다.)

자주 묻는 질문 (FAQ)

Q. 150명의 표본 크기로는 AMOS 구조방정식 모형 분석이 가능한가요?

A. 공분산 기반의 AMOS 분석은 표본의 크기가 최소 200명 이상일 때 모수 추정을 안정적으로 수행할 수 있습니다. 150명 수준의 표본의 크기로는 모형 적합도가 불량하게 나오거나 행렬 오류가 발생할 것입니다. 따라서 비교적 작은 크기의 표본으로도 큰 무리없이 접근할 수 있는 PLS-SEM(SmartPLS)으로 분석 도구를 전환하는 것이 현명한 선택입니다. 또는, 잠재변수를 투입하지 않고 변수의 평균 점수를 투입하는 다중회귀분석 또는 PROCESS Macro로 분석 설계를 조정하는 것이 현실적입니다.

Q. 탐색적 요인분석을 통해 타당도를 이미 확인하였습니다. 구조방정식 모형 분석 과정에서 확인적 요인분석을 별도로 반드시 수행해야 하나요?

A. 탐색적 요인분석의 수행 여부와는 별개로 확인적 요인분석을 반드시 거쳐야 합니다. 탐색적 요인분석과 확인적 요인분석은 그 작동방식에 대한 수리통계학적인 알고리즘이 전혀 다르고, 그리고 각 분석기법이 추구하는 목적이 서로 다릅니다. 탐색적 요인분석은 연구자가 수집한 데이터를 기반으로 이론의 뒷받침 여부를 전혀 고려하지 않으면서 측정변수 값의 수렴 패턴을 탐색 기법입니다. 반면, 확인적 요인분석은 반드시 수집한 데이터의 구조가 이론에 의해서 뒷받침이 되는지의 여부를 판단하기 위한 기법입니다. 따라서 탐색적 요인분석을 이미 수행하였더라도 구조방정식 모형 분석의 1단에서는 반드시 확인적 요인분석을 거쳐야 합니다.

Q. 모형 적합도의 지수가 최소만족 기준을 충족시키지 못하면 어떻게 대처해야 하나요?

A. 수정지수(MI)에 의존해서 오차 간 상관을 연결하기 전에, 측정모형의 확인적 요인분석 결과를 먼저 확인해야 합니다. 표준화 요인적재량이 0.5 미만 값을 가지는 측정변수와 수렴타당도(AVE<0.5)의 수준이 미달하는 잠재변수가 적합도를 훼손시키는 주요 원인입니다. 타당도를 훼손하는 측정변수를 이론적으로 뒷받침하면서 제거하는 것만으로도 모형 적합도를 개선할 수 있습니다.

Q. 카이제곱(χ²) 통계량의 유의수준이 p<.05로 나타났습니다. 그렇다면 연구모형을 수정해야 하나요?

A. 결코 그렇지 않습니다. 카이제곱(χ²) 통계량은 표본의 크기가 200명을 초과하는 연구에서 연구모형의 완성도와는 무관하게 유의(p<.05)하게 나타나는 고유의 특성을 가지고 있습니다. 따라서 학계에서는 카이제곱(χ²)의 값만을 단독으로 삼아 적합도를 평가하지 않습니다. 대신, 카이제곱(χ²)을 자유도로 나눈 χ²/ df 값과 함께 CFI, TLI, RMSEA, SRMR 등의 지수를 종합적으로 검토해서 판정합니다.

Q. 측정모형의 타당도를 확보하는 과정에서 측정변수를 최대 몇 개까지 제거할 수 있나요?

A. 잠재변수 1개는 최소 3개 이상의 측정 변수로 이루어져야 합니다. 만약, 측정변수의 갯수가 2개 이하라면 잠재변수를 식별하기가 어려워집니다. 만약 측정 변수의 50% 이상을 제거해야 적합도가 확보되는 상황이라면, 문항을 제거하는 것으로 해결할 수 있는 문제는 아니며, 측정 도구의 번안 오류, 수집한 데이터 자체의 불량, 척도 도구의 적합성 등을 다시 확인해야 합니다.

Q. 구조방정식 모형 분석을 통해 매개효과의 통계적 유의수준을 어떻게 검증해야 하나요?

A. 부트스트래핑 기법을 활용해서 검증합니다. 일반적으로 표본을 N=5,000회 반복 추출해서(re-sampling) 계산된 간접효과의 95% 편향교정 신뢰구간(bias-corrected bootstrap 95% CI)의 하한값과 상한값 사이에 ‘0’ 값이 포함되지 않으면 매개효과가 유의하다고(p<.05) 판정합니다.

결론

구조방정식 모형 분석은 잠재변수들의 인과관계를 하나의 모형에서 측정오차를 통제하며 추정하는 통계 기법입니다. 분석을 위해서는 측정모형과 구조모형을 2단계 접근법에 따라 평가해야 합니다. 1단계에서는 측정모형에 대해 확인적 요인분석을 수행한 결과로부터 표준화 요인적재량, 복합신뢰도, 평균분산추출(AVE) 값을 통해 수렴타당도를 평가합니다. 이와 함께, 잠재변수들의 각 AVE 값의 제곱근과 추정된 상관계수들을 서로 비교해서 판별타당도를 평가합니다. 2단계에서는 구조모형의 적합도 지수(예., χ²/df, CFI, TLI, RMSEA, SRMR)를 기준으로 삼아 모형 적합도를 평가합니다. 마지막으로, 계산된 경로계수와 부트스트래핑 신뢰구간을 통해 연구가설의 채택 여부를 판정합니다. 만약 적합도의 수준이 최소만족 기준을 충족하지 못하더라도 연구자가 자의적으로 수정지수(MI)에 기반해서 적합도를 강제로 개선해서는 안됩니다. 구조방정식 모형 분석을 위한 소프트웨어(AMOS vs SmartPLS)는 연구의 목적과 표본의 크기를 고려해서 선택해야 합니다.