인공지능(artificial intelligence; AI)에 대한 인간의 신뢰를 주제로 하는 최근의 연구동향과 이슈, 그리고 산업디자인 연구분야에서의 박사학위 졸업논문 컨설팅 후기에 대해서 말씀을 드리겠습니다.
인공지능은 병원 수술실에서부터 마케팅 의사결정을 주도하는 비즈니스 분야에 이르기까지 다양한 분야에서 유용하게 활용되고 있습니다. 인공지능은 이미 광범위한 영역에 적용되고 있지만, 불과 몇 년 전까지만 하더라도 대부분의 구현은 인간 지능에 필적하는 진정한 인공지능이라기보다는 전문가 시스템(프로그래밍된 ‘if-then’ 함수를 통해 인간이 정의한 규칙 시스템)으로 기능하는 정적(static)이고 결정론적인(deterministic) 모델을 기반으로 하였습니다.
그러나 최근에는 인지 모델(cognitive model)을 사용하여 인공 에이전트에 인간과 유사한 지능을 구축하려는 기술 발전이 이루어지고 있습니다. 이러한 모델은 머신러닝(machine learning)과 신경망(neural network), 딥러닝(deep learnng) 또는 모델 기반 강화 학습과 같은 인공지능 알고리즘과 모델에 의존하는 경향이 높습니다.
그와 같은 모델이 데이터 학습을 통해서 패턴을 식별하는 과정은 불투명하며, 이러한 결정을 내리는 내부 프로세스에 대한 투명성은 공개되기를 꺼려 합니다. 이로 인해 ‘설명이 가능한 인공 지능(Explainable Artificial Intelligence(XAI)’이라는 새로운 연구 분야가 등장하기도 하였습니다.
XAI가 추구하는 근본적인 목표는 AI에 의해서 이루어지는 의사 결정 프로세스의 불투명을 낮춤에 있습니다. 그리고 더 나아가서는, 인공지능 에이전트에 대한 ‘신뢰(trust)’를 제고함에 있습니다.
신뢰는 신뢰의 대상, 또는 신뢰할 수 있는(trustable) 에이전트의 행동에 따라 변화하는 역동적인 개념입니다. 관련 문헌에 따르면, 사람들은 신기술에 대한 긍정적인 편향(bias)으로 인해 기술에 대한 신뢰가 형성되는 방식이 인간에게 형성되는 방식과 다르다고 주장합니다. 예를 들어서, 서로 낯선 사람 사이에서 초기에 형성되는 신뢰는 그 수준이 낮으나, 새로운 기술은 그 능력과 기능에 대해 비현실적으로 낙관적인 신뢰를 형성하는 경향이 높습니다.
따라서, 일반적으로 인간이 가지는 인간에 대한 신뢰는 잦은 상호작용을 통해 시간이 지남에 따라 증가하는 반면, 기술에 대한 신뢰는 오류와 오작동을 경험함에 따라 시간이 지남에 따라 감소하게 됩니다.
하지만 AI에 대해서 형성하는 인간의 신뢰는 그 반대의 경우도 발생할 가능성이 제기되고 있습니다. 일부 연구자들은 기존 AI의 미성숙성과 관련한 회의론 및 신기술 수용과 관련한 어려움을 지적하면서, 처음 형성하는 낮은 수준의 신뢰는 직접적인 상호작용을 통해 그 수준이 높아질 수 있다고 주장합니다.
다른 기술에 대한 신뢰와 비교하여 AI 신뢰에 대해서는 비교적 관대하게 여긴다는 점이 흥미로운 부분입니다.
AI의 수용(adoption)에 영향을 미치는 요인을 조사하는 것은 점점 더 중요해지고 있습니다. AI의 신뢰와 관련한 연구 문헌에서는 의인화(anthropomorphism), 투명성(transparency), 외형(appearance), 행위의 즉시성(immediacy behavior), 유형성(tangibility) 등을 포함하는 AI로부터 인식되는 요인들이 신뢰 형성에 긍정적인 영향을 미치는 것으로 관찰되고 있습니다.
그리고 최근에는 Mayer et al.(1995)이 제시한 그 유명한 ‘능력(integrity)’-‘호의(benevolence)’-‘정직(integrity)’ 기반의 신뢰 형성 모델을 통하여 AI의 신뢰 형성 메커니즘을 해석하려는 다수의 연구 사례가 관찰되고 있습니다.
Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust. The Academy of Management Review, 20(3), 709-734.
서울 모 대학교에서 산업디자인학을 전공하는 의뢰인의 박사학위 졸업논문 컨설팅 후기와 성공사례를 전해드립니다.
우리나라 굴지의 IT 제조회사에서 근무하는 의뢰인은 선행기술을 예측하는 업무를 담당하고 있었습니다. 특히 AI와 관련한 선행기술을 조사하여 진보적인 제품을 미리 발굴하고 프로토타입을 디자인하여 지금까지는 존재하지 않았던 새로운 제품에 대한 시장 경쟁력을 확보함에 업무의 목적을 가지고 있었습니다.
의뢰인은 AI 기술을 기반으로 하는 자율주행 자동차의 운영 시스템으로부터 인간의 신뢰가 부각될 수 있는 새로운 AI 디자인 패러다임에 큰 관심을 가지고 있었습니다.
즉, 의뢰인이 원하는 연구주제는 ‘trustworthy AI’를 위한 디자인 방법론입니다.
프라임 컨설팅은 의뢰인의 연구주제와 그 맥락이 일치하는 ‘highly automated system’과 관련한 이론적 프레임워크를 소개하였습니다. 그리고 AI에 대한 인간의 신뢰를 높이기 위해서는 AI 시스템의 ‘성능(performance)’에 대한 인식을 높이는 것만으로는 부족하다는 의견을 제시하였습니다.
신뢰할 수 있는 AI 시스템의 설계를 가능하게 하는 디자인 툴킷에 관한 연구주제가 가장 적절하다고 판단하였습니다. 의뢰인은 연구의 목표를 바탕으로 하는 다수의 연구 문제를 정의하였는데, 이를 풀어서 정리를 하면 “신뢰할 수 있는 AI를 설계하기 위해서는 디자이너가 어떠한 형태의 도움을 제공할 것인가?”, “기존의 신뢰할 수 있는 AI 지침을 실제로 변환할 수 있도록 지원하기 위해 현재 어떠한 형태의 디자인 관행이 존재하는가?”, “신뢰할 수 있는 AI 시스템을 설계하기 위하여 사용할 수 있는 툴킷은 무엇인가?”, 그리고 “highly automated system에 대한 신뢰의 측면에서 툴킷이 기여할 수 있는바는 무엇인가?”입니다.
신뢰를 드러내기 위한 디자인 툴킷의 원칙을 결정하기 위해서는 AI 시스템의 윤리적이고 도덕적인 측면까지 고려해야 한다는 점을 확인할 수 있었습니다. 그리고 인간-컴퓨터 상호작용(human-computer interaction; HCI) 문헌에서 관찰되고 있는 인지 기반의 신뢰(cognition-based trust)와 정서 기반의 신뢰(affection-based trust)를 식별하였습니다. 이를 통하여 AI 시스템에 대한 이해 가능성과 인지된 기술적 역량, 이전의 경험에서 비롯된 느낌과 감각적인 구성요소를 고려하는 디자인 툴킷 가이드라인을 완성하게 되었습니다.
마지막으로, 의뢰인이 제안한 디자인 툴킷을 기반으로 가상 보조 시스템(virtual assistance system)의 디자인 과정을 재현하여 타당성을 평가할 수 있었습니다.
의뢰인의 연구 성과물이 담긴 박사학위 졸업논문은 최종 심사에서 큰 어려움이 없이 통과되었습니다. 그리고 졸업논문의 일부분을 보완하여 해외 SSCI 급 학술지 논문에 투고를 준비 중이며, 이 과정 역시 프라임 컨설팅과 함께 하고 있습니다.
지금까지 AI 신뢰를 연구주제로 하는 산업디자인학 박사학위 졸업논문 컨설팅 서비스의 후기와 성공사례를 알려드렸습니다.
논문 컨설팅은 프라임 컨설팅입니다.
