(1) 의사 결정 문제에 대한 노력

 

개인ㆍ집단의 의사 결정 문제는 오래전부터 검토되어 온 문제이다. 의사 결정에 관한 선구적인 연구로는 1978년 노벨 경제학상을 수상한 허버트 A. 사이먼의 노력이 잘 알려져 있다.

사이먼은 의사 결정 프로세스를 (1)정보(Intelligence) 활동, (2)설계(Design) 활동, (3)선택(Choice) 활동이라는 단계로 구성된다고 보았다.

(1)에서 의사 결정에 필요한 정보를 수집하고, (2)에서 생각할 수 있는 선택지를 제시하고, (3)에서 선택지를 평가하고, 어떤 것을 선택할지 결정한다.

이들 단계에서 필요한 정보를 모두 수집할 수 있고, 가능한 모든 선택지를 제시할 수 있으며, 각 선택지를 선택했을 때 발생할 수 있는 모든 가능성을 열거하고 평가할 수 있다면 합리적으로 최선의 선택이 가능해진다.

그러나 현실적으로는 그러한 모든 가능성을 고려하여 의사 결정을 할 수 없으며, 사람이 합리적인 의사 결정을 하려 해도 한계가 있다.

사이먼이 도입한 “제한된 합리성(Bounded Rationality)”이라는 개념은 의사 결정 연구 발전의 기초가 되었다. 사이먼은 경영의 본질은 의사 결정이라고 생각했으며, 제한된 합리성을 극복하기 위한 조직론도 전개했다.

 

이처럼 사람의 판단ㆍ행동이 반드시 합리적일 수 없으며, 심리ㆍ감정에도 좌우된다는 점을 고려하여 행동경제학이 발전했으며, 그 안에서 의사결정과 관련된 흥미로운 지견이 제시되었다.

특히 유명한 것은 사이먼 이후 행동경제학 분야에서 노벨 경제학상을 수상한 두 사람, 대니얼 카너먼(2002년 수상)과 리처드 H. 탈러(2017년 수상)의 연구이다.

카너먼은 직관적인 “빠른 사고”의 시스템1과 논리적인 “느린 사고”의 시스템2로 구성된다는 이중 과정 모델과, 사람은 이득보다는 손실을 과대하게 받아들이는 경향이 있다는 전망 이론을 제창했으며, 탈러는 가볍게 밀어줌으로써 행동을 유도하는 「넛지」(Nudge)라는 사고방식을 제창했다.

 

또한, 뇌 과학 분야에서 뇌의 의사 결정 메커니즘 연구도 진행되고 있다. 도파민 신경 세포의 보상 예측 오차 가설 등이 발견되었으며, 모델 프리 시스템에 의한 잠재적 의사 결정과 모델 기반 시스템에 의한 현시적 의사 결정이 협조 및 경쟁하면서 사람의 의사 결정이 작동하고 있다는 것이 밝혀졌다.

모델 프리 시스템은 사건과 보상 간의 관계를 직접적인 경험에 기반하여 확률적으로 연결한다. 모델 기반 시스템은 사건과 보상 간의 관계를 내부 모델로 구축하여 직접 경험하지 않은 경우에도 예측을 가능하게 한다. 이러한 두 가지 시스템은 이중 과정 모델과도 일치하며, 의사 결정이 합리성만으로 이루어지지 않는다는 것을 뒷받침한다.

 

이러한 인문ㆍ사회 과학 분야 및 뇌 과학 분야의 의사 결정에 관한 연구가 주로 인간 측에서 심화되어 온 반면, 최근의 정보 기술 발전, 웹 및 소셜 미디어의 보급은 의사 결정을 수행하는 인간의 환경을 크게 변화시켰다. 그 결과, 의사 결정 문제는 새로운 양상을 띠게 되었고, 이전과는 다른 어려움이 발생하고 있다. 오늘날 의사 결정 문제는 정보 기술과의 관련성이 매우 크다.

 

(2) 의사 결정 문제의 새로운 양상과 어려움

 

새롭게 발생하는 어려움을 나타내는 현상(문제)으로 두드러지는 4가지를 제시한다.

 

￭ 첫째는 중요한 요인ㆍ영향을 간과하는 문제이다. 예를 들어, 세계화된 비즈니스 경쟁 환경에서 전 세계 모든 지역, 예상치 못한 업종에서 새로운 경쟁자가 나타나고, 예상치 못한 법 규제나 소셜 미디어에서 예상치 못한 방식으로 논란이 발생할 수 있다.

방대한 정보가 넘쳐나고 사회가 국경을 초월한 오늘날, 의사 결정과 관련된 요인이나 의사 결정 결과의 영향에 방대한 가능성이 생겨나고, 사람이 머릿속으로 그 모든 가능성을 미리 생각하는 것은 매우 어렵다.

사이먼이 말한 제한된 합리성이 극도로 진행되어 문제가 심각화된 상황이다.

 

￭ 둘째는 소셜 미디어에 의한 사고 유도 문제이다. 웹이나 소셜 미디어를 이용한 정보 발신ㆍ교류가 확산되면서, 그것이 사람들의 의사 결정이나 여론 형성에 미치는 영향은 무시할 수 없는 수준이 되었다.

2016년 미국 대통령 선거는 그 두드러진 사례이며, SNS(Social Networking Service) 등 소셜 미디어를 이용한 정치 조작은 “디지털 게리맨더”라고 불리며, 가짜 뉴스가 사회 문제화 되었다.

SNS에서는 가치관이 자신과 가까운 상대와만 연결되고 자신의 가치관에 맞는 정보만 보는, 이른바 “필터 버블” 상태에 빠지기 쉬운 점도 SNS가 사고 유도 도구로 사용되기 쉬운 원인이 된다.

 

￭ 셋째는 가치관의 대립 심화, 사회 양극화 문제이다. 집단 합의 형성의 난항과 대립이 심화되는 경향이 강해지고 있다. 가치관의 대립은 오래전부터 발생해 온 현상이지만, 사회의 borderless化에 따른 관계자 범위 확대와 SNS에서의 동조 압력 및 에코 챔버 현상에 의한 의견 동질 집단 형성이 강화되면서 대립을 심화시키고, 사회의 양극화(Polarization)나 정치적 분열이라고 불리는 사태도 야기되고 있다.

 

￭ 넷째는 마치 진짜 같은 가짜 동영상ㆍ이미지의 유통 문제이다. 앞서 언급된 가짜 뉴스는 주로 언어(SNS 텍스트 등)로 전달되는 것이었지만, 심층 생성 모델에 의해 마치 진짜처럼 보이는 가짜 동영상이나 가짜 이미지가 쉽게 만들어지게 되었다(딥페이크 등).

특히 가짜 동영상은 진짜로 믿기 쉬워 정치인이나 유명인의 가상의 발언ㆍ행위 등을 만드는 데 악용되어 사회에 유통될 경우, 무엇이 진실이고 무엇이 가짜인지 진위를 잘못 판단할 위험이 증대되고 다양한 혼란이 발생할 것으로 우려된다.

더욱이 2020년에는 마치 사람이 쓴 듯한 자연스러운 가짜 문장을 생성할 수 있는 GPT-3라는 시스템도 등장했다. 또한 2022년 1월에는 GPT-3.5를 기반으로 대화에 최적화된 ChatGPT가 일반에 공개되었다. ChatGPT는 자연어 대화라는 이해하기 쉬운 인터페이스로 다양한 작업에 대해 마치 인간 전문가와 같은 자연스럽고 상세한 응답을 제공하여 큰 화제가 되고 있지만, 그럴듯한 응답에 허위가 포함되는 경우가 많아 사람들에게 허위를 가르치거나 악용될 수 있다는 우려가 크다.

 

위 문제들에서 보듯이, (1)의사 결정과 관련된 요인이나 의사 결정 결과의 영향에 방대한 가능성이 발생하게 된 점, (2)악의적이거나 선동적인 의도를 가진 타인의 의사 결정에 영향을 미치는 정보 조작이 용이해진 점이 의사 결정 난이도 상승의 두드러진 원인이다.

 

(3) 의사 결정 지원을 위한 기술군

 

개인ㆍ집단의 의사 결정 프로세스(합의 형성 포함)에 대응하여 관련 기술군을 나타냈다. Simon의 3단계에 해당하는 (B)각 개인의 의사 결정 단계를 중심으로, (A)의사 결정의 메타 기능과 (C)의사 결정에 관한 기초 과학을 상하로 배치한 3층 구조로 기술군을 정리했다. 이하, 이들을 6가지 기술군으로 나누어 현재의 노력과 향후 방향성에 대해 서술한다.

 

<그림1>  의사 결정 지원

자료 : 일본 연구개발전략센터(CRDS)

 

① 방대한 가능성의 탐색ㆍ평가

 

위에 제시된 원인에 대한 대책으로 우선 요구되는 것은, 의사 결정과 관련된 요인이나 의사 결정 결과의 영향에서 방대한 가능성을 탐색하고, 이들의 조합 중에서 목적에 맞는 것을 평가하여 좁혀나가는 기술이다. 멀티 에이전트 시뮬레이션에 의한 What-If 분석, 통계적 인과 추론에 의한 선택지 평가ㆍ반사실적 예측, 자연어 처리에 의한 인과 관계 탐색 등의 연구 개발이 진행되고 있다. 자연어 처리에 의한 인과 관계 탐색을 이용한 시스템의 예로는 일본의 정보통신연구기구(NICT)에서 개발된 「왜?」 「어떻게 될까?」 등 인과 관계에 관한 질문 응답을 다룰 수 있는 WISDOMX가 있다.

그러나 다양한 분야ㆍ문맥에서 추론이 가능하도록 하려면 상식을 포함하여 추론에 필요한 지식 획득이나, 추론이 성립하는 전제 조건의 정밀화 등, 해결해야 할 기술적 과제가 아직 많이 남아 있다.

 

② 자동 의사 결정ㆍ자동 협상

 

미국 Gartner社는 데이터 분석의 발전을 기술적 분석(Descriptive: 무엇이 일어났는지), 진단적 분석(Diagnostic: 왜 그것이 일어났는지), 예측적 분석(Predictive: 앞으로 무엇이 일어날지), 처방적 분석(Prescriptive: 무엇을 해야 하는지)이라는 4단계로 자동화가 진행된다고 보았고, 4단계인 처방적 분석은 “의사 결정 지원”과 “자동 의사 결정”이라는 두 가지 방식이 있다고 말한다. 이 단계가 진행될수록 데이터 분석의 고객 가치가 높아지며, 비즈니스 경쟁도 처방적 분석으로 나아가고 있다.

“자동 의사 결정”은 데이터 분석 결과에 기반하여 무엇을 해야 할지라는 행동까지 자동 결정하는 것이며, “의사 결정 지원”은 행동 후보를 사람에게 제시하고, 어떤 행동을 실행할지는 최종적으로 사람이 결정하는 것이다.

 

언뜻 보면, 의사 결정 지원보다 자동 의사 결정이 더 발전한 것처럼 보이지만, 현재 의사 결정 문제의 성격이 다르다고 판단하는 것이 적절하다.

즉, 비용, 정확도, 속도, 매출 등과 같이 명확한 지표(가치관에 해당)가 정해져 있고, 이를 평가 함수/효용 함수로 합리적인 해가 하나 정해지는 의사 결정 문제는 기계 학습 및 최적화와 같은 AI 기술을 사용하여 "자동 의사 결정"이 가능해진다.

반면, 다양한 가치관이 혼재하는 상황이거나 가치관이 불확실한 상황에서의 의사 결정 문제는 최종 결정에 사람이 관여하는 "의사 결정 지원" 형태가 기본이 된다. 이와 관련하여 사람 참여형(Human-in-the-Loop) AIㆍ기계 학습이 고려되고 있다.

 

자동 의사 결정에는 강화 학습이나 예측형 의사 결정 최적화 등, 기계 학습ㆍ최적화 기술을 기반으로 한 방식이 개발ㆍ적용되고 있다.

강화 학습은 학습 주체가 어떤 상태에서 어떤 행동을 실행하면 어떤 보상을 얻는 유형의 문제를 다루는 기계 학습 알고리즘이다. 장래에 더 많은 보상을 얻을 수 있도록 행동을 선택하는 의사 결정 방식을 행동 선택과 보상 수령을 반복하며 학습해 나간다. 바둑에서 세계 최고 프로 기사에게 승리한 Google DeepMind의 AlphaGo에 사용된 것으로 잘 알려져 있다. 강화 학습은 대량으로 시행착오를 겪을 수 있는 종류의 의사 결정 문제에 적합하다.

반면, 고전적인 오퍼레이션즈 리서치(Operations Research: OR)에서 다루는 유형의 의사 결정 문제(예: 대규모 시스템 운영 계획이나 소매업 상품 가격 설정 전략 등)는 의사 결정 실패 시의 피해가 크고, 대량의 시행착오가 어렵다. 이러한 유형의 문제를 기계 학습의 대량 예측 출력 (예측이 맞을지는 확률적)에 기반한 OR 문제로 간주하는 새로운 접근 방식이 예측형 의사 결정 최적화이다.

 

또한, 집단의 의사 결정을 서로 다른 가치관(효용 함수)을 가진 에이전트 간의 협상으로 정식화한 자동 협상 기술 연구도 주목받고 있다.

자동 협상은 각자의 효용 함수(즉, 각자의 가치관)를 가진 여러 지능형 에이전트 (AI 시스템)가 대치하는 상황에서, 일정한 협상 프로토콜에 따라 합의안을 성공적으로 찾는 기술이다. 어떤 문제에 대해 여러 이해관계자 간에 대립하거나 협력하려 할 때, 협상 프로토콜이나 효용 함수를 정해 에이전트에게 대행시켜 자동 협상을 수행한다면, 인간끼리 협상하는 것보다 그 조건에서 생각할 수 있는 최적의 합의점에 더 빠르게 도달할 것으로 기대된다.

2010년부터 매년 국제 자동 협상 에이전트 경진 대회 ANAC(Automated Negotiating Agents Competition)이 개최되고 있으며, 이를 공통의 장으로 기술 발전이 진행되어 왔다. 멀티 에이전트 시스템의 사고방식이 기본이며, 응용 사례를 포함하여 “AI 에이전트 기술”에서 다루고 있다.

 

③ 규모 의견 수렴ㆍ합의 형성

 

위에서 언급된 자동 협상은 서로 다른 가치관을 가진 사람들 간의 대결이라는 측면이 있으며, 집단 의견 수렴 및 합의 형성을 목적으로 한다면 건설적인 논의 진행 방식이나 상대에 대한 공감을 통한 가치관 변화 측면, 그리고 퍼실리테이터(facilitator)의 역할이 중요해진다.

 

집단의 의견 수렴 및 합의 형성을 위해 정보 기술을 활용하는 시스템은 예전부터 그룹웨어 및 CSCW(Computer Supported Cooperative Work) 연구 분야에서 시도되었다.

예를 들어, 이슈(과제, 논점)를 기반으로 트리 구조 표현으로 정리하는 퍼실리테이션 기법인 IBIS(Issue Based Information Systems)법을 그래픽으로 구현한 gIBIS라는 의사 결정 지원 도구가 잘 알려져 있다.

한편, 정치학 분야에서는 어떤 주제에 대해 답변을 얻기 전에 답변자에게 그룹 토론을 시키는 토론형 여론 조사(Deliberative Poll)가 숙고에 기반한 민주주의 방법론으로서 유효하다고 인식되기 시작했다.

 

최근에는 집단 지성의 수집ㆍ활용에 대한 학제적 연구가 진전되고 있으며, 미국 MIT에 2006년 설립된 MIT Center for Collective Intelligence(집단 지성 연구 센터: CCI)가 주목받고 있다. 인터넷을 이용한 대규모 논의를 논리 구조의 시각화를 통해 지원하는 시스템 Deliberatorium이나 지구 온난화 문제를 다루고 해결 방안을 협의하는 시스템 The Climate CoLab 등의 프로젝트를 추진하고 있다. 나아가, CCI의 총괄인 Thomas W. Malone은 2018년 저서에서 인간의 집단 지성에 AI와의 협업을 포함한 Superminds의 방향성을 제시했다.

 

주요 사례로는 그러한 방향에 따라 일본 나고야공업대학의 이토 타카유키 연구실에서는 논의 구조의 시각화에 더해 에이전트 기술을 통한 퍼실리테이터 기능을 도입한 대규모 합의 형성 지원 시스템 D-Agree를 개발했고, 대학 창업 기업 Agree Bit사도 설립했다. D-Agree는 일본 내 나고야市의 타운 미팅 등에서 사회 실험 적용 실적을 가지고 있으며(D-Agree의 전신 Collagree도 실적 있음), 해외(아프가니스탄 카불 시 등)로도 전개된 바 있다.

 

④ 다양한 가치관의 파악ㆍ시각화

 

다양한 가치관이 혼재하는 상황에서의 의사 결정 및 합의 형성을 위해서는 그 상황과 가치관의 차이를 시각화하는 기술이 유효하다. 찬성ㆍ반대 각 입장에서 의견과 근거를 대비시키는 언론 맵 생성, 주장ㆍ사실 등에 대한 진술과 그 관계(근거ㆍ지지, 반론ㆍ비판 등)를 추정하는 논증 마이닝(Argumentation Mining), 의제에 대해 찬성ㆍ반대 입장에서 토론을 전개하는 시스템(IBM의 「Project Debater」, 히타치의 「디베이트 AI」 등)이 연구 개발되고 있다.

응용을 더욱 집중하여 논리 구축ㆍ추론을 심화하는 연구로 법학 AI도 있다. 이들은 자연어 처리 기술을 사용한 방법이지만, 집단의 상호 이해 증진을 위해서는 VR(가상현실) 기술이나 게이밍 기법을 사용하여 상대방의 입장을 체험하게 하는 접근 방식도 효과적이다.

 

Project Debater는 2018년 6월 미국 샌프란시스코에서 개최된 Watson West 행사에서 이스라엘의 2016년 디베이트 챔피언과 라이브 대결을 펼쳐 "정부 지원 우주 탐사를 실시해야 하는가"라는 의제에서 승리하며 화제가 되었다.

뉴스 기사와 학술 논문 3억 건을 수집ㆍ구조화하여 사용했으며, 2011년 미국 퀴즈 프로그램 Jeopardy!에서 인간 챔피언에게 승리한 IBM Watson의 자연어 처리에 더해, 지식 그래프 및 논증 마이닝 등의 기술이 결합되어 실현된 것으로 보인다.

 

⑤ 가짜 정보 대책

 

소셜 미디어에서의 정보 전파 경향과 그곳에서 발생하는 논란, 가짜 뉴스, 에코 챔버, 양극화 등의 현상을 파악ㆍ분석하는 것은 가짜 정보 대책을 위한 기초 연구가 된다.

가짜 뉴스에 대항하기 위해 발신된 정보가 객관적 사실에 기반한 것인지 조사하고, 그 정보의 정확성을 평가ㆍ공표하는 팩트 체크라는 노력이 시작되었다. 팩트 체크를 수행하는 단체로서 비교적 일찍 설립된 미국의 Snopes(1994년~)와 PolitiFact(2007년~)가 잘 알려져 있으며, 2022년 5월 허위정보 유포 및 가짜뉴스 대응기구로 '허위정보 관리위원회' 설립을 발표했다.

 

이러한 움직임은 전 세계적으로 확산되고 있으며, 가까운 일본에서는 2017년에 Fact Check Initiative Japan(FIJ), 2022년에 Japan Fact-check Center(JFC)가 발족했다.

또한, NPO 법인 아이 아시아가 2019년에 팩트 체크 부문을 개설하고, 2020년부터 NPO 법인 인팩트(Infact)로 활동하고 있다. 2015년에는 국제적으로 인증된 팩트 체크 단체들로 구성된 International Fact-Checking Network(IFCN)이 발족했다.

국내에서는 방송통신심의위원회와 국내외 포털ㆍ플랫폼 사업자가 참여하는 ‘가짜뉴스 대응 민관협의체’가 출범했다. 국내외 포털ㆍ플랫폼 사업자로는 네이버, 카카오, 구글, 메타가 참여했다.

 

다만, 대량으로 발신되는 정보를 신속하게 확인하는 데는 인력만으로는 한계가 있다. 이에 따라 컴퓨터 처리를 통해 가짜 뉴스 탐지를 효율화하려는 시도가 진행되고 있다. 또한, 가짜 영상ㆍ가짜 이미지ㆍ가짜 음성 등의 판별에 대해서는 원본 영상ㆍ이미지ㆍ음성에서 조작되지 않았는지, 당사자가 실제로 발언이나 행동을 하지 않은 허위 영상ㆍ이미지ㆍ음성인지 등을 영상ㆍ이미지ㆍ음성의 특징 분석을 통해 판별하는 것도 이루어지고 있다.

그러나 페이크 검출 기술과 페이크 생성 방법은 종종 쫓고 쫓기는 관계이므로, 기술 개발뿐만 아니라 미디어 리터러시 교육ㆍ훈련 및 표현ㆍ언론의 자유를 침해하지 않도록 법률ㆍ규칙 정비를 통한 대책도 추진해야 한다.

 

⑥ 의사 결정 관련 기초 과학

 

정보 기술을 통해 인간의 의사 결정을 지원하기 위해서는, 애초에 인간의 의사 결정이 어떤 것이고 어떻게 되어야 하는지를 이해하는 것이 중요하다. 이미 언급했듯이 행동 경제학이나 뇌 과학 분야에서는 의사 결정 과정의 모델과 메커니즘이 연구되어 왔다. 또한, 사회 심리학ㆍ인지 과학 분야에서 연구되는 확증 편향을 포함한 인지 편향도 의사 결정에 크게 관련되어 있다. 더 나아가, 인간의 의사 결정 및 합의 형성을 지원하는 기능이 ELSI(Ethical, Legal and Social Issues: 윤리적ㆍ법적ㆍ사회적 과제) 관점에서 적절한지에 대해서도 항상 고려해야 한다.

 

 

[新정부가 육성하는 첨단전략산업, 인공지능(AI) 유망 분야별 기술, 시장 동향과 주요 기업별 사업 전략] 보고서 상세보기

https://www.irsglobal.com/shop_goods/goods_view.htm?category=02000000&goods_idx=99596&goods_bu_id=