인공지능(AI)의 활용에 대한 기대가 전 세계적으로 고조되는 지금, 새롭게 주목을 받기 시작한 키워드가 있다. 바로 ‘사람 중심 AI(human centered AI)’다.

2019년 3월, 구글의 유명한 AI 연구자였던 페이페이 리를 중심으로 미국 스탠퍼드 대학교에서 ‘인간 중심 AI 연구소(HAI)’를 발족했다. 4월에는 일본의 내각부가 ‘AI 사회 원칙’을 책정했는데, 거기에도 ‘인간 중심의 원칙’이 실려 있다.

모두 AI가 사회에 미치는 이익을 전제로 하면서도, 인간에 대한 단점에도 주의를 기울여야 한다는 이념을 가지고 있다. 동시에 세계 각지에서는 사람 중심 AI를 표어로 내세운 연구ㆍ개발이 이루어지고 있다.

그렇다면 사람 중심 AI는 어떤 AI를 가리키는 것일까. 관련된 자료나 관계자의 발언들을 살펴보더라도 명확한 답은 없다. 애초에 사람과 AI의 정의조차 정해져 있지 않은 상황이므로, 의논은 이제 막 시작됐을 뿐이라 할 수 있다.

그렇지만 세계 각국에서 표면화되기 시작한 AI의 문제점으로 인해 ‘네거티브 리스트 방식’으로 사람 중심의 AI를 모색하려 하는 움직임이 있다. 여기서는 그 몇 가지 예를 소개한다.

먼저 사람 중심 AI는 ‘공평한 AI’여야 한다는 논점이 있다. 기계학습에서는 학습용 데이터에 치우침이 있으면, 편견이나 차별이 증강된다. 해외에서는 특정 인종만 재범률이 높은 것으로 판정되거나 얼굴 인증 시스템의 인식률이 낮아 불이익을 당하는 사태가 발생하고 있다.

요즘에는 채용이나 면접에서 AI가 사용되는 경우가 증가했는데, 성별이나 인종에 따라 편견에 치우친 판정을 내리지 않는 AI가 필요하다는 것도 공평한 AI의 결론에 포함된다.

다음으로 ‘설명 가능성’ 및 ‘투명성’도 사람 중심 AI를 실현하는 데 있어 필요한 요소다. 딥러닝은 높은 정밀도를 보이지만, 사람이 이해할 수 있도록 이유를 설명할 수는 없다. 이것은 이른바 ‘블랙박스 문제’인데, 결과적으로 무언가 문제가 발생했을 때 ‘원인 불명’이나 ‘책임 판단’을 할 수 없으며, 그렇게 되면 사람에게 불이익이 있을 수 있다.

세 번째는 ‘공격 및 악의적인 AI’다. 악의를 가진 사람이 학습용 데이터를 수정하거나 오인식을 유발시킬 경우, 사람 중심 AI는 이에 견딜 수 있어야 한다. 예를 들어, 악의를 가진 사람들이 마이크로소프트의 AI 챗봇 ‘Tay’에 대해 편중된 데이터를 ‘제공’하여, 차별적이라는 이유로 하루 만에 가동을 중지했다.

또한 오늘날에는 사람이 깨닫지 못하는 아주 작은 가공이나 세공으로 인해 영상 인식 AI가 편견을 가지도록 하는 기술(적대적 샘플)도 화제가 되었다. 공격성이나 악의를 가진 AI는 사람의 생명을 지킨다는 관점에서, 특히 자율주행 등의 분야에 있어 중요시되는 요소이다.

사람 중심 AI는 ‘사람의 주체적인 의사결정을 해치치 않는 AI’여야 한다는 의견도 있다.

이것은 SNS 등 디지털 공간에서의 대량 텍스트 생성, 또는 딥러닝 등 동영상 생성 기술의 남용ㆍ악용을 상정한 의견이다. AI가 보급되면 사람의 눈으로는 분별할 수 없는 정교한 대량의 정보가 나오게 된다.

거기에는 페이크뉴스나 선전 등 특정한 사람들의 이해(利害)에 근거한 정보도 다수 포함되며, AI는 그러한 악의적인 정보를 제공하는 데 가담해서는 안 된다는 것도 있다.

또한 사람 중심 AI는 ‘일을 빼앗지 않는 AI’여야 한다는 의견도 있다. 다만, AI는 애초에 일을 대체하기 위해 연구 및 개발된 것이므로, 이러한 의견은 일부에 지나지 않는다.

이렇게 보면, 사람 중심 AI에 대한 기술적인 요구가 매우 높으며, 실현되기까지는 아직 멀었다는 생각이 든다. 또한 앞으로 AI가 미치게 될 불이익이 밝혀질 때마다 그 개념 및 콘셉트가 업데이트되어야 한다. 더 나아가, 실현하기 어려운 만큼 실현된다면 큰 상업 기회가 될 것이다.

하지만 한편으로 ‘공평한 AI’는 개개인의 사람, 또는 사회 자체가 공평해야만 실현되는 것이 아닐까 하는 의문도 생긴다. 기술 이전에 그것을 다루는 사람의 생각과 가치관이 크게 영향을 미치기 때문이다.

인공지능이 사회에 보급되는 것을 막을 수 없는 지금, ‘사람 중심 AI’와 함께 ‘사람 중심의 사람ㆍ사회’라는 철학도 심화되어야 할지 모른다.

이에, 우리 정부도 2021년 11월에 ‘사람중심 인공지능 핵심원천기술개발’ 사업에 대한 사업설명회를 개최했다.

본 사업은 차세대 인공지능 기술 확보를 목적으로 2022년부터 5년간 총사업비 3,018억 원이 투자되는 차세대 인공지능 핵심원천기술개발 사업이다.

딥러닝 기반의 현 인공지능 기술의 학습능력 및 활용상 한계를 극복하여 사람 중심 인공지능 구현하기 위한 차세대 인공지능 핵심원천기술 확보를 추진할 예정이다.

동 사업에서는 ‘인공지능 학습능력 개선’과 ‘인공지능 활용성 개선’을 위한 기술개발이 추진된다.

먼저, 인공지능 학습능력 개선을 위한 기술개발은 ➊효율적으로 학습하고, ➋타 분야 확장이 용이하며, ➌지속적으로 성장 가능한 인공지능 기술개발을 목표로 추진되며,

①자기지도학습, ②메타학습, ③강화학습, ④지식기반추론, ⑤상식기반추론, ⑥학습역량 진단 및 개선, ⑦평생학습, ⑧실세계 변화 적응 등 8개 세부 기술에 총 22개 과제가 진행될 예정이다.

특히, 인공지능 학습능력 개선 기술개발은 하나의 목표 달성에도 다양한 방법론이 존재할 수 있고, 범용기술로써 여러 분야에 적용될 수 있는 등 인공지능 기술의 특성을 고려하여 동일한 과제를 수행하는 수행기관을 복수(3개 기관)로 선정하는 복수형 과제로 구성되어 있다.

인공지능 활용성 개선을 위한 기술개발은 ➍신뢰할 수 있고, ➎인간과 원활하게 소통할 수 있는 인공지능 기술 개발을 목표로 추진되며,

⑨설명가능한 인공지능, ⑩공정한 인공지능, ⑪복합대화기술, ⑫에이전트 간 협업기술, ⑬교감형 인공지능 등 5개 세부 기술에 총 13개 과제가 진행될 예정이다.

인공지능 활용성 개선 기술개발 과제는 세부 기술 내에서 과제 간 연계가 중요한 점을 고려하여 병렬형 과제로 구성되어 추진된다.

이에, IRS글로벌은 관계 실무연구자들에게 기초 자료로 도움이 되길 바라는 마음에, 위의 13개 키워드를 SCOPUS 데이터베이스에서 추출하여 통계 분석하였다.

자세한 내용은 아래 보고서에 수록되어 있습니다.