코로나 팬데믹과 미중 무역전쟁으로 세계 경제 성장이 둔화됨에도 불구하고, 최근 전 산업은 4차 산업혁명이라는 변화로 일렁이고 있으며, 다양한 차세대 ICT 기술들이 주목을 받고 있는 가운데 AI(인공지능) 기술은 가장 혁신적인 기술로, 글로벌 기업들은 주도권 확보와 생태계 확대를 위한 전략을 적극 추진중이며, 오픈소스화를 통한 플랫폼 강화에 나서고 있는 실정이다. 음성인식 및 영상인식 기술을 기반으로 한 다양한 AI제품과 서비스는 AI스피커 등 개인비서에서 나아가 로봇과 가전 분야로 확장되어 스마트 홈, 스마트 시티 등으로 적용이 확대되고 있으며, 자율주행자동차 개발이나 정밀의료를 위한 스마트 헬스케어 등 의료 분야의 혁신에 기여하고 있다.

이러한 다양한 산업뿐만 아니라 AI기술의 확보와 활용 능력이 기업과 국가, 개인의 경쟁력을 좌우하게 될 것으로 분석되고 있으며, 최종적으로는 인간의 삶 자체를 변화시키는 핵심 기술로 진화하고 있다.

이처럼 인공지능(AI)의 활용에 대한 기대가 전 세계적으로 고조되는 지금, 새롭게 주목을 받기 시작한 키워드가 있다. 바로 ‘인간 중심 AI(human centered AI)’다.

2019년 3월, 구글의 유명한 AI 연구자였던 페이페이 리를 중심으로 미국 스탠퍼드 대학교에서 ‘인간 중심 AI 연구소(HAI)’를 발족했으며, 4월에는 일본의 내각부가 발표한 ‘AI 사회 원칙’에도 ‘인간 중심의 원칙’이 실려 있다.

모두 AI가 사회에 미치는 이익을 전제로 하면서도, 인간에 대한 단점에도 주의를 기울여야 한다는 이념을 가지고 있다. 동시에 세계 각지에서는 인간 중심 AI를 표어로 내세운 연구ㆍ개발이 이루어지고 있다.

그렇지만 세계 각국에서 표면화되기 시작한 AI의 문제점으로 인해 ‘네거티브 리스트 방식’으로 인간 중심의 AI를 모색하려 하는 움직임도 있다.

먼저 인간 중심 AI는 ‘공평한 AI’여야 한다는 논점이 있다. 기계학습에서는 학습용 데이터에 치우침이 있으면, 편견이나 차별이 증강된다. 해외에서는 특정 인종만 재범률이 높은 것으로 판정되거나 얼굴 인증 시스템의 인식률이 낮아 불이익을 당하는 사태가 발생하고 있다.

다음으로 ‘설명 가능성’ 및 ‘투명성’도 인간 중심 AI를 실현하는 데 있어 필요한 요소다. 딥러닝은 높은 정밀도를 보이지만, 인간이 이해할 수 있도록 이유를 설명할 수는 없다. 이것은 이른바 ‘블랙박스 문제’인데, 결과적으로 무언가 문제가 발생했을 때 ‘원인 불명’이나 ‘책임 판단’을 할 수 없으며, 그렇게 되면 인간에게 불이익이 있을 수 있다.

세 번째는 ‘공격 및 악의적인 AI’다. 악의를 가진 사람이 학습용 데이터를 수정하거나 오인식을 유발시킬 경우, 인간 중심 AI는 이에 견딜 수 있어야 한다. 예를 들어, 악의를 가진 사람들이 마이크로소프트의 AI 챗봇 ‘Tay’에 대해 편중된 데이터를 ‘제공’하여, 차별적이라는 이유로 하루 만에 가동을 중지했다.

인간 중심 AI는 ‘인간의 주체적인 의사결정을 해치치 않는 AI’여야 한다는 의견도 있다. 이것은 SNS 등 디지털 공간에서의 대량 텍스트 생성, 또는 딥러닝 등 동영상 생성 기술의 남용ㆍ악용을 상정한 의견이다. AI가 보급되면 인간의 눈으로는 분별할 수 없는 정교한 대량의 정보가 나오게 된다. 거기에는 페이크뉴스나 선전 등 특정한 사람들의 이해(利害)에 근거한 정보도 다수 포함되며, AI는 그러한 악의적인 정보를 제공하는 데 가담해서는 안 된다는 것도 있다.

이렇게 보면, 인간 중심 AI에 대한 기술적인 요구가 매우 높으며, 실현되기까지는 아직 멀었다는 생각도 든다. 또한 앞으로 AI가 미치게 될 불이익이 밝혀질 때마다 그 개념 및 콘셉트가 업데이트되어야 한다. 반면, 실현하기 어려운 만큼 실현된다면 비즈니스 기회가 클 것으로 예상된다.

2021년 11월, 우리 정부도 ‘사람중심 인공지능 핵심원천기술개발’ 사업에 대한 사업설명회를 개최했다. 본 사업은 차세대 인공지능 기술 확보를 목적으로 2022년부터 5년간 총사업비 3,018억 원이 투자되는 차세대 인공지능 핵심원천기술개발 사업이다.

딥러닝 기반의 현 인공지능 기술의 학습능력 및 활용상 한계를 극복하여 사람 중심 인공지능 구현하기 위한 차세대 인공지능 핵심원천기술 확보를 추진할 예정이다.

이에, IRS글로벌은 우선 ‘사람중심 인공지능 핵심원천기술개발’의 13개 분야의 연구동향 분석에 중점을 두었으며, 뿐만 아니라 주요 산업 분야별 AI 활용 동향과 사업화 전망까지 전반적인 관련 정보들을 종합적으로 분석 정리하여 국내 기업의 기술개발과 대응 전략 수립에 유용한 참고자료가 될 수 있기를 기대해 본다.

[(사람중심) 인공지능 핵심원천기술 연구개발 동향과 시장ㆍ사업화 전망] 보고서 상세보기

https://www.irsglobal.com/shop_goods/goods_view.htm?category=02000000&goods_idx=85615&goods_bu_id=