현재 디지털 기술의 급속한 성장은 조직의 디지털 성과 및 워크플로우를 향상시키는 등 산업 전반에 디지털 영향력을 확대하며 산업의 지형을 송두리째 바꾸고 있는 가운데, 기업이 디지털 시대에 접어들어 경쟁력이나 관련성을 유지하기 위해서는 반드시 인공지능 기반 디지털 기술을 수용해야 한다는 인식이 팽배해지고 있다.

인공지능은 인간 지능을 복제한 현대 기술의 클러스터(cluster)로 뉴노멀 시대 일상의 위기를 극복하기 위해 디지털 트랜스포메이션으로의 변환이 요구되자, 점점 더 많은 기업이 인공지능 채택에 적극적으로 뛰어들면서, 그 수요가 매년 40%씩 증가해 비즈니스의 새로운 지평을 열고 있다.

이처럼 수요가 증가하면서 AI 기술개발도 가속화되어 기계학습 기반 자연어처리, 패턴인식 등에서 뛰어난 성과를 보이며, 4차 산업혁명을 비롯해, 디지털 트랜스포메이션과 메타버스 세계를 가능하게 하는 등 이미 우리 삶을 바꾸고 있는 가운데, 많은 기업들은 제품 개발을 개선하여 효율성을 높이고, 고객에게 더 나은 서비스를 제공함으로써 경쟁업체에 대해 우위를 점하기 위해 인공지능 도입에 적극적인 모습을 보이고 있다.

이미 인공지능(AI)은 오늘날 기업이나 산업분야에 엄청난 파급력을 미치고 있으며, 아울러 누구도 부정할 수 없는 인공지능을 기반으로 한 디지털 시대에 돌입하고 있지만, 현재 인공지능은 문제 해결, 질병 진단과 같은 인간의 지능이 필요한 작업을 수행하는 수준에 머물러 있을 뿐, 아직 우리 삶의 구석구석을 지배하는 AI 수준에는 도달하지 못하고 있다.

이처럼 AI 기술이 다양한 신기술과 접목되면서 일상의 편의성을 제공하고 있지만, 지금까지 개발된 AI 알고리즘은 일반적인 문제를 해결하기 위한 방식으로 기술적 진보에도 불구하고, 특정 비즈니스의 정확한 요구사항에 따라 조정하는 것이 불가능하기 때문에 각 기업에 초점을 맞춘 인공지능 기술을 제공하여 운영 효율성을 높일 수 있도록 새로운 방식의 AI가 요구되고 있다.

현재 인공지능은 수집한 데이터를 사용하여 일반적인 결과에 다다르기 때문에 보편적인 작업면에서는 뛰어난 성능을 발휘하고 있으나, 기업이나 조직마다 집중 육성하는 분야가 다르기 때문에 요구사항이나 비즈니스 프로세스 또한 다를 수밖에 없는 상황에서 각 기업의 고객과 산업 특성에 초점을 맞춰 특정 작업에서 높은 성능을 이끌어냄으로써 효율성과 수익성을 향상시키기 위해서는 기업 상황에 맞춘 맞춤형(custom) AI가 요구되고 있다.

한편, 이처럼 인공지능 발전으로 비즈니스가 확대되고 있는 상황에서 AI가 결정한 최종 결과와 도출 과정에서 훈련데이터가 편향된 데이터를 기반으로 하거나 알고리즘의 악의적 조작이 개입될 경우, 편향된 판단을 내릴 위험이 충분하다는 타당성 오류가 발견되면서 AI 개발과 활용은 현실적인 문제로 이어지고 있다.

특히 자율주행 기술은 데이터 학습을 통해 복잡한 분야에도 적용 가능한 기계학습의 장점을 기반으로 운전자가 핸들, 가속페달, 브레이크 등을 조작하지 않아도 스스로 목적지까지 찾아가는 등 기술적 진화를 거듭하면서, 현재 수많은 자율주행 자동차가 도로 위를 달리면서 실전 테스트를 진행하며 상용화에 가깝게 접근하고 있지만, 그 이면에는 원인을 파악할 수 없는 사고와 같은 위험성이 존재하고 있다.

 

이러한 가운데 ‘설명 가능한 인공지능(XAI)’은 이에 대한 대안의 하나로 떠오르고 있는데, XAI는 AI의 설명력을 보완해 ‘인공지능이 왜 이런 결정을 내렸는지’, ‘인공지능이 의사결정을 통해 수행한 결과가 왜 성공 또는 실패했는지’, ‘인공지능의 의사결정이 실패한 이유가 무엇 때문이었는지’, 그리고 ‘어떤 경우에 인공지능이 수행한 의사결정을 신뢰할 수 있는지’ 등 예측과 판단에 대한 근거를 제공함으로써 사용자가 합리적인 의사결정을 할 수 있도록 지원할 것으로 예상하고 있다

 

이처럼 XAI는 설명이나 해석을 통해 사용자에게 최종 결정을 내리기 전에 AI시스템이 내린 결정이 최선의 결정이었는지를 확인할 수 있도록 함으로써 위험성에서 벗어나 보다 신뢰할 수 있는 결과에 도달할 수 있을 뿐만 아니라, AI 편향성에 의한 기업 간 담합과 같은 기업의 악용을 막을 수 있을 것으로 분석하고 있다.

 

이 같은 설명가능 인공지능(XAI)은 의심의 여지없이 사용자의 신뢰, 확신 및 투명성을 높여줄 인공지능(AI)의 다음 단계로 설명 가능성을 기반으로 AI와 상호작용하는 사용자가 AI의 결론과 추천을 이해하게 되면, 신뢰를 쌓고 효과적인 인간 감독이 가능해지기 때문에 자율주행을 비롯해 딥러닝 기반 인공지능의 완성도를 이끌 것으로 분석하고 있다.

 

이에 IRS글로벌은 다양한 사업 분야에 활용될 맞춤형 인공지능과 설명 가능한 인공지능(XAI)의 최신 기술 트렌드 및 향후 전망에 대해 면밀히 조사, 분석하였다.

모쪼록 본 보고서가 맞춤형 인공지능과 설명 가능한 인공지능(XAI) 관련 사업을 추진하는 관계자뿐만 아니라, 관심을 가지고 계신 모든 분들의 업무에 미력하나마 도움이 되길 바랍니다.

 

 

[다양한 산업 분야에 활용될, 맞춤형 인공지능ㆍ설명 가능한 인공지능(XAI) 혁신 기술 트렌드 및 향후 전망] 보고서 상세보기

 

https://www.irsglobal.com/shop_goods/goods_view.htm?category=02000000&goods_idx=85445&goods_bu_id=