출처 : https://www.tkfd.or.jp/research/detail.php?id=4553

1) 영국의 규제 상황

영국은 탈퇴한 EU와 어느 정도는 발걸음을 맞추면서도 AI 관련 글로벌 리더가 되는 것을 목표로 하고 있다. 하지만 영국에서는 EU의 AI법에 대응하는 입법의 움직임이 없으며, 생성형 AI에 대한 규제도 그에 특화된 법률 제정의 움직임도 없다.

2021년 9월에는 ‘영국을 세계적인 AI 대국으로 만들기’ 위해 10개년 계획을 제시하고, 생성형 AI의 활용에도 긍정적인 자세를 보였다. 2023년 3월에는 AI 규제에 관한 화이트페이퍼가 발표되었고, 2024년 2월에는 해당 화이트페이퍼에 대한 정부 회답이 제시되었다. 거기서는 안전성 · 보안성 · 견실성, 적절한 투명성과 설명 가능성, 공평성, 설명 책임과 거버넌스, 그리고 경쟁 가능성과 구제라는 5가지 원칙에 따라 AI 규제를 진행하되, EU와 같이 AI 전반에 대한 법률을 정하여 규제해야 한다고 하였다. 2024년 3월에는 해당 회답을 따르는 듯 간단한 법률 ‘AI(규제)법’만을 제정했고, 규제를 진행하기 위한 AI Authority라는 새로운 기관을 설립했다.

생성형 AI로 인해 문제가 더욱 증가하고 있는 가짜 정보에 대한 대응을 포함하여 2023년 10월에는 온라인 안전법이 발표되었다.

저작권법을 중심으로 하는 지적재산의 관점에서는 생성형 AI가 확대되기 이전부터 의논이 이루어졌으며, AI(규제)법에서는 생성형 AI에게 학습시키는 데이터가 저작권법상 적법할 것을 요구한다.

개인정보 보호와 관련해서는, 영국에서는 EU의 GDPR에 대응하는 데이터 보호법에 근거해 있다. AI와 데이터 보호에 관해서는, Information Commissioner Office가 2023년 3월 15일에 가이던스를 갱신했고, 2023년 4월 3일에 생성형 AI에 관한 8가지 유의 사항을 제시했다.

의료ㆍ의학 연구에 관한 프라이버시 등의 보호는 데이터 보호법 외에 관습법(소프트 로, soft law), 국민보건서비스(NHS)의 관련법을 통해 이루어진다. 연구 및 정책 목적에 대한 NHS의 2차 이용에 관해서는 옵트아웃할 수 있다.

또한 의약품ㆍ의료기기의 치험 및 임상시험과 관련해서는, 2002년의 Medical Device Regulation, 2004년의 The Medicines for Human Use (Clinical Trials) Regulations, 2012년의 Human Medicines Regulations를 따라 Medicines and Healthcare products Regulatory Agency(MHRA)의 승인을 얻어야 한다.

2) 일본의 규제 상황

일본의 AI 관련 규제로는 2018년에 저작권법 개정 시 신설된 제30조 4에 근거하여 생성형 AI에 관해서도 적법하게 학습할 수 있도록 하고 있다. 하지만 국제적인 의논을 고려하여 해당 조문의 재검토를 포함한 검토가 이루어져, 2024년 3월 15일에 문화심의회 저작권분과회 법제도소위원회가 ‘AI와 저작권에 관한 개념에 대하여’라는 보고서를 만들었고, 2024년 7월 31일에는 문화청 저작권과가 ‘AI와 저작권에 관한 체크리스트 & 가이던스’를 제시했다. 또한 내각부 지적재산전략추진사무국 AI 시대의 지적재산권검토회에서도 2024년 5월에 지적재산권 법제와의 관계에 관한 중간 보고서를 제출했다.

개인정보보호법과 관련해서는, 개인정보보호위원회가 2023년 6월에 주의를 환기시킨 것 외에는 큰 움직임이 없다. 하지만 2024년 6월 27일의 ‘개인정보보호법 이른바 3년마다의 재검토에 관한 검토의 중간 정리’에서는 본인의 동의를 필요로 하지 않는 데이터 활용 등의 방법과 관련하여 생성형 AI를 언급하고 있어, 향후 법 개정에 대한 의논을 지속적으로 지켜봐야 한다.

가짜 정보ㆍ잘못된 정보 대책에 관한 검토도 총무성 ‘디지털 공간에서의 정보 유통의 건전성 확보 방법에 관한 검토회’에서 이루어지고 있으며, 2024년 7월 19일에 보고서안이 제출되었다.

이외 일본의 AI 규제에 관한 의논은 지금까지 법적인 규제(하드 로, hard law)보다는 영국과 같은 가이드라인이나 원칙에 의한 규제(소프트 로우)가 중심을 이루었다. 2024년에는 기존의 관련 가이드라인을 정리하는 형태로 총무성과 경제산업성이 ‘AI 사업자 가이드라인’을 제시했다. 동시에 자민당에서는 AI 관련 입법의 움직임도 보였으며, 2024년 8월 2일에는 제도화를 위한 연구회가 내각부에서 발족하였다.

의료기기와 관련해서는, HGenAI를 포함한 AI를 이용하는 의료 목적 프로그램이 의약품, 의료기기 등의 품질, 유효성 및 안전성 확보에 관한 법률(약기법)상 프로그램 의료기기(SaMD)로 취급되며, 관련 가이드라인 등이 제시되었다. SaMD로서의 AI는 현재는 어디까지나 의사를 보조하는 툴일 뿐이며, AI를 이용할 때의 판단 책임은 의사가 진다.

그밖에 HGenAI에 관해서는, 2024년 1월에 사업자의 자주적인 가이드라인이 제시되었다.

3) AI 규제의 방향성과 의료 분야에 미치는 영향

이미 살펴본 것처럼 AI 전반에 대한 규제는 EU처럼 하드 로(hard law)를 중심으로 하는 규제를 실시할지, 영국처럼 원칙을 바탕으로 하는 완만한 소프트 로(soft law)를 중심으로 하는 규제에 그칠 것인지, 문화적인 배경과 법 제도의 차이에 따라 국제적으로 고르지 못하다.

한편, EU의 규칙은 GDPR을 대표로 전 세계 규칙에 영향을 미치고 있으며(브뤼셀 효과), EU의 AI 규제와 비슷한 엄격한 규제가 세계적으로 요구될 가능성도 시사되고 있다. EU는 엄격한 규제이기는 하지만, 동시에 사업자 측의 자주적인 규칙도 도입하는 공동 규제의 접근방식을 취함으로써 최대한 이노베이션을 방해하지 않는다는 점에서도 주목할 만하다.

또한, 이러한 AI 전반에 관한 규제는 반드시 모든 HGenAI에 미치는 것은 아니다. EU의 AI법에서 금지하는 高리스크의 AI라도 공중위생이나 의료 목적으로 다른 법률적 근거가 있다면 개발 및 사용이 허용된다. 구체적으로 어떤 법적 정리가 이루어질지는 EU에서도 아직 확실하지 않다. EU에서 동시에 의논되고 있으며, 2024년 중에 성립될 것으로 보이는 European Health Data Space법에서도 AI법 및 의료기기 관련 규제와의 조절에 관해 언급하고는 있지만, 구체적으로 어떻게 될지는 앞으로 지켜봐야 하는 과제다.

영국에서는 AI-Airlock이라는 규제의 샌드박스 시스템을 도입하였고, AI 규제가 의료에 미치는 영향을 검토한 문서를 제시하였다.

HGenAI에 관한 규제의 방향성과 관련해서는, WHO가 권고 및 지침을 제시했다. 생성형 AI를 만드는 사업자가 국가를 뛰어넘어 활동하는 상황에서, 정부를 위한 지침, 사업자를 위한 지침, 이용자를 위한 지침이 서로 국제적으로 조화되어야 한다.

[2024년 글로벌 AI의료, 헬스케어 비즈니스 핸드북] 보고서 상세 보기

https://www.irsglobal.com/shop_goods/goods_view.htm?category=05000000&goods_idx=96771&goods_bu_id=