2024년 4월 2일, WHO는 생성형 AI(Generative AI)를 이용한 Chatbot를 발매했다. 건강상의 어드바이스를 8개 언어로 제공하는 것인데, 그 내용에는 오류도 포함될 수 있다고 되어 있다. 생성형 AI는 기존 데이터를 바탕으로 새로운 데이터와 콘텐츠를 자동으로 만들어내는 인공지능 기술로, 문장, 이미지, 음성, 비디오 등 다양한 형식의 데이터와 콘텐츠를 생성할 수 있다.

딥러닝 기술의 진보와 함께 생성형 AI의 정확도는 최근 크게 향상되고 있어 주목받고 있다. 특히 2022년 11월 30일 OpenAI가 대규모언어모델(LLM)을 이용해 대화를 나누는 ChatGPT가 출시된 후 공개 두 달 만에 전 세계 사용자가 1억 명을 넘어선 것을 대표로 Microsoft나 Google, 바이두 등 인터넷 플랫폼이 2023년 차례로 대화형 AI를 공개했다.

빠르게 생성형 AI 이용이 확산되고 있어 지금은 4차 AI 열풍이라는 목소리도 있다. 생성형 AI의 이용은 이러한 대화형 AI의 확대뿐만 아니라 많은 분야에서 퍼지고 있어, 글로벌 AI의 시장규모는 2030년에는 1조 8천억 달러에 달할 것으로 예측되고 있으며, 추계에 따라서는 이미 6조달러 시장의 가능성이 있다고도 전망된다.

이러한 가운데, 건강의료 분야에서의 생성형 AI(HGenAI: Healthcare Generative AI) 활용에 관해서도 시장의 확대가 예측되고 있으며, 의료현장, 의학교육, 건강의료보험, 간병, 예방 등 다양한 가능성이 나타나고 있다.

예를 들면, LLM의 활용을 중심으로 한 언어생성 기술은 의료기록이나 진단보고서, 요약 등의 자동생성이나 의학논문 읽기, 환자나 임상시험 참가자의 데이터 분석, 또 진료 지원, 의학 교육, 공중 보건상의 리스크 예측이나 개인화 의료, 예방 등에 이용된다.

화상 생성 기술에 의해 의료 화상(MRI, CT 스캔 등)의 노이즈 제거나 해상도의 향상을 실시함으로써 진단의 질을 올리거나 프라이버시를 배려한 교육 목적의 생성 화상을 이용할 수 있다. 음성 생성 기술은 의료 기록 등의 문서 작성 지원과 의료진과 환자 간의 커뮤니케이션 지원에도 사용될 것이다. 비디오 생성은 수술 시뮬레이션이나 환자 생활 지원에 사용할 수 있다.

연구 데이터 생성은 생성된 데이터를 수집함으로써 프라이버시를 보호한 데이터 분석이나 결손 데이터의 보완 등에 의한 데이터 확충에 이용할 수 있으며, 신약의 분자구조 설계나 약제작용 예측에 의해 신약개발에도 이용할 수 있다.

의료 분야로의 응용에 있어서는 기존의 화상 등의 단일 정보를 이용한 AI(싱글모달 AI) 뿐만이 아니라, 문장과 화상과 음성이라고 하는 다수의 정보를 이용한 AI(멀티모달 AI)가 생성형 AI의 기술과 결부된 점도 크다.

상기 사례에 관해서도 서로 연계하고 발전해 나갈 것으로 기대되며, 건강의료 이외의 목적의 생성형 AI와도 동시에 사용될 수 있다는 점이 중요하다. 예를 들어 길 안내를 위한 챗봇에게 건강 상담을 통해 가야 할 클리닉을 안내받을 수도 있다.

ChatGPT는 이미 그러한 복수 목적의 것으로서 발전해 왔으며, 그러한 점을 근거로 범용 목적의 AI(General-purpose artificial intelligence)에 대한 규제가 논의되고 있다. 또한, 메타버스나 디지털 트윈, 로봇 등의 기술과도 조합되어 발전할 것으로 전망되고 있다.

이러한 생성형 AI의 사회 구현의 진전 속에서 많은 윤리적, 법적, 사회적 과제(ELSI)이나 기술적인 과제의 지적이 있다. 구체적으로는 할루시네이션(잘못된 내용 등이 출력되는 것), 딥 페이크나 가짜 정보의 확대, 학습 데이터에 포함되는 바이어스ㆍ차별의 확대, 프라이버시나 기업 비밀의 침해, 지적 재산권상의 위치설정, 병기 등의 위험물이나 유해한 콘텐츠의 생성, 실업, 학술의 신뢰성의 저하 등이다.

2000년대 중반부터 제3차 AI 붐에 있어서 이러한 과제의 일부는 이미 지적이 있었고, 이에 대응하는 의미도 있어 몇 가지 AI에 관한 원칙이 다양한 단체나 국가에서 나타나고 있었다.

그러나 생성형 AI의 급속한 보급에 수반해, 몇 가지 과제는 표면화되어 딥 페이크나 가짜 정보의 확대에 의한 문제, 저작권 침해, 초상권 침해, 프라이버시나 영업 비밀, 개인 데이터의 보호에 관한 과제 등에 대한 대응이 현실에 필요해지고 있다.

미국의 비영리단체 Future of Life Institute(FLI)는 2023년 3월 22일 AI 개발을 반년 중단하도록 요구하는 오픈레터를 공개하여 일론 머스크를 비롯한 많은 서명을 받았다.

이탈리아의 데이터 보호 당국(GPDP)은 2023년 3월 31일에 ChatGPT에 관해서 1차 사용 금지로 했다. 2023년 4월 28일에는 대응이 이뤄졌다며 금지가 해제됐지만 현재 계속해서 EU의 일반 데이터 보호 규칙(GDPR) 위반이 아니냐는 검토가 이어지고 있다.

영국이나 EU 다른 국가의 데이터 보호 당국에서도 유의점이 나타났다. EU의 European Data Protection Board(EDPB)는 2023년 4월 13일 Chat GPT에 관한 태스크포스를 만들어 2024년 5월 23일 보고서를 공개하고 있다.

일본의 개인정보보호위원회도 2023년 6월 2일에 Chat GPT에 대해 주의환기를 실시함과 동시에 생성형 AI 서비스에 관한 주의환기를 발표했다.

최근의 생성형 AI를 중심으로 한 발전과 그에 대한 우려를 받아, 지금까지의 원칙을 개정하거나 동시에 다양한 법적인 수당이나 국제 협조가 진행되고 있다.

중국에서는 재빨리 2023년 7월 10일에 생성형 AI에 관한 입법이 이루어졌다. EU에서는 2021년에 AI 법안이 제출되어 2024년 5월 21일에 성립되었다.

미국에서도 2023년 10월 30일에 AI의 안전성에 관한 대통령령이 내려졌다. 미국 캘리포니아주에서는 '최첨단 AI 시스템을 위한 안전하고 안심할 수 있는 기술혁신법' 법안이 현재 심의되고 있다. EU의 AI법이나 캘리포니아의 법안에서는 생성형 AI에 대한 규제로서, 특히 계산 능력이 일정 수보다 높은 것을 이용하고 있는 기업을 타깃으로 하여 보다 엄격한 규제를 실시하고 있다.

2023년의 G7 히로시마 서밋에서는 생성형 AI에 관한 G7을 중심으로 한 국제 협조를 위한 '히로시마 AI 프로세스'에서의 논의가 이루어져, '전 AI 관계자를 위한 히로시마 프로세스 국제 지침' 등이 책정되었다. 히로시마 AI 프로세스에 있어서의 국제 협조는 G7 각국으로부터 OECD, 그 외의 나라나 국제기관으로 확대되어 오고 있다.

AI의 안전성을 담보하기 위해 2023년 11월 1일에는 영국에서 AI 안전정상회의가 개최되어 영국, 미국, EU 국가, 중국 등 28개국이 AI의 안전과 책임 있는 발전을 위한 서명을 했다. 미국이나 영국 등 각국에서 AI 세이프티ㆍ인스티튜트(AISI)가 설립되어 일본에서도 2024년 2월 14일에 AISI가 설립되었다.

OECD에서는 2024년 5월에 AI 원칙을 개정했다. 2020년에 OECD와 G7에 의해 설립된 ’AI에 관한 글로벌 파트너십(Global Partnership on AI, GPAI)‘에는 현재 44개국이 참가해 인간 중심으로 안전, 안심, 신뢰할 수 있는 AI의 구현을 목표로 한 노력이 이루어지고 있다.

UNESCO도 2023년 9월에 교육ㆍ연구 분야에서의 생성형 AI의 가이던스를 제시한 바 있다. 유엔 총회에서도 ’지속가능한 개발을 위한 안전, 안심하고 신뢰할 수 있는 AI 시스템 관련 기회 확보에 관한 결의‘가 2024년 3월 21일에 채택되었다. 유럽평의회에서는 2024년 5월 17일에 AI 기본 조약이 채택되어 일본도 옵서버국으로서 이 내용을 근거로 한 대응을 검토할 필요가 있다.

이와 같이 생성형 AI의 국제적인 발전과 함께 국제적으로 법적인 규제의 논의와 국제 협조의 대처가 진행되고 있다. 그러나 의료 분야로의 전개를 위한 거버넌스의 논의에 관해서는 향후 실시할 필요가 있다고 여겨지고 있다.