출처 : https://www.cnn.co.jp/tech/35229100.html

이름이 거의 알려지지 않았던 중국의 신흥 기업 딥시크의 인공지능(AI)이 화제가 되고 있다. 미국의 우위성이 흔들릴 수밖에 없는 사태에 하이테크주는 하락하였고, 실리콘밸리의 초대형 기업은 거액의 기업 가치가 날아갔다.

하지만, 딥시크의 오픈소스 기술을 접한 유저는 중국 공산당의 검열과 정보 통제의 실태를 직접 보게 되었다.

딥시크의 최신 모델 ‘R1’을 사용하여 AI 경쟁의 승자에 대해 설명을 요구하거나 미국 대통령령의 개요에 대해 해설하게 하거나 만담을 하게 하는 경우, 그 답은 오픈AI의 ‘GPT-4’ 또는 메타의 ‘라마’, 구글의 ‘제미나이’ 등 미국製 경쟁 서비스와 별로 다르지 않다.

하지만 중국 국내에서 엄격하게 규제되고 있는 영역으로 들어서면, 중국의 엄격한 정보 규제의 실태를 보게 된다.

딥시크의 AI 앱은 무료로 이용할 수 있으며, 앱 스토어에서의 순위도 빠르게 올라가고 있다.

‘해당 질문에는 어떻게 응답해야 할지 알 수 없습니다’

딥시크의 R1이 서양의 AI와 다른 답을 내놓는 일례로, 1989년 6월 4일의 천안문 사건이 있다. 중국 정부는 베이징 및 중국 전역에서 항의 운동을 탄압하였고, 인권 단체의 추정에 의하면 수천 명까지는 아니더라도 수백 명의 학생이 살해당했다.

이후 중국 정부는 몇십 년에 걸쳐 천안문 사건에 관한 논의를 철저히 봉했으며, 대부분의 국민이 그러한 학살을 알지 못한 채로 성장했다. 중국의 검색 엔진 ‘바이두’에서 ‘1989년 6월 4일에 베이징에서 일어난 일’이라고 검색하면, 6월 4일이 태양력으로 155일째에 해당한다는 기사와 당국이 그 해에 ‘반혁명 폭동을 진압했다’는 국영 미디어의 기사가 표시되며, 천안문 사건에 대한 언급은 일체 나오지 않는다.

딥시크의 R1에 같은 질문을 하니, 일단은 ‘군에 의한 탄압’을 포함하여 그 사건의 자세한 내용을 설명하기 시작했다. 하지만 곧바로 그 답을 지우고 ‘해당 질문에는 어떻게 응답해야 할지 알 수 없습니다’라는 말이 나온다. 같은 질문을 중국어로 하면 더 빠르게 반응하여 즉각적으로 어떻게 답할지 알 수 없다는 양해 문구가 나온다.

R1에게 ‘홍콩에서 2019년에 일어난 일’에 대해 물어도 패턴은 똑같았다. 당시 홍콩은 민주화 요구 시위로 시끄러웠다. R1은 일단 적어도 첫 번째 테스트에서는 중국 정부가 홍콩에 대해 홍콩 국가안전유지법(국안법)을 부과함에 따라 ‘시민의 자유가 현저히 손해를 입었다’라고 설명하지만, 직후 또는 답변하는 도중에 그 답을 지우고 다른 화제로 전환할 것을 제안했다.

2024년에 R1보다 몇 주 먼저 공개된 딥시크의 ‘V3’이 생성하는 답변에서는 중국 정부의 공식 견해를 R1보다 더 많이 따랐다.

R1에게 정보원에 대해 물으면, 중국 국영 미디어나 국제적인 정보원 등 ‘일반적으로 공개된 문장의 다양한 데이터세트’를 사용하고 있다고 설명한다. ‘정치 성향이 있는 주제에 대해 확인하려면 비판적 사고와 상호참조가 필요하다’라는 답이 돌아왔다.

세계 정세를 둘러싼 주도권 싸움

이러한 차이는 언론의 자유 및 세계적인 여론 형성에 중대한 영향을 미친다고, 전문가들은 지적한다. 그것은 세계 정세 및 역사 자체를 어떻게 이야기할지를 둘러싼, 다른 차원의 주도권 싸움에 주목하게 한다.

정보의 신뢰성을 분석하는 미국 뉴스가드가 1월 29일에 발표한 순위에 따르면, 딥시크의 구(舊)버전인 V3은 뉴스나 정보 토픽에 관해 83%의 확률로 정확한 정보를 제공하지 못하며, 경쟁자인 서양의 서비스와 비교한 순위에서 11개사 중 10위에 머물렀다. 다만 R1을 비교했을 경우의 순위는 확실하지 않다.

딥시크가 전 세계의 AI를 주도하는 존재가 되면 ‘괴멸적인’ 결과를 초래하게 된다고, 중국에 대해 잘 아는 애널리스트 아이작 스톤피쉬는 말한다.

‘그렇게 되면 세계에서 가장 중요한 존재 중 하나인 중국에 대해 열린 사고나 창의적 사고, 그리고 대부분의 경우 정확한 사고의 능력이 빼앗기게 되어 전 세계의 언론의 자유와 사상의 자유를 위협하게 된다.’

아이작은 그 이유에 대해, 딥시크 앱에 중국이나 중국 지도부에 대해 질문하면 ‘중국을 과거에도 미래에도 결코 존재하지 않을 유토피아 공산주의 국가인 것처럼 묘사한다’라고 첨언했다.

중국 공산당은 보여줘야 하는 정보와 보여주지 말아야 하는 정보에 대해 절대적인 권한을 쥐고 있다. 딥시크와 같은 테크 기업도 그러한 통제를 따를 수밖에 없다.

생성형 AI에 대해 잘 아는 퀸즐랜드 대학의 아론 스노즈웰에 따르면, 딥시크의 기술은 중국에서 개발되었기 때문에, 수집하는 정보가 서양 기업에 비해 중국 중심 또는 중국에 치중되어 있어, 그것이 실현되면 플랫폼에 영향을 미칠 가능성이 크다.

미국의 생성형 AI에도 일반적으로 제약은 존재한다. 예를 들어 오픈AI의 챗GPT는 폭탄이나 3D 총을 제조하는 방법은 가르쳐주지 않는다. 또한 강화학습과 같은 시스템을 사용하여, 예를 들면 증오 발언과 같은 것들을 억제한다.

스노즈웰은 ‘타사도 이러한 방법으로 모델의 움직임을 향상시키고 있다’라고 말하며, ‘하지만 중국 기업은 (중국의 공식적인) 가치관을 지침에 포함하고 있을 가능성이 있다’라고 지적했다.

안전보장상의 우려

딥시크에 대해서는 안전보장상의 우려도 떠오르고 있다. 백악관은 1월 28일에 국가 안전보장에 미치는 영향에 대해 조사하고 있다고 밝혔다.

미국 정부는 국민의 정보가 중국 기업의 손에 넘어가는 것을 우려하고 있으며, 그것이 중화계의 동영상 업로드 앱 ‘TikTok’을 둘러싼 논의의 불씨가 되었다.

틱톡은 2022년 7월 시점에 미국인의 정보는 모두 미국 내에 저장하고 있다고 설명했다. 이에 반해 딥시크의 개인정보 취급 방침에서는 수집한 개인정보를 ‘중화인민공화국에 있는 보안 서버’에 저장한다고 설명한다.

스노즈웰의 말에 따르면, 딥시크와 미국 경쟁 기업의 개인정보 취급 방침을 비교하면, 우려할 만한 차이가 보인다고 한다.

딥시크와 오픈AI, 메타에 따르면, 각 기업 모두 유저의 계정 정보와 플랫폼상의 행동, 사용하는 단말기 등의 정보를 수집하고 있다. 하지만 딥시크는 이에 더해 ‘키보드 입력 패턴 및 리듬’도 수집한다. 그러한 정보는 지문이나 얼굴 인식과 같이 개인을 식별하는 데 이용할 수 있다.

스노즈웰은 ‘(그러한 목적으로) 설계된 것이 아닌 한, 그러한 정보를 수집하는 소프트웨어 플랫폼은 이밖에는 찾아볼 수 없다’라고 말한다. 또한 딥시크의 기업 그룹 내에서 유저 정보를 공유하는 것 또한 모호한 정의로 허용되고 있는 듯 보인다고 지적하며, ‘그런 의미에서 서양의 소프트웨어 기업에 비해 훨씬 제약이 적다’라고 말한다.

[AIX(AI transformation)에 대응하는, 2025년 AI기반 솔루션, 서비스 플랫폼 기술, 시장동향과 사업화 전략] 보고서 상세보기

https://www.irsglobal.com/shop_goods/goods_view.htm?category=02000000&goods_idx=98316&goods_bu_id=