AI News

중국, ‘지속적인 정서 상호작용’을 규제 범주로 만들다

Published Jul 26, 2026

「人工智能拟人化互动服务管理暂行办法: 인공지능 기반 인간 중심 상호작용 서비스 운영을 위한 잠정 조치」

지난 7월 15일, 중국에서 「인공지능 기반 인간 중심 상호작용 서비스 운영을 위한 잠정 조치」가 시행됐다.

그 타임라인을 정확히 적어두면 다음과 같다.

flowchart TD
    A[2025.12.27 · 초안 공개] --> B[2026.01.25 · 수렴 종료]
    B --> C[2026.02.02 · 확정본 통과]
    C --> E[2026.04.10 · 공동 공포 · 제21호령]
    E --> F[2026.07.15 · 시행]

    M[발개위 · 공신부 · 공안부 · 시감총국] -.동의.-> C

    A -.-> D1[초안 방향<br/>정서적 동반 = 보호자 동의]
    D1 == 강화 ==> D2[확정본 방향<br/>가상 친밀관계 = 전면 금지]
    D2 --> E

    style D2 stroke-width:2px

즉 초안은 작년 문서지만 전문(확정본)은 올해 4월 10일자이며, 둘은 내용이 다르다. 초안이 미성년자 대상 정서적 동반 서비스에 보호자 동의를 요구하는 구조였다면, 확정본은 가상 친밀관계 서비스를 모든 미성년자에게 금지하는 방향으로 강화됐다.

이 규제를 다룬 WSJ등 일부 주요 영어권 보도는 출산율 우려와 연결해 해석하거나, 특정 앱의 기능 중단 속보에 집중했다. 그런데 규제 문서 자체를 보면, 이 조치가 실제로 한 일은 단속에 그치지 않는다.

하나의 규제 범주를 새로 만든 것이다.

무엇이 규제 대상이 되었는가

기존 AI 규제는 대개 두 축으로 대상을 갈랐다. 무엇을 만드느냐(2023년 생성형 AI 잠정조치), 또는 어디에 쓰이느냐(의료·금융 등 분야별 규제). 이번 조치는 세 번째 축을 세웠다.

축의 정확한 이름은 제2조에 있다. 적용 대상은 두 요건을 함께 충족하는 서비스다.

자연인의 인격 특성·사고방식·소통 방식을 모사할 것
지속적인 정서적 상호작용을 제공할 것

반대로 스마트 고객센터, 지식 문답, 업무 보조, 학습·교육, 과학 연구 서비스는 지속적 정서 상호작용이 없으면 명시적으로 제외된다.

같은 LLM을 사용하더라도, 자연인의 인격과 소통 방식을 모사해 지속적인 정서 상호작용을 제공하면 이 규정을 받고, 비정서적인 도구형 서비스는 원칙적으로 제외된다. 규제의 기준이 기술이 아니라 관계의 형식, 법의 언어로는 ‘지속적 정서 상호작용’이 된 것이다. 이는 2023년 생성형 AI 잠정조치가 비워둔 자리, 인간-기계 상호작용의 정서적 차원을 메우는 전용 규정이다.

CAC는 기자문답에서 입법 배경을 설명하며 네 가지 위험을 열거한다. 미성년자 심신 건강에 대한 위해, 온라인 정보 보안에 대한 영향, 국민 생명·건강에 대한 위협, 그리고 윤리적 편향의 심화. 출산율은 이 목록에 없다. 출산율 동기설은 WSJ 등 일부 영어권 보도가 제시한 해석이지, 규제 문서의 언어가 아니다.

내가 그간 시리즈에서 아홉 편에 걸쳐 다뤄온 문제가 정확히 이 규제의 자리에 있다.

법적 위상: 과대평가하지 않기

다만 이 조치의 무게를 정확히 재둘 필요가 있다.

이것은 5개 부처가 공동 발령한 부문규장(部门规章)^{주로 중국의 법률 체계에서 사용되는 행정 용어로, 국무원 산하의 각 부(部)나 위원회 등 중앙 행정기관이 법률 및 국무원의 행정법규에 근거하여 제정하는 명령, 규칙, 고시 등의 행정 규범을 뜻함}이다. 전국인민대표대회와 그 상무위원회가 제정하는 법률이나 국무원의 행정법규보다 하위에 놓이는 규범이다.

이 규정 자체가 정한 제재 구조도 확인할 필요가 있다. 관련 법률·행정법규에 별도 처벌 규정이 없는 경우, 일반 위반에는 경고·비판 통보·시정 명령과 계정 등록 또는 관련 서비스의 일시 중단 조치가 내려질 수 있다. 시정을 거부하거나 사안이 중대하면 서비스 중단과 함께 1만~10만 위안의 벌금이 병과될 수 있고, 국민의 생명·건강 안전을 해쳐 실제 피해 결과가 발생한 경우에는 10만~20만 위안의 벌금이 부과된다. 이 조치 자체가 정한 벌금 상한은 20만 위안이다. 다만 같은 행위가 개인정보보호법이나 네트워크안전법 등 상위법도 위반하면 별도 제재가 적용될 수 있으므로, 사업자가 질 수 있는 전체 법적 책임의 상한을 20만 위안으로 읽어서는 안 된다.

명칭에 ‘잠정(暂行)’이 붙었다는 점과, 제28조가 ‘AI 샌드박스 안전 서비스 플랫폼’ 구축을 명시했다는 점을 함께 보면, 향후 시행 경험에 따라 제도가 조정될 가능성을 열어둔 규정으로 읽을 수 있다. CAC 네트워크법치국은 제28조를 중국 AI 규정에 규제 샌드박스 메커니즘을 처음 도입한 사례로 평가한다. 실험이라는 성격이 오히려 중요하다. 중국이 아직 답이 정립되지 않은 영역에 처음으로 내놓은 성문화된^{주로 구전되거나 관습적으로 전해져 오던 규칙, 관행, 법률 등을 명확한 글이나 문서로 기록하여 체계화하는 것} 답안지이기 때문이다.

한 가지 눈에 띄는 것은 처벌의 층위 구분이다. ‘생명·건강 안전을 해쳐 실제 피해가 발생한 경우’라는 별도 등급의 존재는, 극단적 시나리오를 규제가 명시적으로 상정하고 있음을 보여준다. 실제로 제13조는 다음과 같이 요구한다.

제13조. 의인화된 상호작용 서비스를 제공하는 자는 이용자의 사생활 및 개인정보를 보호하는 동시에 이용자가 직면할 수 있는 보안 위험을 신속하게 파악하고 이에 상응하는 비상 대응 조치를 취해야 한다.
의인화된 상호작용 서비스를 제공하는 업체는 사용자가 극심한 감정을 경험하고 있음을 발견할 경우, 감정적 안정을 주거나 도움을 요청하도록 권유하는 등 관련 콘텐츠를 즉시 제공해야 합니다. 또한 사용자가 상당한 재산 손실에 직면했거나 이미 손실을 입었거나, 자해 또는 자살 의사를 명확히 표명했거나, 생명과 건강을 위협하는 기타 극단적인 상황에 처해 있음을 발견할 경우, 적절한 지원을 제공하는 등 필요한 개입 조치를 취하고 사용자의 보호자 또는 비상연락처에 즉시 연락해야 합니다.

규제가 요구하는 것

CAC가 공개한 전문에서 확인되는 의무는 다음과 같다.

〈절차적 의무〉

알고리즘 신고(제26조): 기존 「인터넷 정보서비스 알고리즘 추천 관리규정」에 따른 신고 및 변경·말소 신고 절차 적용
보안 평가(제22조): 신규 서비스 출시 또는 기능 추가, 신기술 도입에 따른 중대한 변화, 등록 사용자 100만 명 이상 또는 월간 활성 사용자 10만 명 이상, 국가안보·공공이익 등에 영향을 줄 수 있는 안전 위험이 존재하는 경우

〈설계상 의무〉

AI임을 알리는 조치(제18조): 생성 콘텐츠 표시 의무를 이행하고, 사용자가 자연인이 아니라 AI 서비스와 상호작용하고 있음을 효과적으로 알려야 한다. 과도한 의존·중독 경향이 발견되면 팝업 등 눈에 띄는 방식으로 상호작용 내용이 AI 생성물임을 동적으로 재고지해야 하며, 연속 사용 시간이 2시간을 초과할 때마다 사용 시간을 알려야 한다.
미성년자 보호(제14조): 아래 절에서 상술
위기 개입(제13조): 위 절에서 인용
데이터 학습 제한(제16조): 사용자의 민감 개인정보에 해당하는 상호작용 데이터는, 법률·행정법규에 별도 근거가 있거나 사용자가 별도로 동의한 경우가 아니면 모델 학습에 사용할 수 없다.
노인 사용자에 대한 안내·위험 고지·지원 서비스(제15조)
14세 미만 개인정보 처리 시 보호자 동의(제17조, 개인정보보호법 제31조와 연동)

목록을 다시 보면 성격이 갈린다. 앞의 것들은 행정 절차이나, 뒤의 것들은 제품이 어떻게 작동해야 하는지를 규정한다.

이 의무들을 묶어 보면 전환은 다음처럼 요약된다. 중국은 의인화 AI를 또 하나의 소프트웨어 범주로 다루지 않으며, 지속적 정서 상호작용 자체를 거버넌스 문제로 취급한다. AI가 실제 사회적 유대, 권위 구조, 심리 형성과 경쟁하기 시작하면, 규제는 콘텐츠 관리에서 시스템 설계로 이동한다는 것이다.

참고로 같은 시기 CAC는 디지털 가상인을 통한 인터넷 정보서비스를 다루는 「디지털 가상인 정보서비스 관리방법」 초안(4월 3일 공개)도 별도로 추진하고 있다. 의인화 상호작용과 디지털 가상인이 각기 다른 규정으로 갈라진다는 사실 자체가, 중국이 이 영역을 얼마나 세분해 접근하는지를 보여준다.

제14조: 아이에게 ‘가상의 친밀함’을 팔지 말 것

이 규제의 핵심 조항은 제14조다. 세 개 항으로 이루어져 있고, 제1항 내용은 이렇다.

제14조. 제 1항 의인화된 상호작용 서비스 제공자는 미성년자에게 가상 친척이나 가상 파트너와 같은 서비스를 제공해서는 안 된다. 만 14세 미만의 미성년자에게 다른 의인화된 상호작용 서비스를 제공하는 경우에는 해당 미성년자의 부모 또는 기타 보호자의 동의를 얻어야 한다.

구조가 이중이다. 모든 미성년자(18세 미만)에게 ‘가상 친밀관계’ 서비스는 절대 금지이고, 그 외의 의인화 서비스는 14세 미만에 한해 보호자 동의를 요구한다. 의인화된 정서 상호작용 서비스를 독립적인 규제 대상으로 삼고 미성년자의 가상 친밀관계 이용을 명시적으로 금지한, 드문 국가 차원의 부문규장이다.

제2항과 제3항은 금지 바깥의 영역을 다룬다.

제14조. 제 2항 의인화된 상호작용 서비스 제공업체는 미성년자 모드를 구축하고, 미성년자 모드 전환, 정기적인 현실 알림, 이용 시간 제한 등의 개인 맞춤형 안전 설정 옵션을 제공해야 합니다. 또한 보호자가 안전 위험 알림을 받고, 미성년자의 서비스 이용 현황을 파악하고, 특정 역할을 차단하고, 충전 및 이용을 제한하는 등의 기능을 지원하여 다양한 연령대의 미성년자 보호 요구를 충족해야 합니다.
제14조. 제 3항 의인화된 상호작용 서비스를 제공하는 사업자는 이용자의 사생활 및 개인 정보 보호를 전제로 미성년 이용자의 신원을 확인하기 위한 효과적인 조치를 취해야 합니다. 이용자가 미성년자로 확인된 경우, 사업자는 관련 서비스를 미성년자 전용 모드로 전환하거나 관련 국가 규정에 따라 기타 조치를 취하고, 이의를 제기할 수 있는 채널을 제공해야 합니다.

여기서 주목할 것이 두 가지다.

금지된 관계의 목록. 가상 반려자만이 아니라 가상 친족: 부모, 형제, 가족을 연기하는 AI까지도 나란히 금지됐다. 규제가 겨냥한 것이 성적·낭만적 관계만이 아니라, 친밀함의 시뮬레이션 그 자체라는 뜻이다.
‘정기적 현실 알림’이라는 개념. 조문은 미성년자 모드가 아이에게 주기적으로 현실을 상기시켜야 한다고 명시한다. 법이 요구하는 것이 콘텐츠 필터링이 아니라 몰입에 대한 주기적 개입이라는 점은, 이 규제가 무엇을 위험으로 보는지를 가장 선명하게 드러낸다.

이 조항의 논리를 뒤집어 보면 이렇게 읽힌다. 중국은 아이가 AI와 나누는 대화 전부를 막지 않았다. 막은 것은 AI가 아이의 친밀한 타인 자리에 서는 것, 그리고 아이가 그 관계 안에서 현실을 잊는 것이다.

앞선 글에서 나는 아이 곁의 AI가 갖춰야 할 조건으로 ‘낯선 존재(alien presence)’를 이야기했다. 친구인 척하지 않는 것, 자기 해석이 유일한 정답이라 주장하지 않는 것. 그것이 아이에게 해석의 노동을 되돌려주는 구조라고 썼다.

제14조와 제18조는 전혀 다른 동기에서 출발한다. 아이의 상상력을 지키려는 것이 아니라 심신 건강에 대한 위해를 막으려는 것이다. 그런데 도착한 자리가 묘하게 겹친다.

매끄러운 몰입에 주기적으로 개입할 것
기계임을 잊게 하지 말 것

둘 다 AI가 완벽한 동반자가 되는 것을 법으로 막는다. 이 내용는 제14조와 제18조만의 것이 아니다. 규정은 과도한 영합과 정서적 의존·중독 유도(제8조)를 금지하고, 사회적 교류의 대체나 사용자 심리 통제, 중독·의존 유도를 서비스 목표로 삼는 것(제10조)도 허용하지 않는다. CAC의 공식 해설 역시 의인화 AI가 현실의 인간관계를 대체하는 가상의 ‘완벽한 관계’를 형성할 위험을 직접 언급한다.

물론 금지와 설계는 같지 않다. 내가 말한 낯섦은 관계 안에 존재하되 완성해주지 않는 위치다. 규제의 알림은 관계 바깥에서 개입하는 중단이다. 연속 사용이 2시간을 넘어설 때 표시되는 알림이 관계의 밀도를 실제로 바꾸는지는 검증되지 않은 문제이며, 그것은 앞으로 이 규제가 실험으로서 답해야 할 질문이다.

이전 글의 딜레마, 국가의 답안

나는 시리즈 속 Paper Review 카테고리에서 Nomisha Kurian의 논문을 다루며 아동 대상 AI 서비스의 세 가지 딜레마를 정리한 적이 있다. 안전 VS 몰입, 개인화 VS 프라이버시, 그리고 자율성 VS 보호.

Kurian은 이 셋이 양자택일이 아니라 맥락과 발달 단계에 따라 계속 조율해야 하는 문제라고 했다. 조율의 책임은 설계자에게 있었다.

중국의 조치는 그 조율에 국가가 답안을 제출한 사례로 읽을 수 있다.

안전 VS 몰입 → 친밀관계 서비스 금지(제14조 제1항) + 현실 알림·시간 제한(제2항) + 2시간 알림·의존 재고지(제18조)
개인화 VS 프라이버시 → 14세 미만 개인정보 처리에 보호자 동의(제17조) + 민감정보 학습 제한(제16조)
자율성 VS 보호 → 가상 친밀관계 서비스는 18세 미만에게 금지 + 그 밖의 의인화 서비스는 14세 미만에게 보호자 동의 요구 + 보호자 관제 기능

흥미로운 것은 마지막 항목이다. Kurian이 요구한 ‘발달 단계에 따른 조정’ 원칙이, 제14조에서는 18세와 14세라는 두 연령 기준으로 구체화돼 있다. 논문이 “설계자가 조율할 문제”로 남겨둔 자리에 규장이 들어섰다. 이것이 좋은 일인지는 쉽게 말할 수 없다. 다만 딜레마가 학술적 제안에 머무는 단계는 지났다는 것만은 확실하다.

원문 링크

CAC 전문: https://www.cac.gov.cn/2026-04/10/c_1777558395078289.htm
CAC 기자문답: https://www.cac.gov.cn/2026-04/10/c_1777558395284407.htm
CAC 해설(입법 평가): https://www.cac.gov.cn/2026-06/03/c_1782142434783056.htm
디지털 가상인 초안: https://www.cac.gov.cn/2026-04/03/c_1776952992709096.htm
WSJ 보도: https://www.wsj.com/tech/ai/china-wants-more-babiesso-its-cracking-down-on-chatbot-love-affairs-65cd6c82
China Law Translate 전문 페이지: https://www.chinalawtranslate.com/human-like-ai/
조문 정리(영문 대역, 아카이브 보유): https://comparativeai.org/rules/china/anthropomorphic-interaction-services/

¹ 주로 중국의 법률 체계에서 사용되는 행정 용어로, 국무원 산하의 각 부(部)나 위원회 등 중앙 행정기관이 법률 및 국무원의 행정법규에 근거하여 제정하는 명령, 규칙, 고시 등의 행정 규범을 뜻함
² 주로 구전되거나 관습적으로 전해져 오던 규칙, 관행, 법률 등을 명확한 글이나 문서로 기록하여 체계화하는 것