[KOR] AI 콘텐츠 프라이버시 공동선언 채택

최근 그록(Grok) 등 생성형 인공지능(AI) 서비스를 악용한 딥페이크와 미성년자 성적 이미지의 생성·확산이 전 세계적인 문제로 부상함에 따라 국제 개인정보 감독기구들이 공동 대응에 나섰다.

개인정보보호위원회(이하 ‘개인정보위’)는 2월 23일(월), 국제 개인정보 감독기구 협의체(GPA) 차원의 「인공지능 생성 콘텐츠와 개인정보 보호에 관한 공동선언문」 채택에 참여했다고 밝혔다. 

이번 선언은 실제 인물이 당사자의 동의 없이 묘사·확산되는 프라이버시 위협에 대해 국제 사회가 신속하고 일관된 목소리를 냈다는 점에서 의의가 크다.

동 선언문에는 인공지능 시스템 개발·활용 기관이 준수해야 할 4가지 핵심 원칙이 포함되었다. 

구체적으로는 개인정보 오남용 및 동의 없는 성적 콘텐츠의 생성을 방지하기 위한 안전조치 이행, 인공지능 시스템의 이용 가능 범위 등에 대한 투명성 확보, 신속한 신고 및 삭제를 위한 효과적인 구제 절차 마련, 연령 적합 정보 제공 등 아동·청소년에 대한 강화된 보호조치 이행 등의 내용을 담고 있다.

또한, 각국 감독기구는 ‘신뢰할 수 있는 인공지능 혁신’이라는 공동의 가치를 실현하기 위해 정책, 집행, 교육 등 대응 경험을 적극적으로 공유하고 연대를 강화하기로 하였다.

이번 선언문은 한국 개인정보위가 참여하고 있는 국제 개인정보 감독기구 협의체(GPA) 산하 국제집행협력 작업반 주도로 마련되었다. 

사안의 시급성에 공감한 한국, 프랑스, 영국, 싱가포르, 캐나다, EU 등 52개국 61개 개인정보 감독기구가 서명에 참여하는 등 국제 사회 전반의 폭넓은 지지가 있었다.

한편 송경희 개인정보위 위원장은 “딥페이크 등 인공지능 콘텐츠 생성 기술의 오남용으로 인한 개인정보 침해 위험에 국제 사회와 공동으로 대응하겠다”라며, “앞으로도 국내외의 신뢰 기반 인공지능 활용 환경 조성을 주도해 나가겠다”라고 밝혔다.

* 아래는 「인공지능 생성 콘텐츠와 개인정보 보호에 관한 공동선언문」의 국문본이다.

인공지능(AI) 생성 콘텐츠와 개인정보 보호에 관한 공동선언문

2026년 2월 23일

아래 공동 서명 기관들은 당사자의 인지 또는 동의 없이 식별 가능한 개인을 사실적으로 묘사하는 이미지 및 동영상을 생성하는 인공지능(AI) 시스템에 대한 심각한 우려에 대응하여 본 선언문을 발표한다.

AI는 개인과 사회에 의미 있는 혜택을 가져다줄 수 있는 한편, 최근 특히 널리 접근 가능한 소셜미디어 플랫폼과 결합한 AI 이미지·영상 생성 기술의 발전으로 인해, 실제 인물을 대상으로 한 비동의 친밀 이미지, 명예훼손적 묘사, 그리고 기타 유해한 콘텐츠의 생성이 가능해졌다. 우리는 특히 사이버폭력 및 착취 등 아동과 기타 취약 계층에게 발생할 수 있는 잠재적 피해에 대해 각별한 우려를 표명한다.

기관에 대한 기대 사항

공동 서명 기관들은 AI 콘텐츠 생성 시스템을 개발하고 활용하는 모든 기관이 해당 시스템을 관련 법적 체계, 특히 데이터 보호 및 개인정보 보호 규정을 준수하여 개발하고 운영해야 함을 상기시킨다.

또한 많은 관할권에서 비동의 친밀 이미지의 생성이 범죄 구성 요건이 될 수 있음을 강조한다.

구체적인 법적 요건은 관할권마다 상이할 수 있으나, AI 콘텐츠 생성 시스템을 개발하고 활용하는 모든 기관은 다음과 같은 기본 원칙을 준수하여야 한다.

가. 개인정보 오남용과 특히 아동이 묘사되는 등 비동의 친밀 이미지 기타 유해한 콘텐츠의 생성을 방지하기 위해 견고한 안전조치를 이행할 것

나. AI 시스템의 기능, 보호조치, 허용되는 사용 범위 및 오남용의 결과에 대해 의미 있는 투명성을 보장할 것

다. 개인이 개인정보가 포함된 유해 콘텐츠의 삭제를 요청할 수 있는 효과적이고 접근 가능한 절차를 마련하고, 그러한 요청에 신속하게 대응할 것

라. 강화된 보호조치를 이행하고 아동, 부모, 보호자와 교육자에게 명확하고 연령에 적합한 정보를 제공함으로써 아동에게 특화된 위험을 해소할 것

공동 대응

동의 없이 실제 인물을 묘사하는 사적, 명예훼손적, 기타 유해한 콘텐츠의 생성으로 인해 발생하는 피해는 중대하며, 긴급한 규제적 관심을 요구한다.

혁신적이고 개인정보를 보호하는 AI 개발을 촉진하기 위하여, 본 선언문 공동 서명 기관들은 AI 콘텐츠 생성 시스템의 오남용으로 발생할 수 있는 잠재적 피해에 대한 우려를 함께 표명한다. 공동 서명 기관들은 이러한 우려에 대응하기 위한 집행, 정책, 교육 등 기관별 접근 방식에 관한 정보를 관련 법률에 부합하는 범위 내에서 상호 공유하고자 한다. 이는 국제적 위험에 대응하기 위한 공동의 의지와 협력 노력을 반영한다.

결론

우리는 기관들이 규제기관과 선제적으로 소통하고, 초기 단계부터 견고한 보호조치를 이행하며, 기술 발전이 특히 국제 사회에서 가장 취약한 계층의 프라이버시, 존엄성, 안전과 기타 기본권을 침해하지 않도록 보장할 것을 촉구한다.