[UN] AI 익명성으로 여성에 대한 디지털폭력 급증

인공지능, 익명성 그리고 미약한 책임 소재로 인해 온라인 폭력이 급속도로 증가하고 있다. 그럼에도 불구하고 18억 명의 여성과 소녀들은 여전히 ​​온라인 괴롭힘과 기술 기반 폭력으로부터 법적 보호를 받지 못하고 있다.

최근 여성권리, 양성평등, 여성역량 강화를 위한 유엔여성기구(UN Women)가 16일간의 캠페인을 시작하면서 디지털 폭력 급증에 대한 긴급조치를 촉구하며 사회에 경종을 울리고 있다.

현재 사이버 괴롭힘이나 사이버 스토킹을 다루는 법률이 있는 국가가 40%도 안 되어, 사이버 폭력은 성평등을 위한 투쟁의 최전선이 되었고 , 이로 인해 가해자는 거의 아무런 제재도 받지 못하고 피해자는 법적 보호를 받지 못하는 처지에 놓이게 되었다.

‘온라인에서 시작된 일은 온라인에서 끝나지 않는다’

인터넷은 여성에게 힘을 주는 곳이기도 하지만 위험한 곳이기도 하며, 표현과 기회를 위한 장소이기도 하지만 동시에 학대자의 손에 쥐어진 무기이기도 하다.

여성 지도자, 언론인, 활동가, 그리고 공인들은 끊임없이 젠더 기반 허위 정보, 딥페이크 공격 그리고 그들을 침묵시키고, 수치심을 주며, 공적 삶에서 몰아내려는 조직적인 괴롭힘에 직면해 있다. 예를 들어 여성 언론인 4명 중 1명은 온라인에서 살해 위협을 받았다고 보고되고 있다.

유엔 여성기구(UN Women) 사무총장 시마 바후스(Sima Bahous)는 “온라인에서 시작된 일은 온라인에만 머물지 않습니다. 디지털 학대는 현실 세계로 확산되어 두려움을 확산시키고, 목소리를 침묵시키며, 최악의 경우 신체적 폭력과 여성 살해로 이어집니다.”라고 전했다.

바후스 씨는 여성을 온라인과 오프라인 모두에서 보호하도록 하기 위해서는 기술과 함께 법률도 발전해야 한다고 덧붙이며, 약한 법적 보호로 인해 수백만 명의 여성과 소녀들이 여전히 취약한 상태에 놓여 있고, 가해자들은 처벌받지 않고 있다고 말했다.

‘AI가 디지털 학대의 새로운 물결을 몰고 온다’

AI의 등장으로  디지털 학대가 극적으로 증폭되어 더욱 빠르고, 더욱 집중적이며, 적발하기 어렵게 되었다. 한 글로벌 설문조사에 따르면 여성의 38%가 온라인 폭력을 경험했으며, 85%는 목격을 경험했다고 전했다.

AI 기반 딥페이크 기술이 대규모로 무기화되고 있는 상황에서 온라인 딥페이크의 최대 95%가 동의 없이 만들어진 음란물이며, 타겟이 된 사람의 99%는 여성이다.

이러한 온라인 공격은 빠르게 현실 세계로 확산되어 심각성이 더욱 커지고 있다.

유엔 여성기구는 기술 기업들이 더 많은 여성 고용과 더 안전한 온라인 공간을 만들고, 유해한 콘텐츠를 신속하게 제거하거나 학대 신고에 효과적으로 대응할 것을 촉구하고 있다.

활동가 로라 베이츠는 피해를 최소화하는 것과 관련해 “온라인과 오프라인의 격차는 환상일 뿐입니다.”라고 경고하고 있다.

가정 폭력범이 온라인 도구를 이용해 피해자를 추적하거나 스토킹하는 경우, 학대적인 음란물 딥페이크로 인해 피해자가 직장을 잃거나 자녀를 만날 수 없게 되는 경우, 젊은 여성에 대한 온라인 학대가 오프라인에서 음란물 비난으로 이어져 그녀가 중퇴하는 경우 등의 사례는 디지털 학대가 얼마나 쉽고 위험하게 현실 세계로 확산되는지를 보여주는 몇 가지 예에 불과하다.

*Source : 유엔 웹사이트(https://news.un.org/)