[Canada] 소셜 미디어 및 AI 챗봇 규제 추진

최근 캐나다 의회(하원)는 소셜 미디어와 인공지능(AI) 챗봇을 규제하는 법안을 발의했다.

이 법안은 기술 기업들에게 온라인 유해 콘텐츠를 방지하도록 하는 등 책임감 있는 행동을 요구하는 내용을 담고 있다. 또한 법안 시행에 대비해 이를 감독할 디지털 안전 위원회(Digital Safety Commission)의 설립도 포함하고 있다.

6월 8일 하원에 상정된 C-34 법안은 디지털 안전법(Digital Safety Act)으로 알려져 있다. 만일 이 법안이 현재 상태로 통과된다면, 소셜 미디어 기업들은 유해 콘텐츠를 표시하고 사용자들이 그러한 콘텐츠에 노출되지 않도록 위험을 줄여야 한다. 또한 기술 기업들은 책임 있는 조치를 이행하기 위한 구체적인 계획을 담은 디지털 안전 계획을 새로 설립될 디지털 안전 위원회에 제출해야 한다.

특히 동 법안에서는 아동 보호를 매우 중요하게 다루고 있다. 예를 들어, 소셜 미디어 사업자는 아동을 성적으로 착취하는 콘텐츠 게시를 해서는 안 되고, 사용자가 미성년자에게 동의 없이 성적인 콘텐츠를 전송하는 것을 막아야 한다. 디지털 안전 위원회는 아동이 이러한 콘텐츠에 노출되는 사례를 막기 위해 다양한 대책을 마련할 예정이며, 핵심 조치 중 하나는 16세 미만 아동의 소셜 미디어 사용을 금지하고 연령 확인을 의무화하는 것이다.

한편 이 법안의 또 다른 핵심내용은 AI 규제이다.

디지털 안전법에 따라 기술 기업들은 사용자가 타인에게 위해를 끼칠 위험이 있는 경우에 법 집행기관에 신고하는 기준과 절차를 마련해야 한다. 이러한 규정은 최근 브리티시컬럼비아주 텀블러 리지(Tumbler Ridge)에서 발생한 총기 난사 사건에 대한 직접적인 대응책으로 해석된다.

이와 관련하여 오픈AI는 자사 사용자들이 총기 폭력 시나리오를 계획했을 때 법 집행기관에 알리지 않은 혐의로 소송에 직면해 있다. 현재 캐나다 법에 따르면, 오픈AI에게 그러한 보고 의무가 있는지 여부가 불확실한 상황이다.