[UN] 인공지능 사용은 국제인권원칙 준수해야

6월 19일(목) 유엔 제59차 인권 이사회 회의에서 유엔의 기업과 인권 실무그룹은 국가와 기업이 인공지능(AI) 시스템을 조달하고 배치할 때 국제 인권 기준을 준수해야 하며, 이를 준수하지 않을 경우 심각한 인권 침해로 이어질 수 있다고 경고했다.

유엔 기업과 인권 실무그룹 의장인 라이라 자쿨레비치에네(Lyra Jakulevičienė)는 인권 이사회 제59차 회의에 보고서를 제출하며 “AI 시스템은 우리 사회를 변화시키고 있지만 적절한 보호 장치가 없다면 인권을 침해할 위험성이 있습니다”라고 말했다.

보고서에서 실무 그룹은 각국이 AI와 인권에 대한 자발적 지침에서 구속력 있는 법률(예: 유럽연합의 인공지능법)로 점차 전환하고 있지만, 규제 환경은 여전히 ​​단편화되어 있고, 합의된 정의를 갖춘 보편적 기준이 부족하다고 지적했다. 이에 따라 “예외는 광범위하고 시민 사회의 참여는 제한적입니다”라고 덧붙였다.

전문가들은 AI 시스템이 유엔 이행 원칙(UN Guiding Principles)에 따른 적절한 인권 실사 없이 조달되거나 배포될 경우, 차별·사생활 침해·배제 등 모든 인권에 부정적인 영향을 미칠 수 있으며, 특히 여성, 아동, 소수자 등 취약 계층에게 부정적인 영향을 미칠 수 있다고 설명했다.

전문가들은 공공 및 민간 부문 모두 탄탄한 인권 영향 평가를 실시하고 투명성, 책임성, 감독 및 피해구제 접근성을 보장해야 한다고 강조했다.

또한 자쿨레비치에네는 “국가는 AI의 책임 있는 규제자, 조달자, 그리고 배포자로서의 역할을 수행해야 합니다”라고 하면서 “원격 실시간 얼굴 인식, 대규모 감시, 치안 예측 등에 사용되는 AI 시스템처럼 인권과 근본적으로 양립할 수 없는 AI 시스템에 대해서는 명확한 한계를 설정해야 합니다”라고 말했다.

실무 그룹은 기업이 AI 수명 주기 전반에 걸쳐, 특히 제3자 AI 시스템을 사용할 때 인권을 존중해야 할 책임이 있음을 강조했다.

전문가들은 “기업은 인권 책임을 외부에 위탁할 수 없습니다”라고 말하며 “기업은 조달 및 배포 프로세스 전반에 걸쳐, 특히 피해를 입을 위험이 가장 높은 이해관계자들에게 의미 있는 참여를 보장해야 합니다”라고 전했다.

자쿨레비치에네는 “AI 시스템이 인권을 옹호하는 방식으로 조달 및 배치되어야 하며, AI 관련 인권 침해 구제책에 대한 접근성을 보장하기 위해서는 신속한 글로벌 협력이 필요합니다”라고 말했다.

보고서에서 실무 그룹은 국가와 기업의 새로운 관행을 개략적으로 설명하고, 국가, 기업 및 기타 행위자에게 기업과 인권에 관한 유엔 이행 원칙(UN Guiding Principles on Business and Human Rights)을 AI 조달 및 배포 시에 통합하는 방법에 대한 권고안을 제시했다.

*Source : 유엔 인권 고등판무관 웹사이트(https://www.ohchr.org)