[India] 인권단체, AI 인권 보호조치 미흡 비판

국제앰네스티(Amnesty International)는 ‘2026년 인도 AI 영향 정상회의(the India AI Impact Summit 2026)’에서 정부와 기술 기업의 “파괴적인 행위”를 중단하기 위한 구체적인 약속을 이끌어내지 못했으며, 인공지능으로 인한 인권 위험을 의미 있게 다루지 못했다고 비판했다. 

해당 단체는 예방적 치안, 생체 인식 감시, 자동화된 복지 행정 등과 같은 분야에서 인공지능 도구가 지속적으로 문제를 야기하는 사례를 지적했다.

또한, 인권 침해를 예방하고 구제책에 대한 접근을 보장할 수 있는 강제력 있는 규제가 아닌, 자발적인 약속과 업계 표준 방식에 대해서도 반대 입장을 표명했다.

한편 정상회의 결과에 대한 비판은 회의의 구성 방식과 우선순위로 확대되었다.

디지털 권리 단체 연합(a coalition of digital rights groups)은 정상회의가 투명성 의무 및 독립적인 감독 메커니즘 도입 요구를 포함해 시민단체들의 권고 사항을 제대로 반영하지 못했다고 비판했다.

이번 정상회의와 함께 발표된 분석 자료에서는 인공지능이 소외 계층에 미치는 영향에 대한 우려도 강조되었다. 한 국제 비영리 단체는 인공지능 시스템이 국경 관리, 법 집행, 공공 서비스 접근 등에 사용될 때 인종 및 종교적 소수자, 이민자, 저소득층에게 불균형적으로 피해를 끼칠 수 있다는 점을 지적했다.

카스트 제도와 종교 중심적 문화가 강한 인도와 같은 국가에서는 이러한 편견이 이미 취약하고, 표적이 되는 이민자 공동체에 돌이킬 수 없는 피해를 줄 수 있음을 경고하고 있다. 

2024년 4월, 국제앰네스티는 인도를 비롯한 여러 국가의 자동화된 사회보장 시스템이 잘못된 데이터, 알고리즘 편향, 그리고 불충분한 인적 감독으로 인해 개인을 필수 복지 혜택에서 배제할 위험이 있다고 경고한 바 있다.

이번 정상회의는 인공지능(AI) 거버넌스 격차 해소를 위한 국제적인 노력이 높아지는 가운데 개최되었다.

2024년 7월, 유엔 총회는 개발도상국의 인공지능 격차를 해소하고 AI 기술에 대한 공평한 접근을 촉진하기 위한 결의안 초안을 채택하였다.

물론 이 결의안은 협력과 역량 강화를 강조했지만, 국제앰네스티는 국제적 약속이 인권 침해적인 AI 활용을 명확히 금지하는 국내법 틀과 함께 이루어져야 한다고 주장하고 있다.

*Source : www.jurist.org