[UN] 유엔 AI 패널, 글로벌 영향 연구 착수

혁신과 윤리라는 불안정한 교차점을 헤쳐나가야 하는 임무를 맡은 세계적인 전문가 그룹은 현대 생활을 변화시키는 요인에 대한 획기적인 연구를 시작한다.

취리히 연방 공과대학(the Swiss Federal Institute of Technology, ETH)의 메나 엘-아사디(Menna El-Assady) 교수는 다음과 같이 말했다.

우리는 인공지능을 단순히 수학적 또는 알고리즘적 분야로만 바라보는 것이 아니라, 인간이 의사 결정의 중심에 있도록 하는 데에도 관심을 기울이고 있습니다.

엘-아사디 교수는 유엔 사무총장의 추천을 받은 유엔 인공지능 독립 패널(Independent International Scientific Panel on AI)의 창립 멤버 중 한 명이다. 이 패널은 AI가 우리 삶을 어떻게 변화시키는지 평가하기 위해 주요 전문가들을 한자리에 모은 최초의 글로벌 인공지능 과학 기구이다.

이들은 학계, 민간 부문, 시민 사회, 정부/국제기구, 기술 커뮤니티 등 다양한 배경을 가지고 있으며, 핵심 AI 기술 전문 지식, 응용 AI, 안전 및 인프라 경험, AI 정책, 윤리 및 영향 분야에 대한 전문성을 보유하고 있다.

증강 지능(Augmented Intelligence)

“기계 속의 인간”은 인공지능 사용과 관련하여 자주 사용되는 표현이다. 이는 인공지능 도구가 내리는 결정에 인간이 항상 관여해야 한다는 개념을 의미한다. 

엘-아사디 교수는 “우리는 언제 인간과 그들의 전문 지식에 의존해야 하고, 언제 자동화할 수 있는지 알아내려고 노력하고 있다”고 말한다. 그러면서 “우리는 AI와 인간의 모델 간의 연결 고리, 즉 상호 적응 루프와 인간이 새로운 정보를 얻거나 AI가 새로운 정보를 얻을 때마다 발생하는 진화를 이해해야 한다”고 강조하고 있다.

취리히 연방 공과대학(ETH Zurich)에서 엘-아사디 교수는 인공지능을 인간을 완전히 대체하는 것이 아니라 인간의 능력을 향상시키는 데 활용하고, 다양한 분야에서 인공지능과 인간 간의 협력을 구축하는 “증강 지능 “이라는 개념을 개발했다.

이러한 전문 지식은 인공지능 패널의 업무에 특히 유용하다. 인공지능 패널은 인공지능 사용이 노동 시장 및 의료 시스템과 같은 사회의 다양한 영역에 미치는 영향을 조사하고 있다.

엘-아사디 교수는 인공지능 개발을 원하는 모든 사람이 필요한 자원을 확보할 수 있도록 “공공 디지털 인프라” 구축을 주장하고 있으며, “또한 인공지능 모델이 소수의 국가에만 국한되지 않도록 다양한 문화와 언어를 모델에 통합하는 방법도 살펴봐야 한다”고 그녀는 덧붙였다.

신뢰, 윤리 및 워터마크(Trust, ethics and watermarks)

이번 패널 토론회 개최는 유엔을 비롯한 여러 기관에서 규제되지 않은 인공지능의 위험성에 대한 우려가 커지고 있음을 반영한 것이다. 

안토니오 구테레스 유엔 사무총장은 2025년 9월  안전보장이사회 에서 “인류의 운명을 알고리즘에 맡길 수 없다”고 경고했으며, 폴커 튀르크 유엔 인권최고대표는 2월에 기본적인 사회적, 윤리적 원칙에 대한 이해 없이 모델을 구축하는 AI 개발자들이 “프랑켄슈타인의 괴물”을 만들어낼 위험이 있다고 말했다.

엘-아사디 교수는 윤리와 신뢰가 해당 분야에 매우 중요하며, AI 모델의 한계를 인식하는 것 또한 중요하다는 데 동의한다.

엘-아사디가 제시한 한 가지 가능한 해결책은 “AI 워터마킹”으로, 콘텐츠가 사람이 만든 것인지 AI가 생성한 것인지 명확히 하고 둘을 구별하는 방법을 제시하는 것이다.

이는 과학 패널의 첫 번째 보고서에 포함될 수 있는 주제의 예시이며, 이 보고서는 7월 6일부터 7일까지 제네바에서 열리는 인공지능 거버넌스에 관한 글로벌 대화에서 발표될 예정이다.

*Source : UN News 웹사이트