[데스크에서] AI 무한경쟁, 인류에게 안전한가

강철하 편집장 / 미래융합정책연구소장

미국 AI 빅테크들은 AI 무한경쟁의 당사자이며, 인공지능(AI) 기능 향상의 역기능(자율살상무기 활용 등)을 초래한 장본인일 수 있다.

하지만 최근 미국 AI기업들은 AI에 대한 개발 경쟁과 급격한 발전 속도에 따라 향후 AI 오용으로 인한 위험성을 우려하며 AI 안전성에 주목하고 있다.

이와 관련하여 최근 Microsoft AI는 AI 모델 개발·운용 지침(Humanist AI Code of Conduct) 초고를 공표했다. 이 지침에서는 AI를 안전하고 인간의 관리하에 두는 것을 최우선으로 하는 방침이 제시되어 있다.

구체적으로는 AI를 인간의 관리하에 있는 지원기술로 자리매김하고 필요에 따라 범용성, 자율성 또는 능력을 억제하거나 인간에 의한 중단, 수정 또는 정지에 저항하지 않을 것 등을 규정하고 있다. 또한 Microsoft AI는 초고의 내용에 대해서 6주간의 의견수렴 절차를 진행하고 있으며, 의견수렴 내용을 검토한 후 지침 개정판 공표 및 2027년 이후 모델 개발에 이용할 예정이다.

마찬가지로 OpenAI의 경우에도 자사의 모델이 지시나 의도에서 벗어난 사례를 추적·조사·공표하는 새로운 프레임워크와 지난 6개월 간 확인된 예기치 않은 AI 행동 6건의 보고서를 공표했다. 이 프레임워크는 지금까지 개별적으로 행해졌던 사례 공표를 체계화하고 원인 해명이나 대책이 완료되지 않은 단계에서도 외부 연구자 등이 검증할 수 있도록 신속하게 정보를 공유하는 것을 목적으로 하고 있다.

한편 Google 및 Google DeepMind의 연구자들은 AGI의 안전한 개발과 유익한 이용, 그리고 사회에 미칠 영향에 관한 연구를 진행하는 ‘DeepMind Institute’를 설립했다. DeepMind Institute는 Google 사내외의 연구자나 관련 학자들이 참여하는 기구이며, 사이버 위험, 바이오 위험, 장래의 자기 개선형 시스템을 제어할 수 없게 될 가능성 등을 검토하고 있다.

이처럼 미국 AI 빅테크들은 인공지능의 위험성 연구 및 안전대책 마련에 주목하고 있는 반면, 우리나라에서는 AI 개발 및 혁신을 중심으로 AI 연구와 논의가 집중되어 있는 인상을 지우기 어렵다. 특히 AI 안전성이나 규제 논의에 대해 마치 ‘대한민국 AI 글로벌 3강’ 목표나 글로벌 경쟁력 강화를 저해하는 주장으로 치부하는 이분법적 사회 분위기도 있다.

하지만 AI 개발과 혁신은 모두 사람을 위한 것이란 점을 잊어서는 안된다.

인류가 인공지능을 통제하고 ‘인류를 위한 AI’로 기능할 때, AI 혁신은 의미가 있다. 만일 재귀적 자기개선으로 AI가 인류의 통제권을 벗어나 인류에게 심각한 피해를 준다거나 대량살상무기, 사이버 공격, 불법 콘텐츠 확산 등에 AI가 악용된다면 인간의 평온한 삶과 존엄성 보장은 더 이상 유지될 수 없을 것이다.

따라서 급속하게 발전하고 있는 AI 개발 상황을 고려할 때, 더 늦기 전에 AI에 의한 위험을 최소화하면서 안전하게 AI를 활용할 수 있는 규범의 제정과 안전 대책을 시급히 마련해야 할 것이다.