[KFPI] AI 전쟁 활용에 관한 국제사회 공동성명 발표

강철하 선임기자2026년 06월 17일2026년 06월 17일

국제앰네스티(Amnesty International), 엑세스 나우(Access Now), 한국의 미래융합정책연구소(Korea Future Policy Institute, KFPI) 강철하 연구소장을 포함해 200여개가 넘는 국제 시민사회단체와 인권전문가들은 6월 15일 군사적 “킬 체인(kill chains)”에 인공지능 시스템 사용을 즉시 중단할 것을 촉구하며, 인공지능에 의한 전쟁이 국제형사법(International Criminal Law, ICL), 국제인도법(International Humanitarian Law, IHL) 및 국제인권법(International Human Rights Law, IHRL) 위반을 조장할 위험이 있다고 경고했다.

아래는 AI 전쟁 활용에 대한 국제시민사회의 공동성명(Joint statement on AI in warfare) 내용이다.

공동성명에 서명한 단체 및 전문가들은 인공지능(AI) 기술의 급속한 군사화에 깊은 우려를 표한다.

군사 공격 체계에 통합된 AI 시스템은 군사 공격의 속도와 규모를 가속화하여 분쟁 시 책임 규명에 새로운 심각한 위험을 초래하고 국제 형법, 국제인권법 및 인도주의법 위반을 조장할 위험이 있다.

따라서 우리는 기술 기업과 국가들이 군사적 킬 체인(kill chains)에 사용되는 AI 시스템 제공을 중단하고, AI 시스템들이 국제인도법(IHL) 및 국제인권법(IHRL) 위반을 야기하거나 이에 기여하지 않도록 모든 조치를 취할 것을 촉구한다.

여기에는 표적 생성 시스템(target generation systems), 원격 생체인식 감시 시스템(remote biometric surveillance systems), 대규모 언어 모델(LLM)을 포함한 멀티모달 AI 모델(multimodal AI models) 등 AI 의사결정 지원 시스템의 사용이 포함된다. AI 기반 전쟁은 신속하면서 대규모로 살상을 자행하는 수단으로 빠르게 자리 잡고 있으며, 현재로서는 어떠한 기술적 또는 절차적 해결책도 국제법에 대한 근본적인 도전을 제기하는 이러한 전쟁이 초래하고 있는 치명적이고 파괴적인 결과를 효과적으로 막을 수 없다.

인공지능 공급망 전반에 걸쳐 정부의 군사기관과 계약을 맺은 기업 등 모든 기업들은 첨단 모델 라이선스, 모델 훈련부터 데이터 처리 및 저장 기능 제공에 이르기까지 자사의 제품과 서비스가 인권 침해 및 국제 범죄를 야기 또는 조장하거나 직접적으로 연관되지 않도록 가능한 모든 조치를 취해야 한다.

무력 충돌 상황에서는 심각한 인권 침해, 특히 국제법 위반을 조장할 위험이 높아지기 때문에 이러한 책임은 국제 인도법 및 형법을 준수하는 것까지 확대된다. 따라서 기업이 이러한 위험을 실질적으로 예방하거나 완화할 수 없는 경우에는 그러한 계약을 체결하거나 이행해서는 안 된다.

NBC 조사에 따르면, 앤트로픽의 클로드 대규모 언어 모델과 메이븐 스마트 시스템을 포함한 AI 기반 데이터 저장 및 분석 시스템이 이란에 대한 미국과 이스라엘의 공격을 지원하는 데 사용되었다고 한다. 오픈 AI는 최근 미 국방부(DoD)에 AI 서비스를 제공하기로 합의했으며, 구글은 앤트로픽과 마찬가지로 국방부와 계약을 맺고 “전쟁 및 기업 영역 전반에 걸쳐 중요한 국가 안보 문제를 해결하기 위한 최첨단 AI 역량 프로토타입을 개발”하고 있다고 전해진다. 또한 마이크로소프트, 구글, 아마존은 수년간 국방부의 “전쟁” 프로그램에 데이터 저장, 처리 및 기타 기업 인프라 서비스를 제공해 왔다.

언론 보도와 미 국방부의 공식 발표에 따르면, 인공지능(AI) 도구를 이용한 신속한 표적 생성은 이란에 대한 미국의 공습 속도, 규모, 강도 및 파괴력을 증대시켰다. 보도에 따르면, 공습 개시 후 48시간 이내에 이스라엘과 미국은 이란 내 약 2,000개의 표적을 공격했다. 이란에 대한 이러한 군사 공격에서 AI 시스템이 정확히 어떤 역할을 했는지는 아직 불분명한 점이 많지만, 이 공습은 민간인과 민간 기반 시설에 엄청난 피해를 입혔다.

이번 작전에서 인공지능 표적 시스템을 도입한 것은 이스라엘 정부가 대규모 감시를 통해 확보한 데이터로 데이터 분석 및 머신러닝 도구를 무기화하여 가자 지구에 대한 대량학살 공격을 자행했던 사례를 따르는 것이다.

라벤더, 가스펠, 웨어즈 대디와 같은 시스템을 사용하는 것은 생사를 결정하는 인간의 책임을 약화시킴으로써, 알고리즘적 객관성이라는 허울 뒤에 국제 범죄를 은폐하고 책임 소재를 가리는 데 일조할 수 있다.

팔레스타인이 비인간적인 전쟁 방식을 위한 실험실로 이용되는 것은 이번이 처음이 아니다.

여기에는 이스라엘 군사기관과의 기술 기업 파트너십도 포함된다. 마이크로소프트, 구글, 팔란티어 등 여러 기술 기업들이 이스라엘 정부가 가자지구에서 자행하고 있는 파괴와 학살을 지원하는 대규모 데이터 저장, 처리 및 분석 시스템에 접근할 수 있도록 지원했거나 이러한 시스템 구축에 기여했을 가능성이 있다.

가자지구에서는 지금까지 최소 7만 2천 명의 팔레스타인인이 사망했다.

법학자, 실무가, 기술 전문가, 유엔 특별보고관, 그리고 탐사 저널리스트들은 인공지능(AI)을 전쟁에 활용하는 것에 대해 오랫동안 경고해 왔다. 이는 AI가 국제 범죄 발생 위험을 높이기 때문이다.

AI 도구가 전쟁을 더욱 효과적이고, 정확하며, 인도적으로 만든다는 주장이 제기되었지만, 실제 적용 사례는 AI가 오히려 더욱 폭력적이고, 비인간적이며, 파괴적인 전쟁 방식을 조장하고 있음을 보여준다.

특히, 표적 생성 및 우선순위 지정을 위한 LLM(Latency Leadership Model) 사용은 군사 행위자들에게 국제인도법의 기본 원칙인 구별의 원칙, 비례의 원칙, 사전 예방의 원칙 등을 존중하지 않거나 존중할 수 없는 형태의 전쟁으로 몰아넣고 있다는 점에 깊은 우려를 표한다.

이는 기술의 엄청난 속도와 규모, 그리고 신뢰할 수 없고 편향되었으며 종종 불법적으로 획득된 입력 데이터를 고려할 때 더욱 그러하다.

우리는 이러한 상황이 인권 침해, 반인도적 범죄, 전쟁 범죄를 조장할 위험이 있다고 주장한다.

더욱이, 이러한 도구 사용에 수반되는 불투명성은 오류 발생 시 도덕적 또는 법적 책임을 규명할 가능성을 근본적으로 위협한다.

앤트로픽(Anthropic)이 “…오늘날 최첨단 AI 시스템은 완전 자율 무기를 구동할 만큼 충분히 신뢰할 수 없습니다. 우리는 미국의 군인과 민간인을 위험에 빠뜨리는 제품을 고의로 제공하지 않을 것입니다.”라고 스스로 밝혔듯이, 국제 범죄를 저지르는 데 사용되는 AI 시스템을 배치하기로 선택한 행위자는 형사적 책임을 져야 한다.

우리의 우려는 이러한 시스템의 오작동으로 발생할 수 있는 오류에만 국한되지 않고, 이러한 시스템이 군사 작전을 근본적으로 어떻게 변화시키는지까지 포괄한다.

따라서 우리는 현재로서는 소위 ‘인간 개입’이나 AI 모델에 내장된 안전장치와 같은 기술적 또는 기능적 해결책이 AI가 가속화하는 킬 체인(kill chains)의 치명적이고 파괴적인 결과를 막을 수 있다는 전제를 받아들일 수 없다.

이러한 주장은 취약한 공동체와 인구에 해를 끼치면서 군사 의사 결정에 AI를 접목하는 것을 정상화하고 확산시키는 결과를 초래할 수 있다. 현재의 상태로서는 이러한 기술에 대한 의미 있는 인간의 통제, 진정한 책임, 감독 및 투명성이 불가능하다.

나아가 표적 획득에 사용되는 AI 시스템이 최종 살상 결정을 내리지 않더라도, 객관성에 대한 잘못된 인식을 심어주고 책임성과 실사 의무를 회피하게 함으로써 대량 학살을 형식적으로 승인하는 도구로 전락할 위험이 있다. 이는 궁극적으로 대량 학살을 신속하고 간편하게 만드는 결과를 초래할 수 있다.

특히 LLM과 같은 대형 AI 모델을 활용하여 감시, 표적 획득, 지휘 작전을 더욱 간편하게 수행하는 기술은 생사 문제를 단순한 채팅 메시지로 처리하게 함으로써 인간성을 말살하는 결과를 낳는다. 타인을 살해하는 결정은 중대한 도덕적, 법적 무게를 지니고 있으며, 결코 AI 시스템의 권고를 단순히 수용하거나 거부하는 것에 맡겨져서는 안 된다. 군대가 AI에 의존하여 표적 식별을 신속하고 일상적으로 처리함으로써 인간의 검토가 무의미한 형식적인 승인 절차로 전락할 경우, 국제인도법상 사전 예방 원칙을 정면으로 위반하는 대량 학살이 발생할 수 있다.

기업은 인권을 존중하고 인권 유린 및 기타 국제법 위반 행위, 특히 국제 범죄에 가담하는 국가에 물질적 또는 재정적 지원을 제공하는 행위를 야기하거나 이에 기여하는 행위를 삼가야 할 책임이 있다.

유엔의 기업과 인권에 관한 지도 원칙에 명시된 바와 같이, 이러한 행위에 가담한 기업은 즉시 피해 발생에 대한 기여를 중단해야 한다. 기업이 직접적으로 피해를 야기하거나 기여하지 않더라도, 단순히 그러한 행위와 연관되어 있는 경우에도 기업은 영향력을 행사하여 이러한 위반 행위를 종식시키도록 노력해야 한다.

물론 일단 군사 계약을 체결하면 기업은 자사 제품 및 서비스 사용 방식에 대한 재량권이 제한될 수 있다. 이는 앤트로픽과 미국 정부 간의 갈등, 그리고 구글과 아마존이 이스라엘 정부와의 계약에서 자사 서비스 약관 적용을 유예했다는 보도에서 확인할 수 있다. 최근에는 2026년 4월 27일, 560명이 넘는 구글 직원들이 CEO에게 공개 서한을 보내 미국 정부가 기밀 군사 작전에 구글의 AI 기술을 사용하는 것을 허용하지 말 것을 촉구하기도 했다.

기술 기업과 경영진은 수익성이 높은 방산 계약을 체결하기 전에 자사 기술이 국제법 위반에 연루될 경우 발생할 수 있는 잠재적 책임에 대해 심각하게 고려해야 하며, 그러한 평가를 내릴 수 없는 경우에는 계약을 체결하지 않아야 한다. 나아가 이들은 분쟁 상황에서 인공지능 사용에 대한 규범적 구조를 재정립하는 데 있어 자신들이 해야 할 역할 또한 이해해야 한다.

공동성명에 서명한 단체 및 전문가들은 기술 기업들에게 다음과 같이 요구한다.

국제법 위반, 특히 인권 침해 및 잔혹 행위 범죄를 저지를 가능성이 있는 군사기관이나 무장 단체와의 계약 체결 또는 이행을 자제해야 한다.

군사적 공격 계획 및 인체 표적 설정을 위한 인공지능 기반 의사결정 지원 시스템(표적 생성 시스템 및 원격 생체 인식 감시 시스템 포함)의 판매, 양도, 서비스 제공 또는 수출을 자제해야 한다.
국제인도법 및 국제인권법의 원칙에 따라 진정한 책임성 확보, 의미 있는 인간의 통제, 감독 및 투명성이 확보될 때까지, LLM과 같은 다중 모드 AI 모델을 포함한 비살상 목적의 AI 의사결정 지원 시스템을 군사적 의사결정 과정에 사용하기 위한 목적으로 판매 또는 수출하는 것을 자제해야 한다.

국가에게도 다음과 같이 요구한다.