[Canada] 안전하고 주권적인 AI를 위한 투자

인공지능(AI) 시스템의 자율성이 점점 향상됨에 따라 캐나다와 독일은 근본적으로 새로운 접근 방식, 즉 처음부터 투명하고 신뢰할 수 있으며 안전하게 설계된 첨단 AI에 투자하고 있다.

9월 16일 ALL IN 컨퍼런스에서 에반 솔로몬(Evan Solomon) 캐나다 인공지능·디지털혁신부 장관 겸 온타리오 남부 연방 경제개발청 장관과 카르스텐 빌드베르거(Karsten Wildberger) 독일 연방 디지털 전환·정부 현대화부 장관은 캐나다 정부와 독일 연방 정부가 각각 1억 5천만 캐나다 달러와 1억 유로를 로제로(LawZero)에 투자하여 신뢰성, 안전성, 역량을 갖춘 새로운 형태의 첨단 인공지능을 개발할 계획이라고 발표했다.

“캐나다의 인공지능(AI) 미래는 우리의 가치를 반영하고 우리의 이익을 보호하는 첨단 시스템 개발에 달려 있습니다. Scientist AI와 같은 국내 혁신에 투자함으로써 우리는 캐나다의 AI 역량을 강화하고 차세대 AI가 안전하고 책임감 있게, 그리고 캐나다의 기준에 맞춰 구축되도록 보장할 것입니다.” (에반 솔로몬 인공지능·디지털혁신부 장관)

“Scientist AI 프로젝트를 통해 캐나다와 독일 간의 검증된 파트너십을 더욱 강화할 것입니다. 이 프로젝트는 본질적으로 안전한 AI를 개발하기 위한 혁신적이고 수학적으로 검증된 접근 방식을 추구합니다. 설계 단계부터 안전을 고려한 이 모델은 잠재적으로 통제 불가능한 자율 AI 에이전트에 대한 대안을 제시합니다. 이는 객관적인 과학자처럼 오로지 사실에 기반하여 작동하며, 자체적인 목표를 추구하지 않습니다. 캐나다와 유럽에 첨단 AI 연구 역량을 구축함으로써 우리는 기술 주권을 강화할 것입니다.” (카르스텐 빌드베르거 독일 연방 디지털 전환·정부 현대화부 장관)

이번 공동 투자는 인공지능 분야에서 캐나다와 독일 간 협력을 더욱 강화하는 계기가 될 것으로 보인다.

몬트리올에 본사를 둔 LawZero는 신뢰성, 투명성, 안전성을 최우선으로 고려하여 설계된 혁신적인 프론티어 인공지능(AI) 접근법을 개발하는 비영리 단체이다. 캐나다 정부의 전략적 대응 기금(Strategic Response Fund) 지원금은 LawZero의 방법론인 Scientist AI 개발을 위한 연구 및 엔지니어링 인재 양성과 컴퓨팅 역량 강화에 사용될 예정이다.

자율적으로 작동하거나 특정 목표를 추구하도록 설계된 기존의 첨단 AI 시스템과는 달리, Scientist AI는 투명한 추론 과정을 거쳐 자체 목표에 편향되지 않은 신뢰할 수 있고 증거 기반의 결과를 제공하도록 개발되고 있다.

이 프로젝트는 핵심 연구와 인재 및 컴퓨팅 역량을 캐나다에 집중시킴으로써 캐나다의 기술 주권을 강화하고 외국이 통제하는 AI 시스템에 대한 의존도를 줄일 것으로 예상된다. 또한 캐나다에서 360개의 정규직 일자리를 창출하고, 캐나다의 선도 기업인 Hypertec 및 5C와 협력하여 독자적인 컴퓨팅 인프라를 구축할 것이다.

독일의 지원금은 유럽위원회의 승인을 거쳐야 하며, LawZero의 새로운 독일 사무소에서 진행되는 연구 개발을 지원할 예정이다. 특히 이 지원금은 프로젝트의 규모와 속도를 확대할 뿐만 아니라, 인공지능 분야의 유럽 규범 및 규정을 프로젝트 초기 단계부터 반영할 수 있도록 보장하는데 사용될 예정이다.

또한 로제로는 기존 인공지능 시스템을 평가하고 감독하며 과학 연구를 지원하는 도구의 개발을 시작으로, 안전성을 최우선으로 고려한 설계(safe-by-design) 방식의 새로운 방법론을 개발할 예정이다.

이번 발표는 양국이 지난 2월 발표한 인공지능 공동 의향 선언과 기술 주권 동맹 출범을 기반으로 인공지능 개발 분야에서 캐나다와 독일 간의 협력을 더욱 강화하기 위한 것이다. 이를 통해 캐나다의 국가 인공지능 전략인 ‘모두를 위한 인공지능(AI for All)’을 진전 시켜 자체 개발한 인공지능 시스템을 안전하게 구축하고 배포할 수 있는 장기적인 역량 강화가 기대된다.