[EU] 인공지능 : 위협과 기회, AI법의 역할

유럽의 성장과 부는 데이터와 연결 기술을 어떻게 활용할 것인가와 밀접하게 연관되어 있다. AI는 우리 삶에 좋든 나쁘든 큰 변화를 가져올 수 있다. 이러한 이유로 EU는 2024년 6월에 인공지능법을 채택했는데, 이는 인공지능에 대한 세계 최초의 포괄적인 법률로, EU 내에서 사용되는 인공지능 시스템이 안전하고 기본권을 옹호하도록 하기 위한 것임을 밝히고 있다.

다음은 AI의 미래 응용과 관련된 몇 가지 주요 기회와 위협, 그리고 이를 해결하기 위한 AI법의 내용에 대한 설명이다.

181제타바이트

2025년 전 세계에서 생성될 것으로 예상되는 데이터량(1제타바이트는 1조 기가바이트)

AI의 장점

EU 국가들은 이미 디지털 산업과 기업 간(B2B) 애플리케이션 분야에서 강세를 보이고 있다. 고품질 디지털 인프라와 개인정보 보호 및 언론의 자유를 보호하는 규제 체계를 통해 EU는 데이터 경제와 애플리케이션 분야에서 세계적인 리더로 자리매김하고자 한다.

AI가 사람들에게 주는 이점

AI는 향상된 의료 서비스, 더 안전한 자동차 및 교통 시스템, 그리고 맞춤화되고 저렴하며 오래 지속되는 제품과 서비스를 통해  사람들에게 도움을 줄 수 있다. 또한 정보, 교육 및 훈련에 대한 접근성을 높일 수 있다. AI는 위험한 작업에 로봇을 활용함으로써 직장을 더욱 안전하게 만들고, AI 기반 산업의 성장과 변화에 따라 새로운 일자리를 창출할 수도 있다.

67% : 인공지능을 포함한 디지털 기술을 활용해 근로자의 안전과 보안을 개선하는 것을 긍정적으로 인식하는 유럽인의 비율

기업을 위한 인공지능의 기회

기업의 경우, AI는 유럽 기업들이 이미 강력한 입지를 구축하고 있는 녹색 및 순환 경제, 기계, 농업, 의료, 패션, 관광 분야를 포함하여 차세대 제품과 서비스 개발을 지원할 수 있다. AI는 매출 증대, 기계 유지보수 개선, 생산량 및 품질 향상, 고객 서비스 개선, 에너지 절감 효과를 가져올 수 있다.

공공 서비스를 위한 인공지능의 기회

공공 서비스에 사용되는 AI는 대중교통, 교육, 에너지 및 폐기물 관리 분야에서 비용을 절감하고 새로운 가능성을 제공할 수 있으며, 제품의 지속가능성도 향상시킬 수 있다. 이러한 방식으로 AI는 EU 그린딜 목표 달성에 기여할 수 있다.

민주주의 강화

데이터 기반 감시를 활용하고, 허위 정보 및 사이버 공격을 방지하며, 양질의 정보에 대한 접근성을 보장함으로써 민주주의를 더욱 강화할 수 있다. AI는 또한 채용 결정 과정에서 편견의 가능성을 완화하고 대신 분석 데이터를 활용함으로써 다양성과 개방성을 지원할 수 있다.

AI, 보안 및 안전

AI는 범죄 예방 및 형사 사법 제도에 더 많이 활용될 것으로 예상된다. 방대한 데이터 세트를 더 빠르게 처리하고, 수감자 도주 위험을 더 정확하게 평가하며, 범죄나 테러 공격까지 예방할 수 있기 때문이다. AI는 이미 온라인 플랫폼에서 불법적이고 부적절한 온라인 행위를 감지하고 대응하는 데 사용되고 있다.

군사 문제에서 AI는 해킹과 피싱에 대한 방어 및 공격 전략에 활용될 수 있으며, 사이버전에서 핵심 시스템을 표적으로 삼는 데 활용될 수도 있다.

AI의 위협과 과제

AI의 과소 사용과 과다 사용

AI의 미활용은 주요 위협으로 간주되기도 한다. EU가 기회를 놓치면 EU 그린딜과 같은 주요 프로그램의 부실한 이행, 세계 다른 지역에 대한 경쟁 우위 상실, 경제 침체, 그리고 사람들의 삶의 질 저하로 이어질 수 있기 때문이다. 그런데 이러한 미활용은 대중과 기업의 AI에 대한 불신, 열악한 인프라, 주도권 부족, 낮은 투자, 그리고 AI의 머신러닝이 데이터에 의존하기 때문에 분산된 디지털 시장에서 비롯될 수 있다.

한편 과도한 사용도 문제가 될 수 있다. 유용하지 않은 것으로 판명된 AI 애플리케이션에 투자하거나, 복잡한 사회 문제를 설명하는 데 사용하는 등 AI가 적합하지 않은 업무에 AI를 적용하는 것이 한 예이다.

AI법은 이러한 두 가지 위험을 모두 해결하는 것을 목표로 한다. 동 법은 시민과 기업 모두에게 신뢰할 수 있는 AI를 유럽에 보급하고, AI로 인한 위험을 해결하며, 유럽을 이 분야의 선도적인 국가로 자리매김하고자 한다.

책임: AI로 인해 발생한 피해에 대한 책임은 누구에게 있는가?

중요한 과제는 AI 기반 기기나 서비스로 인해 발생한 손해에 대해 누가 책임을 져야 하는지, 즉 자율주행차 사고의 경우 누가 책임을 져야 하는지를 결정하는 것이다. 손해배상 책임은 차량 소유주, 자동차 제조업체, 아니면 프로그래머 중 누가 부담해야 할까?

생산자가 책임을 전혀 지지 않는다면 좋은 제품이나 서비스를 제공하려는 인센티브가 없어지고 사람들의 기술에 대한 신뢰가 손상될 수 있다. 또한 규제가 너무 엄격할 경우 혁신을 저해할 수도 있다.

AI가 기본권과 민주주의에 미치는 위협

AI가 생성하는 결과는 설계 방식과 사용하는 데이터에 따라 달라질 수 있다. 설계와 데이터 모두 의도적이든 의도치 않든 편향될 수 있다. 예를 들어, 어떤 문제의 중요한 측면들이 알고리즘에 프로그래밍되지 않았거나 구조적 편향을 반영하고 복제하도록 프로그래밍되었을 수도 있다. 또한, 복잡한 사회적 현실을 표현하기 위해 숫자를 사용하는 경우, AI가 사실적이고 정확한 것처럼 보일 수 있지만, 실제로는 그렇지 않다. 이를 매스워싱(mathwashing)이라고 불리기도 한다.

제대로 통제하지 않으면 AI는 인종, 성별, 연령에 대한 데이터의 영향을 받아 채용이나 해고, 대출 제공, 심지어 형사 소송에서도 편향된 결정을 내릴 수 있다.

AI는 개인정보 보호권과 데이터 보호에 심각한 영향을 미칠 수 있다. 예를 들어 얼굴 인식 장비나 개인 온라인 추적 및 프로파일링에 사용될 수 있다. 또한, AI는 개인이 제공한 정보를 새로운 데이터로 병합하여 예상치 못한 결과를 도출할 수 있다.

한편 민주주의에도 위협이 될 수 있다. AI는 이미 개인의 이전 온라인 행동을 기반으로 온라인 에코 챔버를 만들어, 다원적이고 평등하게 접근 가능하며 포용적인 공론장을 조성하는 대신 개인이 원하는 콘텐츠만 표시한다는 비난을 받아 왔다. 심지어 딥페이크라고 불리는 매우 사실적인 가짜 비디오, 오디오, 이미지를 만드는 데 사용될 수도 있는데, 이는 재정적 위험을 초래하고 개인의 명예를 훼손하며 의사 결정에 문제를 일으킬 수 있다. 이 모든 것은 공론장의 분열과 양극화를 초래하고 선거를 조작할 수도 있게 된다.

AI는 특정 신념이나 행동과 관련된 개인을 추적하고 프로파일링할 수 있으므로 집회와 시위의 자유를 해치는 역할을 할 수도 있다.

이처럼 편향을 방지하기 위해 AI법은 AI 훈련에 사용되는 데이터 세트가 최대한 완전하고 오류가 없어야 한다고 규정하고 있다. 또한 시민의 권리를 위협할 수 있는 특정 AI 애플리케이션의 사용을 규제하고 있다. 예를 들어, 법 집행 기관의 생체 인식 시스템 사용은 일부 엄격하게 정의된 경우를 제외하고는 금지된다.

AI법은 또한 인위적으로 생성되거나 조작된 이미지, 오디오 또는 비디오 콘텐츠, 즉 딥페이크(deep fake)에 대해 명확하고 눈에 띄게 표시해야 한다는 요건을 도입했다.

일자리에 미치는 AI의 영향

직장에서 AI를 활용하면 많은 일자리가 사라질 것으로 예상된다. AI가 더 나은 일자리를 창출하고 창출할 것으로 기대되지만, 교육과 훈련은 장기 실업을 예방하고 숙련된 인력을 확보하는 데 중요한 역할을 할 것이다.

84% : 로봇과 AI가 신중한 관리가 필요한 기술이라고 믿는 유럽인 비율

경쟁

정보를 축적하면 경쟁이 왜곡될 수도 있는데, 정보가 많은 회사가 유리한 위치를 차지하고 효과적으로 경쟁자를 제거할 수 있기 때문이다.

안전 및 보안 위험

인간과 물리적으로 접촉하거나 인체에 통합된 AI 애플리케이션은 설계가 미흡하거나 오용되거나 해킹될 수 있으므로 안전 위험을 초래할 수 있다. 무기에 AI를 사용하는 것이 제대로 규제되지 않으면 위험한 무기에 대한 인간의 통제력을 상실할 수 있다.

투명성 문제

정보 접근성의 불균형이 악용될 위험도 있다. 예를 들어, 온라인 판매자는 사용자의 온라인 행동이나 기타 데이터를 기반으로 사용자가 알지 못하는 사이에 AI를 사용하여 사용자의 지불 의향을 예측하거나, 정치 캠페인에서 메시지를 수정할 수 있다. 또 다른 투명성 문제는 사람들이 AI와 상호작용하는지 아니면 사람과 상호작용하는지 불분명할 수 있다는 것이다.

AI법은 AI가 인간의 행동을 조작하거나, 사람을 속이거나, 사람의 취약점을 악용하는 것을 방지하기 위해 AI의 사용을 규제함으로써 이러한 과제를 해결하고 있다.

*Source : https://www.europarl.europa.eu/