[USA] 콜로라도주, AI법제 개편

「콜로라도주 인공지능 시스템과의 상호작용 시 소비자 보호에 관한 법률(이하 “SB 24-205”)」을 전부개정하는 「콜로라도주 중대한 결정에 자동화 의사결정 기술 사용 및 관련 예산의 책정에 관한 법률(이하 “SB 26-189”)」이 5월 14일 제정됐다.

이로써 콜로라도는 상당히 높은 정도로 개발자 등의 주의의무를 요구했던 기존의 규제 방식에서 한 발 물러나 정보 공개 및 고지 의무를 중심으로 인공지능 관련 제도를 전면 개편하게 됐다. 

인공지능에 대한 포괄적 규제라는 평가를 받아온 SB 24-205는 「콜로라도주 소비자 보호법」에 제17부(이하 “제17부”)를 신설하고, 인공지능으로 발생할 수 있는 알고리즘 차별에서 소비자를 보호해야 하는 합리적 주의의무를 개발자(developer)와 중요한 의사결정에 인공지능을 활용하는 사업자(deployer, 이하 “활용자”)에게 부여했다.

그러나 제정 당시부터 주지사는 인공지능 시스템을 사용한 결과에 대해서까지 차별이 없도록 요구하는 SB 24-205의 규정이 행위의 의도에 초점을 둔 현행 차별금지법제와 부합하지 않음을 지적하며 우려를 표했다.

이와 같은 주 내부의 문제 인식에 더해, 연방정부에서도 SB 24-205에 문제를 제기했다.

대표적으로 트럼프 대통령은 2025년 12월에 공포한 행정명령 제14365호에서 SB 24-205의 이러한 접근을 비판하는 한편 법무부에 소송 전담 부서를 신설하는 등 연방의 각 부처에 구체적 대응을 요구했다. 

실제 연방 법무부는 xAI가 콜로라도를 상대로 올해 4월 9일에 콜로라도 연방지방법원에 제기한 소송(X. AI LLC v. Weiser)에 원고로 참가한 사실이 있다. 현재 이 사건은 4월 27일을 기해 당사자 간 합의로 절차 진행이 일시적으로 중단됐고 법원은 SB 24-205의 집행정지를 명령한 상태다.

이 사건에서 콜로라도 법무부장관은 주의회에서 SB 26-189의 발의를 준비 중인 점을 들어 SB 24-205의 시행을 위한 규칙 제정 등 조치는 없을 것이라 밝혔다.

이 소송과 별개로 콜로라도 정부는 2025년부터 SB 24-205를 개선하기 위한 노력을 기울여 왔다. 주지사가 2025년 하반기에 조직한 “인공지능정책실무단”은 제17부를 전부개정하는 새로운 법률안을 올해 3월에 제안했고, 대부분이 SB 26-189에 반영됐다. 

SB 26-189로 변경되는 사항 중 가장 눈에 띄는 것은 규제 대상을 기존의 “고위험 인공지능 시스템”에서 「캘리포니아주 소비자 개인정보 보호규정」에서 채택한 “자동화 의사결정 기술(Automated Decision-Making Technology, ADMT)” 중 중대한 의사결정에 실질적으로 영향을 미치는 기술로 변경한 점이다. 또한, 주 안팎에서 비판을 받았던 알고리즘 차별 예방 조치와 기록 관리 및 보고 등 의무는 삭제됐다.

그러나 ADMT를 사용해 내린 중대한 결정에 대해 여전히 콜로라도의 차별금지법이 적용되며 관련법에 따라 개발자나 활용자를 상대로 소송이 제기될 수도 있다. 다만, 차별적 행위의 의도가 아닌 결과에 따른 책임 추궁이 되지 않도록 개발자의 책임은 ADMT가 그의 의도대로 사용된 경우에만 인정된다. 

이 밖에 활용자의 위험관리정책 및 영향평가와 관련한 의무도 제외됐다.

그러나 활용자는 여전히 ADMT의 사용에 대해 사전 고지 의무를 지며 그 사용으로 인해 소비자에게 부정적 결과를 주는 결정을 한 때는 30일 이내에 소비자에게 알리고 정보 요청권 등 소비자 권리와 그 행사 방법을 안내해야 한다.

개발자는 활용자에게 자신이 개발한 ADMT의 올바른 사용법과 주의사항을 비롯해 활용자가 이 법의 규정을 준수하는 데 필요한 정보를 제공해야 한다.

한편 개발자와 활용자 모두 법에서 정하는 기록을 3년 이상 보관할 의무를 진다. 위반 시 제재 절차 역시 변경된다. 단순 위반일 경우 법무부장관은 개발자나 활용자에게 60일의 시정 기간을 줄 수 있다. 이 기간 내 위반이 시정되지 않거나 악의 또는 상습 위반에 해당할 경우에는 장관이 법원에 정식으로 소를 제기할 수 있다. 다만, 이와 같이 본격 제재에 앞서 시정 기회를 주는 구조는 2029년까지 한시적으로 운영한다. 

위와 같이 변경되는 사항은 2027년 1월 1일부터 시행될 예정이며 주정부는 올해 안으로 세부 절차와 조건 등을 규칙으로 정할 것으로 보인다. 콜로라도 내의 업계와 관련 단체는 대체로 SB 26-189를 반기는 분위기다. 그러나 주의회에서는 SB 24-205에 비해 소비자에게 공개하는 정보의 범위가 축소된 것을 아쉬워하는 의견이 있어 향후 이를 보완하기 위한 입법적 노력이 전개될 것으로 예상된다. 

*Source : 세계법제정보센터, 콜로라도 주의회 법률안 SB 26-189, 내셔널로리뷰(2026.05.01.), 콜로라도썬(2026.05.12.)