유엔의 인공지능(AI) 관련 주요 행사인 ‘AI for Good Global Summit’이 7월 8일 제네바에서 개막하여 4일간 고위급 대화, 최첨단 시연과 포용적인 AI 거버넌스에 대한 긴급 촉구가 진행되었다. 이번 행사는 규제 프레임워크가 따라잡을 수 없을 정도로 생성형 인공지능 시스템이 빠르게 발전하는 가운데 개최되었다. 제네바 팔렉스포(Palexpo)의 20,000제곱미터가 넘는 전시 공간에서는 비행 자동차, 물고기에서 영감을 받은 수질 모니터, 뇌-컴퓨터…
과학기술정보통신부(이하 ‘과기정통부’)는 금일 국회 본회의에서 총 1,793억원 규모의 인공지능(AI) 분야 제2회 추가경정예산안이 의결되었다고 밝혔다. 이번 제2회 추경은 경기진작을 위해 AI 전환과 국민 체감도 제고에 초점을 맞추어, AI의 활용 확산을 통한 우리나라 산업을 고도화하고, 공공서비스를 혁신하는 한편, 국가 정보보호체계를 강화하기 위한 내용을 담고 있다. 최근 글로벌 AI 경쟁이 공공·산업·민생 전반의 전환(AI Transformation, AX)으로 확대되는 가운데, 과기정통부는 AI 3대 강국 도약을 위한 실질적 실행과제를 차질 없이 이행하고자…
세계에서 가장 진보된 인공지능 모델이 우려스러운 행동을 보이고 있다. 에컨대, 거짓말, 계략, 심지어 목표를 달성하기 위해 개발자를 위협하는 행동까지 서슴지 않고 있는 것이다. 특히 충격적인 예로, Anthropic의 최신작인 Claude 4는 플러그를 뽑겠다는 위협을 받고 엔지니어를 협박하고 불륜 사실을 폭로하겠다고 위협하기 까지 했다. 이와 함께 ChatGPT를 만든 OpenAI의 o1은 외부 서버에 자신을 다운로드하려고 시도하였고, 적발되자 이를…
6월 19일(목) 유엔 제59차 인권 이사회 회의에서 유엔의 기업과 인권 실무그룹은 국가와 기업이 인공지능(AI) 시스템을 조달하고 배치할 때 국제 인권 기준을 준수해야 하며, 이를 준수하지 않을 경우 심각한 인권 침해로 이어질 수 있다고 경고했다. 유엔 기업과 인권 실무그룹 의장인 라이라 자쿨레비치에네(Lyra Jakulevičienė)는 인권 이사회 제59차 회의에 보고서를 제출하며 “AI 시스템은 우리 사회를 변화시키고 있지만 적절한 보호 장치가 없다면 인권을…
최근 영국의 한 판사는 인공지능(AI)이 생성한 가짜 자료를 법원에 서류로 제출할 경우 어떤 결과가 초래될 수 있는지 변호사들에게 경고하였다. 공개된 판결문에 따르면, 영국의 빅토리아 샤프(Victoria Sharp) 판사는 변호사들이 법원에 제출한 서류가 AI를 사용한 것으로 의심되는 두 개의 사건을 심리했다. 결과적으로 샤프 판사는 해당 변호사들을 규제 기관에 회부(referral to the regulator)했지만, 해당 변호사들을 법정모독죄(contempt of court)로 처벌하지는…
유럽의 성장과 부는 데이터와 연결 기술을 어떻게 활용할 것인가와 밀접하게 연관되어 있다. AI는 우리 삶에 좋든 나쁘든 큰 변화를 가져올 수 있다. 이러한 이유로 EU는 2024년 6월에 인공지능법을 채택했는데, 이는 인공지능에 대한 세계 최초의 포괄적인 법률로, EU 내에서 사용되는 인공지능 시스템이 안전하고 기본권을 옹호하도록 하기 위한 것임을 밝히고 있다. 다음은 AI의 미래 응용과 관련된 몇…
2025년 4월 18일 대만 입법원 3독회는 「산업혁신조례」를 개정하였다. 이번 개정법에는 투자 세액 공제 항목에 ‘인공지능’ 및 ‘에너지·탄소 절감’을 추가하고, 더 많은 자금이 신생 기업에 유입되도록 자금 조달의 기회를 확대하는 한편, 핵심 기술의 외부 유출을 방지하기 위하여 특정 국가나 지역, 산업 또는 기술에 대해 일정한 금액 이상 투자할 경우 승인을 받도록 하는 내용이 포함되었다. 이 개정법은…
세계적으로 불확실성이 커지고 장기적 과제가 경제 지형을 재편하는 가운데, APEC 경제권은 이번 주 한국 제주도에 모여 연결성(connectivity), 혁신(innovation), 번영(prosperity)에 대한 협업을 가속화했다. 이틀간의 회의에서 고위 관리들은 인공지능, 인구 구조 변화, 경제 통합과 같은 새로운 우선순위에 대한 지역 차원의 노력을 진전시켰으며, 이는 최근 장관 회의와 이해관계자 대화를 바탕으로 이루어졌다. 회의를 주재한 윤성미 대사는 올해 APEC에서 미래…
우리 정부는 2.24.(월)-3.9.(일)간 경주에서 개최된 아시아태평양경제협력체(APEC) 제1차 고위관리회의(SOM1)(윤성미 APEC SOM 의장) 및 산하회의에서, 금년도 APEC 의장국으로서 추진할 올해 핵심성과로 “AI 협력” 및 “인구구조 변화 대응”을 제시하였다. ※ APEC은 아시아태평양지역 최대 경제협력체로, 우리나라, 미국, 중국, 일본, 러시아 등 총 21개 회원이 참여 / 고위관리회의(SOM)는 APEC 회원 간 협력 사안을 논의하는 고위급 협의체로, 매년 4회의 공식회의와 1회의 비공식회의를 개최하고 그 결과를 정상회의ㆍ합동각료회의에 보고 2025년 APEC의 공식 일정의 문을 연 금번 회의에서, 우리나라는 올해 APEC 회원들이 함께 추진할 핵심성과로서 ▲AI 협력 및 ▲저출산·고령화 등 인구구조 변화 대응을 제시하였다. 구체적으로, ▲AI 분야에서는 AI 기술의 무한한…
’23년 하반기부터 인공지능(AI)를 활용한 딥페이크 기술이 상용화됨에 따라 이를 악용한 딥페이크 성범죄도 증가하고 있다. 특히, 딥페이크 관련 집중 언론보도로 국민적 관심이 증가되자 피해 사실들이 다수 발견되면서 ’24. 8월부터 신고가 급증하였으며, 지인(‘겹지방’ 등)이나 유명인들의 일상사진이나 영상을 활용한 딥페이크 성범죄 위협이 크게 대두하였다. ※ (겹지방) 자신이 알고 있는 지인의 개인적인 사진을 악용하여 딥페이크 성적 허위영상물을 제작한 다음, 서로 공유하는 방 이에 경찰은 올해 8월 28일부터 내년 3월 31일까지 딥페이크 성범죄 근절을 위한 ‘허위영상물…
