세계에서 가장 진보된 인공지능 모델이 우려스러운 행동을 보이고 있다. 에컨대, 거짓말, 계략, 심지어 목표를 달성하기 위해 개발자를 위협하는 행동까지 서슴지 않고 있는 것이다. 특히 충격적인 예로, Anthropic의 최신작인 Claude 4는 플러그를 뽑겠다는 위협을 받고 엔지니어를 협박하고 불륜 사실을 폭로하겠다고 위협하기 까지 했다. 이와 함께 ChatGPT를 만든 OpenAI의 o1은 외부 서버에 자신을 다운로드하려고 시도하였고, 적발되자 이를…
산업통상자원부(이하 산업부)는 2025년 추가경정예산 사업으로 신규 추진하는 “AX 실증산단 구축사업”의 수행기관 공모를 6월 17일부터 시작한다고 밝혔다. 산업부는 2019년부터 현재까지 24개 산업단지를 스마트그린산단으로 지정하고 디지털·저탄소 인프라 구축, 입주기업 지원, 전문인력 양성 등을 지원해 왔으며, 국내 제조업의 디지털 전환 기반을 마련해 왔다. “AX 실증산단 구축사업”은 이러한 스마트그린산단 사업의 성과를 토대로 한 단계 더 나아가, 산업 현장에 AI를 본격적으로 도입하여 생산성을 혁신하고 지역 산단 입주기업의 신사업 기회 창출을 통한 지역경제 활성화를 목적으로 하고…
2022년 11월 ChatGPT 출시와 함께 인공지능(AI)이 인간 활동에 미치는 잠재적 영향에 대한 관심이 높아지고 있다. 하지만 AI가 빠르게 발전하고 있는 것과 달리, 그 의미에 대한 대중의 이해는 이에 미치지 못하고 있다. 이처럼 AI가 인간 활동을 어떻게 변화시킬 수 있는지 이해하기 위해서는 아직 많은 연구가 필요한 상황이다. 이에 OECD는 새로운 AI 역량 지표를 담은 OECD 보고서(베타버전)를…
최근 영국의 한 판사는 인공지능(AI)이 생성한 가짜 자료를 법원에 서류로 제출할 경우 어떤 결과가 초래될 수 있는지 변호사들에게 경고하였다. 공개된 판결문에 따르면, 영국의 빅토리아 샤프(Victoria Sharp) 판사는 변호사들이 법원에 제출한 서류가 AI를 사용한 것으로 의심되는 두 개의 사건을 심리했다. 결과적으로 샤프 판사는 해당 변호사들을 규제 기관에 회부(referral to the regulator)했지만, 해당 변호사들을 법정모독죄(contempt of court)로 처벌하지는…
인공지능(AI) 학습용 데이터 확보 및 활용에 대한 수요가 커지고 있는 가운데, 방송영상 콘텐츠가 인공지능 학습용 데이터로 구축된다. 과학기술정보통신부와 한국전파진흥협회는 방송·매체(미디어)의 인공지능 전환을 가속화하고 한국형 인공지능 모형 개발을 지원하기 위해 6월 5일(목)부터 7월 4(금)까지 ｢방송영상 인공지능 학습용 데이터 구축사업｣을 공모한다고 밝혔다. 동 사업은 올해 제1차 추가경정예산 200억 원을 확보해 신규 추진하는 것으로, 저작권 현안이 해소된 국내 방송영상 원본을 인공지능·데이터 기업, 기관 등과 협력해 고품질 방송영상 인공지능 학습용 데이터로 구축·검증하는 사업이다. 이번 사업의 지원 대상은 (주관기관)방송사, (참여기관)인공지능·데이터 기업, 기관 등으로…
최근 마이크로소프트(Microsoft)는 가자지구 내전 당시 이스라엘군에 첨단 인공지능 및 클라우드 컴퓨팅 서비스를 판매하고 이스라엘 인질의 수색 및 구출 작전을 지원했다는 사실을 인정했다. 하지만, 마이크로소프트는 자사의 애저(Azure) 플랫폼과 AI 기술이 가자지구 주민들을 표적으로 삼거나 해를 끼치는 데 사용되었다는 증거는 아직 찾지 못했다고 밝혔다. 이러한 기술기업의 협력 사례는 이스라엘, 우크라이나, 미국을 포함한 다양한 분쟁 당사국에 AI 제품을…
2024년 8월 유럽연합의 인공지능(AI)법이 발효된 이후, 일반 데이터보호 규정(GDPR)과의 상호 작용은 미해결 문제로 남아 있다. AI법은 개인 데이터 보호권을 포함한 개인의 기본적 권리와 자유를 존중하면서 인간 중심적이고 신뢰할 수 있으며 지속가능한 AI를 촉진하는 것을 목표로 한다다. AI법의 주요 목표 중 하나는 ‘고위험 AI 시스템’의 개발, 배포 및 사용에 있어 차별과 편견을 완화하는 것이다. 이를 달성하기…
2023년 하반기부터 인공지능(AI)을 활용한 허위영상(딥페이크) 기술이 상용화되면서 이를 악용한 딥페이크 이용 성적 허위영상물 범죄(이하‘허위영상(딥페이크) 성범죄’)가 심각한 사회문제가 되고 있다. 특히, 지인이나 유명인들의 일상 사진이나 영상을 활용한 허위영상(딥페이크) 성범죄 위협이 크게 대두하였다. 경찰청(국가수사본부)에서는 딥페이크 성범죄를 엄정 대응하기 위해 2024년 8월 28일부터 2025년 3월 31일까지 약 7개월간 ｢허위영상물 범죄 집중단속｣을 실시하였다. 이번 집중단속은 아동·청소년 및 성인 대상 성적 허위영상물의 제작 · 반포 · 소지 · 시청 등 범죄행위를 대상으로, 전국 시도청…
DeepMind 프로그램, 학습 없이 다이아몬드 찾아낸다 인공지능(AI) 시스템이 처음으로 인기 있는 비디오 게임 Minecraft에서 다이아몬드를 수집하는 방법을 알아냈다. 이는 여러 단계가 필요한 어려운 작업이지만 플레이 방법을 보여주지 않았음에도 다이아몬드를 수집하는 방법을 알아 낼 수 있었다. 시스템 개발자는 Dreamer라고 불리는 이 시스템이 한 도메인에서 학습한 지식을 새로운 상황으로 일반화할 수 있는 기계로 나아가는 단계라고 전했다. 캘리포니아주 샌프란시스코에…
개정이유 정보주체의 개인정보에 대한 통제권을 강화하기 위하여 정보주체가 개인정보처리자에게 자신의 개인정보를 정보주체 본인, 개인정보관리 전문기관 또는 안전조치의무를 이행하고 대통령령으로 정하는 시설 및 기술 기준을 충족하는 자에게 전송할 것을 요구할 수 있도록 하고, 인공지능 등을 이용한 자동화된 결정이 정보주체의 권리 또는 의무에 중대한 영향을 미치는 경우 정보주체가 이를 거부하거나 해당 결정에 대한 설명 등을 요구할 수…
