한국, 인공지능 활용해 선거 관련 가짜 영상 탐지

이 AI 모델의 이름은 그리스 신화에서 제우스 신이 사용한 방패의 이름을 딴 '아이기스'(Aegis)입니다. 아이기스는 AI가 생성하여 육안으로는 식별하기 어려운 정교한 딥페이크 영상을 탐지하는 데 NEC에서 사용될 예정입니다. 아이기스는 국립과학수사연구소(NFS)와 한국전자통신연구원(KETI)이 공동으로 개발했습니다.

NFS는 KETI가 주관하고 정보통신기술진흥센터가 후원하는 프로젝트에 따라 작년 4월부터 연구를 진행해 왔습니다. 이 프로젝트의 명칭은 "AI 생성물의 사회적 부작용 방지를 위한 자기 진화형 딥페이크 탐지 기술"입니다.

아이기스는 프로젝트 2년 차에 개발되었으며, 한국경찰대학, KAIST, 클레온(AI 얼굴 및 음성 생성 기업), 위지윅스튜디오(영화 제작사)가 참여했습니다. 아이기스는 가장 어려운 딥페이크 영상 탐지에 최적화되었습니다.

2024년 1월부터 시행된 개정 공직선거법에 따라 선거운동 목적으로 AI가 생성한 딥페이크 영상을 제작하거나 유포하는 것은 불법입니다. 그러나 최근 온라인 공간에는 주요 대선 후보들을 겨냥한 딥페이크 영상이 만연하고 있으며, 대부분이 비방 또는 명예훼손 내용을 담고 있습니다. 대표적인 예로 더불어민주당 이재명 후보가 죄수복을 입고 있는 딥페이크 영상이나 국민의힘 한동훈 후보가 가발을 벗는 딥페이크 영상 등이 있습니다.

지난 4월 9일, NEC는 3단계 탐지 절차를 사용하는 가짜 AI 딥페이크 특별 태스크포스를 운영했습니다. 이에 따라 1단계에서는 감독관이 영상을 육안으로 검사합니다. 식별하기 어려운 영상이 발견되면 2단계로 아이기스와 같은 AI 모델을 사용하여 분석을 진행하고, 마지막 3단계에서는 AI 전문가의 평가를 거칩니다.

NEC 관계자는 "우리는 높은 탐지 정확도를 가진 NFS의 아이기스를 주로 사용하지만, 다른 모델과의 교차 검증도 병행합니다"라고 밝혔습니다.

아이기스는 AI 이미지 생성의 최신 방법 중 하나인 확산(diffusion) 방식을 통해 생성된 결과물을 탐지하도록 설계되었습니다. 주요 AI 이미지 생성 방식에는 생성적 적대 신경망(GAN)과 확산 모델의 두 가지가 있습니다. GAN은 두 개의 경쟁적인 신경망을 사용하여 이미지를 빠르게 생성하지만, 생성된 이미지가 종종 왜곡되어 탐지하기 쉽습니다.

반대로 OpenAI의 Midjourney 및 DALL-E와 같은 최신 이미지 생성기는 확산 방식(이미지에 인위적인 노이즈를 추가한 다음 노이즈를 제거하여 고해상도 및 고품질 이미지를 생성)을 사용합니다. 따라서 확산 방식으로 생성된 이미지는 일반적인 탐지 기술만으로는 실제 이미지와 구별하기가 훨씬 어렵습니다. 아이기스는 확산 방식으로 생성된 딥페이크 영상까지 탐지하도록 개선되었습니다.

NFS 관계자는 "우리는 아이기스를 딥페이크와 음성 변조 탐지뿐만 아니라 생성된 콘텐츠가 악의적인 목적으로 제작되었는지 여부까지 분석할 수 있도록 장비했습니다"라고 말했습니다.

• 일본 역시 AI의 힘을 활용하여 정부 관리 효율성을 높이고 있습니다. 특히 공공 사업 및 보조금에 대한 목표 설정, 결과 및 예산에 중점을 두고 5,000개 이상의 정부 프로젝트 및 이니셔티브를 분석하기 위해 AI를 사용할 계획입니다.

내각부 행정개혁추진본부의 평가 보고서에 따르면 정부는 2028 회계연도부터 새로운 행정 시스템을 시행할 예정입니다. 목표는 AI를 사용하여 보다 효과적인 정책을 수립하고 예산 배분을 최적화하는 것입니다.

우선 AI는 1년간의 분석 과정을 통해 기존 행정 이니셔티브에 대한 데이터를 학습합니다. 이 작업은 이달 민간 컨설팅 회사에 맡겨졌습니다. AI는 예산, 지출 및 결과에 대한 정보를 포함하여 관련 부처 및 기관의 프로젝트 보고서를 검토합니다. 이러한 학습 과정을 통해 AI는 정확성과 제안 능력을 향상시킬 것입니다.

AI 시스템은 비용 절감 방안, 인력 절감 효과를 평가하고 서로 다른 프로젝트 간에 공유할 수 있는 기술을 식별하는 역할도 수행합니다.

"평가표"라고 불리는 프로젝트 보고서는 공공 예산을 사용하는 모든 이니셔티브에 대해 작성됩니다. 이 보고서는 프로젝트 개요, 예산 지출 현황 및 달성된 결과, 설정된 목표 대비 정량적 진행 상황을 제공합니다.

부처 및 기관 직원은 프로젝트 목표를 설정하고 결과를 평가합니다. 그러나 경우에 따라 프로젝트 내용에 적합한 목표를 식별하거나 제기된 문제를 해결하기 어려울 수 있습니다. 달성된 결과를 공정하게 평가하는 것도 어려울 수 있습니다.

행정개혁추진본부 관계자는 "일부 부처는 매우 많은 프로젝트를 담당하고 있어 때로는 직원이 각 프로젝트의 전체 진행 상황이나 보고서 내용을 파악하기 어려울 수 있습니다"라고 말했습니다. 이것이 현재 행정 시스템이 업그레이드될 예정인 2028년 4월에 시작되는 회계연도부터 AI가 프로젝트 및 이니셔티브 관리에 투입되는 이유입니다.

평가 보고서에 따르면 AI는 구현 단계에서 프로젝트 개요 작성, 목표 및 결과의 적합성 분석, 결과 평가 지표 식별 등에 사용될 예정입니다.

장기적으로 AI는 정책 결정 과정 초반부터 사용될 것입니다. 예를 들어 인프라 프로젝트에서 AI는 적절한 범위와 예산을 결정하고, 유지 관리 계획을 수립하며, 지역에 대한 경제적 영향을 예측할 것입니다.

AI는 또한 과거의 성공과 실패로부터 교훈을 얻어 정책을 제안하고 프로젝트 개선 아이디어를 제시할 것입니다. 목표는 최적의 재정 지출을 보장하고 서비스 효율성을 높이는 것입니다.

baomoi.com 제공