TTA 대표홈페이지

인공지능 생성물 악용한 딥페이크·가짜뉴스 막는다!

 한국정보통신기술협회(회장 손승현, 이하 ‘TTA’)는 인공지능 생성물의 오남용으로 인한 디지털 범죄 등 사회적 혼란을 막기 위해, 인공지능 기반 합성 콘텐츠의 투명성 확보를 위한 요구사항 표준화를 추진한다고 밝혔다.

AI 딥페이크 범죄, 23년도 대비 5배 폭증!

 최근 경찰청 통계자료에 따르면 AI 기술을 악용한 허위 영상물(딥페이크) 제작 및 유포 등의 디지털 성범죄는 2024년 812건(’24.9.25. 기준)으로 2023년 168건과 비교했을 때 약 5배 증가했다. 그만큼 인공지능으로 생성·합성된 콘텐츠가 ‘진짜 정보’처럼 유통되고 있다는 것이다.

 이런 범죄가 폭증하고 있는 배경에는 생성형 AI 기술 발전에 따라 누구나 쉽게 ‘현실보다 더 현실 같은’ 콘텐츠를 생성할 수 있게 되면서, 특정 콘텐츠가 사람이 직접 창작한 생성물인지, AI를 통한 생성물인지 출처를 식별하기 어렵다는 점도 한몫을 하고 있다.

정부, 2026년부터 'AI 표시 의무제' 시행

 이와 관련해 정부는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)」제정(’25. 1.) 및 시행 예정(’26. 1.)으로, 생성형 AI가 만든 생성물에는 인공지능이 생성한 결과물임을 표기하는 ‘AI 표시 의무제’를 도입하기로 했다.

TTA, 'AI 생성물 투명성‘ 표준화 추진

 이에 발맞추어 TTA는 인공지능 생성물의 투명성 연구를 지속적으로 진행해왔으며, 2025년 1월 ‘인공지능(AI) 워터마크 기술 동향 보고서’를 발간한 바 있다. 또한, 인공지능 생성물의 무분별한 악용을 방지하고자 ‘인공지능 기반 합성 콘텐츠’ 표준화를 추진한다. 본 표준화를 통해 TTA는 인공지능 생성물 투명성 인공지능 생성물 투명성: 디지털 콘텐츠의 출처와 기록에 대한 정보를 문서화하고 이에 접근 가능하도록 하는 프로세스

   [출처: 과학기술정보통신부·한국정보통신기술협회, 인공지능(AI) 워터마크 기술 동향 보고서(2025.01). 일부 수정]

 관련 메타데이터, 워터마크 방식 등 투명성 정보 표시 기술, 인공지능 생성물 생명주기(생성물 생성-제공-활용) 정의, 각 생명 주기별 이해관계자 및 요구사항 등을 제공할 예정이다.

 본 표준은 TTA AI신뢰성센터에서 제안하고, 한국조폐공사, 성균관대학교가 참여하여 TTA 인공지능 기반기술 프로젝트그룹(PG1005)에서 연내 제정을 목표로 추진 중이다. 해당 프로젝트그룹에는 한국전자통신연구원, 한림대학교, 한국마이크로소프트(유) 등 16개의 산·학·연 기관이 참여하고 있다.

 TTA 손승현 회장은 “인공지능 생성물 활용 범위가 사회 전반으로 확대되고 있는 만큼, 사회 전체의 안전한 정보 유통에 있어 인공지능 생성물에 대한 투명성은 보다 중요해지고 있다.”며, “이번 표준화를 통해 인공지능 생성물 활용성 확대와 신뢰할 수 있는 정보 유통 환경 조성에 기여할 수 있을 것”이라고 밝혔다.

 한편, TTA는 국내 ICT 및 ICT 융합 분야의 대표적인 표준개발기구이며, 자세한 정보는 TTA 홈페이지(https://tta.or.kr)에서 확인할 수 있다.

※ 자세한 사항은 첨부 파일을 참고하시기 바랍니다.