EU AI 콘텐츠 표시 의무 8월 2일 시행…한국 기업도 사정권
유럽연합(EU)의 인공지능(AI) 콘텐츠 투명성 규정이 8월 2일부터 시행된다. AI법(AI Act) 제50조에 담긴 이 규정은 챗봇 등 AI 시스템을 이용하는 소비자에게 자신이 AI와 대화하고 있다는 사실을 명확히 알리고, AI로 만들어진 이미지·텍스트·음성 등의 콘텐츠에는 식별 가능한 표시를 붙이도록 의무화하는 내용을 담고 있다. 2024년 발효된 AI법의 여러 조항 가운데 소비자와 가장 직접적으로 맞닿아 있는 규정이 실제 효력을 갖게 되는 첫 사례로 꼽힌다.
구체적으로는 딥페이크 영상이나 이미지, 공적 관심사를 다루는 AI 생성 텍스트, 챗봇 응답 등이 규제 대상이다. EU 집행위원회가 마련한 실행지침은 암호화 서명 메타데이터인 C2PA와 육안으로 식별되지 않는 워터마크를 결합한 다층적 표시 방식을 권고하고 있다. AI 기업들이 자사 생성물에 눈에 보이지 않는 신호와 눈에 보이는 표기를 함께 심어, 이용자와 플랫폼이 AI 산출물임을 쉽게 구분할 수 있게 하겠다는 취지다.
다만 이번에 시행되는 것은 투명성·표시 의무에 한정된다. 애초 이번과 같은 날 적용될 예정이었던 고위험 AI 시스템에 대한 별도 규제는 2027년 12월 2일로 시행 시점이 16개월 미뤄졌다. 채용, 신용평가, 의료기기 등에 쓰이는 고위험 AI에 대한 엄격한 인증·관리 의무는 유예됐지만, 콘텐츠 표시 의무만큼은 예정대로 효력을 갖게 된 것이다.
규정을 지키지 않는 기업에는 상당한 규모의 과징금이 부과된다. 위반 시 최대 1500만유로 또는 전 세계 연매출의 3% 가운데 더 큰 금액이 부과될 수 있으며, EU 산하 기관이 위반할 경우에는 최대 75만유로의 과징금이 적용된다. 집행은 개별 회원국의 시장감시당국이 맡는 분권화된 구조여서 국가별로 단속 강도가 다르게 나타날 수 있다는 관측도 나온다. 8월 2일은 규정이 적용되는 시점이자 동시에 당국이 실제로 과징금을 부과할 수 있는 권한을 갖게 되는 시점이라는 점에서 의미가 크다.
기술적 난제도 남아 있다. 주요 AI 기업들이 EU 집행위의 실행지침(Code of Practice)에 서명했지만, 정작 AI 생성물을 정확히 탐지하고 표시하는 기술 자체가 여전히 발전 중인 '움직이는 목표'라는 우려가 업계 내부에서 제기되고 있다. 표시 규격이 기업마다 조금씩 다르게 구현될 경우 이용자 입장에서는 오히려 혼란이 커질 수 있다는 지적도 나온다. 워터마크를 지우거나 우회하는 기술이 함께 발전하고 있어, 표시 의무만으로 딥페이크 확산을 얼마나 억제할 수 있을지에 대한 회의적 시각도 있다.
이번 규정은 EU에 법인이 없더라도 결과물이 유럽 이용자에게 노출되면 적용될 수 있어, 챗봇이나 생성형 AI 서비스를 운영하며 유럽 시장에 진출한 한국 기업들도 예외가 아니다. 국내 AI 기업들 사이에서도 라벨링 체계를 자사 서비스에 어떻게 반영할지를 둘러싼 대응 논의가 이달 들어 활발해지고 있는 것으로 전해진다. 유럽 사업 비중이 크지 않은 기업이라도 향후 서비스 확장을 염두에 두고 있다면, 지금부터 콘텐츠 표시 체계를 미리 갖춰두는 것이 과징금 리스크를 줄이는 길이라는 조언이 나온다.