갤럭시 S24가 딥페이크 잡으려 탑재한 기술, 'AI 워터마크'란

삼성전자는 신작 스마트폰 '갤럭시 S24 시리즈'에 AI 워터마크를 표기한다고 발표했다. 이는 최근 논란을 빚는 딥페이크 논란을 피하고, AI 규제법에 대응하기 위한 조치다.

갤럭시 S24 시리즈는 온디바이스 AI인 갤럭시 AI를 비롯해 생성형 AI가 탑재됐다. 생성형 AI는 기존에 없던 이미지를 만들어내는 기술로, 사진 속 피사체의 위치를 옮기고 크기를 조정하는 기능 등에 활용된다.

삼성전자는 생성형 AI로 만들어진 모든 이미지에 워터마크를 표기하기로 했다. 워터마크는 이미지 자체와 메타데이터(Metadata, 속성정보) 모두에 표시된다.

왜 AI 워터마크를 표기하나

인공지능(AI)의 발전으로 가짜 뉴스, 딥페이크 등 AI 기술을 악용한 범죄와 부작용이 증가하고 있다. 이에 따라 AI 생성물에 대한 식별과 저작권 보호를 위해 AI 워터마크 기술이 주목받고 있다.

AI 워터마크는 AI 생성물의 출처를 식별하고 저작권을 보호하기 위한 기술이다. 가짜 뉴스, 딥페이크 등 AI 기술을 악용한 범죄와 부작용을 방지하기 위한 목적으로도 활용될 수 있다.

특히, 딥페이크는 AI 기술을 이용하여 실제 사람의 얼굴이나 목소리를 합성하는 기술이다. 최근에는 정치인이나 연예인의 얼굴을 합성한 딥페이크 영상이 유포되어 논란을 일으키기도 했다.

삼성전자의 AI 워터마크 표기 결정은 딥페이크 논란과 AI법안을 선제적으로 대응한 것으로 평가받고 있다.

AI 워터마크의 종류

AI 워터마크는 AI가 생성한 콘텐츠에 특정한 정보를 삽입하여 그 출처를 식별하고 저작권을 보호하기 위한 기술이다. AI 워터마크는 크게 두 가지 유형으로 나눌 수 있다.

첫 번째 유형은 가시적 AI 워터마크이다. 이는 AI 생성물에 눈에 보이는 형태로 표시되는 워터마크를 말한다. 예를 들어, 이미지에 워터마크 문구를 삽입하거나, 동영상에 워터마크 이미지를 삽입하는 방식이다.

두 번째 유형은 비가시적 AI 워터마크이다. 이는 AI 생성물에 눈에 보이지 않는 형태로 워터마크를 삽입하는 방식이다. 예를 들어, 이미지의 픽셀 값을 미세하게 조정하여 워터마크를 삽입하거나, 동영상의 소리에 워터마크를 삽입하는 방식이다.

삼성전자는 생성형 AI로 만들어진 이미지에 가시적 AI 워터마크를 표기할 것으로 알려졌다.

AI 워터마크가 필요한 기업들

AI 워터마크는 가짜 뉴스, 딥페이크 등 AI 기술을 악용한 범죄와 부작용을 방지하기 위해 필요한 기술이다. 따라서 AI 생성물을 다루는 기업들이라면 AI 워터마크를 도입하는 것이 필요하다.

구체적으로, AI 뉴스, AI 광고, AI 콘텐츠 등 AI 생성물을 사용하는 기업들이 AI 워터마크를 도입해야 한다. 또한, AI 생성물을 저작권으로 보호해야 하는 기업들도 AI 워터마크를 도입해야 한다.

AI 워터마크 도입 기업과 사례

AI 워터마크 기술은 AI 생성물의 위조와 변조를 방지하기 위한 목적으로 다양한 기업과 기관에서 도입되고 있다.

삼성전자

2024년 1월 출시한 스마트폰 '갤럭시 S24 시리즈'에 생성형 AI로 만들어진 모든 이미지에 워터마크를 표기한다고 발표했다. 워터마크는 이미지 자체와 메타데이터(Metadata, 속성정보) 모두에 표시된다.

네이버

2023년 12월 'AI 이미지/동영상 생성 기술 가이드라인'을 발표하고, AI 생성물에 워터마크를 표기할 것을 권고했다. 네이버는 자체 AI 생성물에 워터마크를 표기하고 있으며, 2024년부터는 파트너사들의 AI 생성물에도 워터마크 표기를 의무화할 예정이다.

LG AI 연구원

2023년 11월 'LG AI 워터마크 기술'을 개발하고, 특허 출원을 완료했다. LG AI 워터마크 기술은 AI 생성물에 눈에 보이지 않는 형태로 워터마크를 삽입하는 방식으로, 워터마크를 제거하거나 변조하기가 어렵다는 장점이 있다.

구글

2023년 10월 'AI 워터마크'를 공개하고, AI 생성물의 위조와 변조를 방지하기 위한 테스트를 진행 중이다. 구글의 AI 워터마크는 이미지의 픽셀 값을 미세하게 조정하여 워터마크를 삽입하는 방식으로, 워터마크를 제거하거나 변조하기가 어렵다는 장점이 있다.

마이크로소프트

2023년 9월 '아트 워터마크(Art Watermark)'를 공개하고, AI 생성 이미지의 저작권 보호를 위한 테스트를 진행 중이다. 아트 워터마크는 이미지의 특정 패턴을 이용하여 워터마크를 삽입하는 방식으로, 워터마크를 제거하거나 변조하기가 어렵다는 장점이 있다.

페이스북

2023년 8월 'AI 생성물 정책'을 발표하고, AI 생성물에 워터마크를 표기할 것을 권고했다. 페이스북은 자체 AI 생성물에 워터마크를 표기하고 있으며, 2024년부터는 파트너사들의 AI 생성물에도 워터마크 표기를 의무화할 예정이다.

AI 워터마크의 기술의 한계

AI 워터마크 기술에도 몇 가지 한계가 있다.

첫째, AI 워터마크는 AI 생성물의 특성에 따라 효과가 달라질 수 있다. 예를 들어, 이미지의 경우 픽셀 값을 조정하여 워터마크를 삽입하는 방식이 효과적이지만, 동영상의 경우 워터마크를 제거하거나 변조하기가 비교적 쉽다.

둘째, AI 워터마크 기술은 아직 개발 초기 단계에 있어, 워터마크를 제거하거나 변조하는 기술이 점점 발전하고 있다.

셋째, AI 워터마크는 AI 생성물의 저작권을 보호하기 위한 수단 중 하나일 뿐이며, 법적 보호를 보장하는 것은 아니다. 따라서 AI 생성물의 저작권을 보호하기 위해서는 AI 워터마크 기술과 함께 법적 보호를 위한 노력도 병행해야 한다.

AI 워터마크 기술은 AI 생성물의 저작권 보호에 효과적인 기술로 평가받고 있지만, 아직 개발 초기 단계에 있어 기술적 한계와 법적 한계가 존재한다. 따라서 AI 워터마크 기술을 효과적으로 활용하기 위해서는 기술적 한계를 극복하고 법적 보호를 강화하기 위한 노력이 필요하다.