메타, AI 생성 이미지 식별 위한 워터마크 도입

생성형 인공지능(AI)이 만든 사진과 실제 사진의 경계가 모호해지고 있으며, 허위 정보가 무분별하게 생산되고 확산될 우려가 커지고 있습니다. 이에 대응하여 메타 플랫폼(META)이 페이스북과 인스타그램, 스레드 상에서 인공지능이 만든 사진이나 이미지를 식별할 수 있도록 워터마크(라벨)를 탑재하기로 하였습니다.

 

메타의 워터마크 도입 계획

현재 메타 AI 기능을 사용해 생성된 이미지에는 'Imagined with AI'라는 라벨이 적용되고 있으며, 이러한 작업을 다른 회사의 도구로 생성된 콘텐츠에도 확대할 계획이라고 밝혔습니다. 또한, 메타는 관련 기업들과 협력하여 공통 기술 표준을 조정해 왔으며, 페이스북, 인스타그램, 스레드 서비스 내에서 AI로 생성된 콘텐츠에 라벨을 붙이는 기능을 탑재할 것이라고 밝혔습니다.

 

메타는 또한 자체 도구로 만든 콘텐츠에도 라벨을 붙이고 있으며, 이는 메타가 생성형 AI 기능을 구축하며 이행했던 책임감 있는 접근 방식의 중요한 부분입니다. 더불어, 메타는 타사 기업들의 플랫폼을 활용해 만든 AI 콘텐츠에도 라벨을 붙이겠다는 방침을 밝히고 있습니다.

메타의 기술적 대응

메타는 AI 생성 콘텐츠의 보이지 않는 마커를 제거할 우려가 있음에도 불구하고, 다양한 옵션을 개발하여 기술적으로 마커를 제거하더라도 AI 콘텐츠를 감지하는 수준까지 끌어올리는 방안을 모색하고 있습니다. 이에 대한 구상 중 하나로, 메타의 AI 연구소는 최근 'Stable Signature'라는 눈에 보이지 않는 워터마킹 기술에 대한 연구를 공유했습니다. 이 기술은 일부 유형의 이미지 생성기의 이미지 생성 프로세스에 워터마킹 메커니즘을 직접 통합하여 워터마킹을 비활성화할 수 없도록 하는 것으로, 오픈 소스 모델에 유용할 수 있습니다.

 

최근 들어 AI 생성 이미지로 인한 피해 사례가 속출하고 있는 가운데, 메타의 워터마크 도입 및 기술적 대응은 이러한 문제에 대한 대응책으로 주목받고 있습니다. 하지만 이러한 기술적 대응은 AI 생성 콘텐츠의 보이지 않는 마커를 제거할 우려와 함께 논의되어야 할 사안 중 하나입니다. 앞으로 메타와 같은 플랫폼이 AI 생성 콘텐츠의 식별 및 관리에 어떠한 방향으로 발전하고 있는지 주목할 필요가 있습니다.