2024.06.16 (일)

  • 맑음동두천 19.2℃
  • 구름많음강릉 21.7℃
  • 맑음서울 21.5℃
  • 맑음대전 20.5℃
  • 구름많음대구 21.8℃
  • 구름많음울산 20.6℃
  • 구름조금광주 23.2℃
  • 맑음부산 21.5℃
  • 맑음고창 21.6℃
  • 구름조금제주 23.4℃
  • 맑음강화 20.6℃
  • 맑음보은 19.6℃
  • 맑음금산 21.5℃
  • 맑음강진군 22.4℃
  • 구름많음경주시 21.6℃
  • 맑음거제 22.1℃
기상청 제공

헤드라인

생성AI, 벌써부터 위조 문제 심각하게 떠 올라

제페토 등 '워터마크' / 크리에이터용 생성 AI 활용 가이드라인 구축

인공지능(AI)이 만든 사진이나 이미지를 식별할 수 있도록 워터마크(라벨)를 넣는 움직임이 해외 플랫폼을 중심으로 나타나고 있다. 허위 정보 유포나 위변조를 막기 위해서인데, 국내에서는 제페토가 이런 트렌드에 맞춰 워터마크 도입 정책 마련에 분주한 모습이다.

31일 관련업계에 따르면 AI로 생성한 콘텐츠 식별 문제가 쟁점으로 떠오른 가운데 구글 딥마인드가 생성 AI로 만든 이미지에 디지털 워터마크를 자동으로 붙여주는 기술을 공개해 주목을 받았다.

 

인스타그램은 메타 AI로 만들어진 게시물에 워터마크를 붙일 예정이다. 최근 외신을 통해 보도됐으며, 인스타그램이 AI가 만들거나 수정한 콘텐츠를 식별하기 위해 라벨 작업중이라는 소식이다.

틱톡 또한 AI가 만든 콘텐츠가 포함된 동영상을 업로드할 때 워터마크를 추가하는 기능을 만들었다. 커뮤니티 지침을 위반하면, 플랫폼 내에서 콘텐츠가 제거될 수 있다.

 

 

국내선 제페토 등이 워터마크 적용 추진

 

국내에서는 제페토가 AI 기술 부작용을 막기 위해 노력중이다. 제페토는 공식 블로그를 통해 "생성 AI는 큰 잠재력을 갖고 있지만, 우려의 목소리도 적지 않다"며 "어떤 데이터를 사용해 AI 모델을 학습시키는지, AI가 생성한 콘텐츠를 인간의 창작물과 어떻게 구별할 수 있는지에 대한 우려가 있다"고 지적했다.

 

그러면서 AI 기술을 책임감 있게 활용하기 위한 조치와 노력에 대해 공유했다.

먼저 제페토는 내부 제작 콘텐츠 중에서 생성 AI 기술 활용으로 제작된 콘텐츠는 구분할 수 있도록 워터마크를 도입하기로 했다.

 

크리에이터 제작 콘텐츠도 마찬가지로 제작 과정에 AI 활용 여부를 공개하는 것을 의무화할 예정이다. 이를 위해 크리에이터들을 위한 생성 AI 활용 가이드라인도 구축했다. 또 창작자 권리 보호를 위해 AI 콘텐츠 공지 영역에 지적 재산권 정책 링크를 추가해 사용자가 저작권 위반 사례를 신고할 수 있도록 별도 신고 채널을 제공할 예정이다.

 

생성AI 기술이 발전하면서 허위정보 무차별 유포 문제가 전 세계적인 관심사로 떠올랐다. 특히 AI가 생성한 허위 조작 이미지를 구분해주는 가려내는 것이 중요한 과제로 대두되고 있다.

 

 

#생성AI  #위조AI

 

 


포토뉴스